2022년 11월의 AI 투자 연구: 데이터 표현이 모델보다 중요하다
2022년 11월, 전 세계 연구자들은 "더 똑똑한 AI 모델을 만드는 것"보다 "데이터를 더 잘 바라보는 방법을 찾는 것"에 집중했습니다. 금융 강화학습의 공정한 비교를 위한 인프라, 주문장 데이터 표현의 결정적 영향, 기대수익 추정 없이 포트폴리오를 구성하는 이론, 그리고 대규모 주문 청산의 수학적 최적화까지 — 네 가지 테마로 222편의 논문 중 핵심을 정리합니다.
들어가며: 안경의 색깔이 풍경을 바꾼다
같은 풍경을 봐도 선글라스를 끼면 어둡게, 빨간 안경을 끼면 붉게 보입니다. 금융 데이터도 마찬가지입니다. 주문장(order book)이라는 같은 데이터를 어떻게 표현하느냐에 따라, AI가 보는 시장은 완전히 달라집니다. 2022년 11월, 전 세계 연구자들은 "더 똑똑한 AI 모델을 만드는 것"보다 "데이터를 더 잘 바라보는 방법을 찾는 것"에 집중했습니다.
이번 달에는 금융 강화학습의 공정한 비교를 위한 인프라, 주문장 데이터 표현의 결정적 영향, 기대수익 추정 없이 포트폴리오를 구성하는 이론, 그리고 대규모 주문 청산의 수학적 최적화까지 — 네 가지 테마로 222편의 논문 중 핵심을 정리합니다.
테마 1: 금융 강화학습 — "어떻게 공정하게 비교할 것인가"
문제: 모든 연구가 자기만의 실험실에서 논문을 쓴다
금융에 강화학습(RL)을 적용하는 연구는 폭발적으로 늘어나고 있지만, 심각한 구조적 문제가 있습니다. 각 연구팀이 자기만의 데이터셋, 자기만의 환경, 자기만의 평가 방식을 사용하기 때문에, "A 알고리즘이 B보다 낫다"는 결론이 다른 연구에서는 뒤집힐 수 있다는 거예요. 마치 학생마다 다른 시험지를 보고 성적을 비교하는 것과 같습니다.
더 근본적인 문제도 있습니다. 금융 데이터에는 세 가지 함정이 있죠:
- 낮은 신호대잡음비: 주가 변동의 대부분은 잡음이고, 진짜 신호는 아주 작습니다.
- 생존 편향: 역사적 데이터에는 이미 상장 폐지된 실패 기업이 빠져 있습니다.
- 백테스트 과적합: 과거 데이터에 맞춰 전략을 최적화하면, 미래에는 오히려 성능이 떨어집니다.
FinRL-Meta의 해결책: 표준화된 시험장을 만들자
중국과 미국 연구팀( Columbia University, AI4Finance 커뮤니티)이 제안한 FinRL-Meta는 이 문제를 인프라 차원에서 해결하려는 시도입니다.
핵심 아이디어는 간단합니다. 모든 사람이 같은 시험장에서 시험을 보게 하자는 거예요. FinRL-Meta는 실제 시장 데이터를 자동으로 수집·처리하는 파이프라인을 구축하고, 수백 개의 gym 스타일 시장 환경을 제공합니다. 연구자는 자기 알고리즘만 가져오면, 이미 검증된 데이터 파이프라인과 벤치마크 전략과 바로 비교할 수 있죠.
이것이 의미하는 바는 명확합니다. 새로운 DRL 알고리즘을 도입할 때, "내 데이터에서 성능이 좋았다"는 주장 대신, 공정한 벤치마크에서의 비교 결과를 제시할 수 있게 된다는 거죠. NeurIPS 2022 Datasets and Benchmarks Track에 채택된 것도, 알고리즘 자체보다 비교 인프라의 중요성을 인정받았기 때문입니다.
실전 시사점
자기자본 운용에서 새로운 DRL 전략을 도입할 때, "과적합된 건 아닐까?"라는 의심은 항상 따라다닙니다. FinRL-Meta의 파이프라인을 활용하면, 동일한 데이터·동일한 환경에서 기존 벤치마크 전략과 공정하게 비교할 수 있어 과적합 리스크를 줄일 수 있습니다. 코드가 완전 공개되어 있으니 바로 사용 가능합니다.
테마 2: 주문장 예측 — "데이터 표현이 모델을 이긴다"
문제: 같은 데이터, 다른 결론
주문장(order book)은 시장의 "심장"입니다. 누가 얼마에 사고 팔겠다는 의사를 표시한 것들이 쌓여 있는 곳이죠. 이 주문장 데이터로 단기 가격 변동을 예측하려는 시도는 오래되었지만, 연구마다 결과가 제각각이었습니다. 어떤 연구는 "예측 가능하다"고 하고, 어떤 연구는 "불가능하다"고 합니다.
왜 이런 차이가 생길까요? 런던 Imperial College 연구팀은 그 답이 모델이 아니라 데이터 표현에 있다고 주장합니다.
볼륨 표현: 주문장을 이미지로 바라보기
기존 연구들은 주문장을 수치 배열로 표현했습니다. 예를 들어 "100주@50원, 200주@51원" 이런 식이죠. 이 논문은 여기서 한 단계 더 나아가, 주문장의 거래량 분포를 그레이스케일 이미지처럼 재구성하는 "볼륨 표현(volume representation)"을 제안합니다.
이렇게 하면 주문장의 공간적 패턴(어떤 가격대에 주문이 몰려 있는지)과 시간적 변화(주문이 어떻게 움직이는지)를 동시에 포착할 수 있습니다.
놀라운 발견: 예측 가능성은 "어디에나 있다"
이 논문의 가장 인상적인 발견은 이겁니다. 고빈도에서 중간가격(mid-price) 수익률의 예측 가능성이 단순히 존재하는 것이 아니라, 어디에나 있다(ubiquitous)는 것입니다. 모델 신뢰구간(Model Confidence Sets)이라는 통계적 검증 도구를 사용해, 이 결론을 공식적으로 뒷받침했습니다.
하지만 더 중요한 발견이 있습니다. 딥러닝 모델의 성능은 주문장 표현 선택에 강하게 의존한다는 거예요. 같은 모델을 쓰더라도, 데이터 표현을 바꾸면 성능이 근본적으로 달라집니다. 볼륨 표현이 여러 practically한 장점을 보였죠.
실전 시사점
이 발견이 실전에 의미하는 바는 명확합니다. 호가잔량 기반 단기 알파 신호를 개발할 때, 모델 아키텍처를 바꾸기 전에 데이터 표현을 먼저 개선하는 것이 비용 대비 효과적입니다. 볼륨 표현을 HFT 신호 연구와 체결 전 리스크 관리에 직접 적용할 수 있습니다.
테마 3: 리스크 버짓팅 — "기대수익을 추정하지 않고 포트폴리오를 짜는 법"
문제: 기대수익 추정이 포트폴리오를 망친다
포트폴리오 이론의 아버지 마코비츠(Markowitz)는 1952년, "기대수익과 분산을 알면 최적 포트폴리오를 만들 수 있다"고 말했습니다. 이 아이디어는 70년간 투자학의 기초였습니다. 그런데 문제가 있습니다. 기대수익률을 정확히 추정하는 건 거의 불가능하다는 거예요. 작은 추정 오차가 포트폴리오 구성에 큰 변화를 일으키니, 결과적으로 "최적"이라는 이름이 무색하게 불안정한 포트폴리오가 만들어집니다.
리스크 버짓팅의 해결책: 수익률은 잊고, 위험만 보자
프랑스 연구팀(巴黎대학교)이 제안한 리스크 버짓팅(Risk Budgeting) 프레임워크는 이 문제를 정면으로 회피합니다. 기대수익률 추정을 포기하고, 오직 위험(risk)에만 기반해 포트폴리오를 구성하자는 거예요.
가장 인기 있는 변형은 동일 위험 기여(Equal Risk Contribution, ERC) 포트폴리오입니다. 각 자산이 전체 포트폴리오 위험에 기여하는 비율을 동일하게 만드는 거죠. 예를 들어, 주식 60%·채권 40% 포트폴리오에서 주식이 위험의 90%를 담당한다면, 이건 "동일 위험 기여"가 아닙니다. ERC는 각 자산이 위험의 50%씩 담당하도록 비율을 조정합니다.
이 논문의 핵심 기여는 이겁니다. 아주 광범위한 위험 측도에 대해 리스크 버짓팅 포트폴리오의 존재성과 유일성을 수학적으로 증명했다는 거예요. 이전까지는 특정 위험 측도에서만 성립하는 것으로 알려져 있었는데, 이 논문은 그 범위를 대폭 확장했습니다.
게다가 실무적으로도 좋은 소식이 있습니다. 포트폴리오 가중치를 표준 확률적 알고리즘으로 계산할 수 있다는 거예요. 복잡한 최적화 솔버 없이도 구현이 가능합니다.
실전 시사점
기대수익 추정에 덜 의존하는 리스크 기반 자산배분 엔진을 구축하려는 자기자본 운용에 직접 적용할 수 있습니다. "각 자산이 전체 리스크에 기여하는 비율을 우리가 원하는 대로 설정할 수 있는가"라는 질문에 대한 이론적 확신과 실무 알고리즘을 동시에 제공합니다.
테마 4: 최적 청산 — "기억이 있는 시장 충격"
문제: 대규모 주문은 시장을 움직인다
주식 100주를 사는 건 시장에 영향을 주지 않습니다. 하지만 100만 주를 사면? 주가가 올라갑니다. 이걸 "시장 충격(price impact)"이라고 부르죠. 대규모 주문을 청산할 때, 이 충격을 최소화하는 것이 실행 알고리즘의 핵심 목표입니다.
기존 모델들은 시장 충격을 "기억 없는" 것으로 가정했습니다. 오늘 거래한 충격이 내일까지 남지 않는다고 본 거죠. 하지만 현실은 다릅니다. 오늘 대량 매수한 충격이 며칠에 걸쳐 서서히 사라지는 기억 효과(memory effect)가 있습니다.
Volterra 전파형: 시간에 걸쳐 감쇠하는 충격
프랑스-이스라엘 연구팀은 이 기억 효과를 Volterra 전파형(propagator)으로 모델링했습니다. 수학적으로는 복잡하지만, 직관적으로 말하면 "과거 거래의 충격이 시간이 지남에 따라 지수적으로 감쇠하지만, 완전히 사라지지는 않는다"는 모델입니다.
더 중요한 건, 이 모델에서 가격을 예측하는 신호(signal)도 함께 고려한다는 점입니다. 예를 들어, "이 종목이 곧 오를 것 같다"는 알파 신호가 있을 때, 청산 속도를 조절해 수익을 극대화하면서도 충격 비용을 관리해야 합니다.
수학적 업적: 무한차원 제어의 해석적 해
이 논문의 가장 인상적인 기여는 수학적입니다. 이 문제를 무한차원 확률적 제어 문제로 정식화하고, 자유경계 L²-값 BSDE(후방 확률미분방정식)와 연산자 값 Riccati 방정식으로 가치함수를 특성화했습니다. 그리고 이 방정식들의 해석적 해(analytic solution)를 구했습니다.
이게 왜 중요하냐면, 해석적 해가 있으면 수치 시뮬레이션 없이도 최적 전략을 실시간으로 계산할 수 있다는 거예요. 멱법칙(power-law) 커널 등 현실적인 충격 모델에도 적용 가능합니다.
실전 시사점
대규모 주문의 실행 알고리즘을 설계할 때, 알파 신호·시장 충격 감쇠·리스크를 동시에 반영하는 최적 청산 전략을 직접 구현할 수 있습니다. 해석적 해가 제공되므로 실시간 계산이 가능하며, 집행 비용 절감에 직접 기여할 수 있습니다.
월 전체 big picture: "더 좋은 측정, 더 안전한 추정"
2022년 11월의 네 가지 테마를 관통하는 하나의 메시지가 있습니다. "더 똑똑한 모델"에서 "더 좋은 측정과 더 안전한 추정"으로 방향을 전환해야 한다는 것입니다.
- FinRL-Meta는 "어떤 알고리즘이 더 좋은가"라는 질문에 답하기 전에, "어떻게 공정하게 비교할 것인가"라는 인프라 문제를 먼저 해결합니다.
- 주문장 데이터 표현 연구는 "모델을 더 좋게 만들기 전에, 데이터를 더 잘 바라보는 법을 먼저 배워라"라고 말합니다.
- 리스크 버짓팅은 "기대수익을 추정하지 않으면, 추정 오차도 없다"는 단순하지만 강력한 통찰을 제공합니다.
- 최적 청산은 "시장 충격의 기억效应를 무시하면, 실행 비용이 크게 늘어난다"고 경고합니다.
이 연구들은 2022년 말, 금융 AI가 "더 큰 모델, 더 복잡한 알고리즘"에서 "더 정확한 측정, 더 안전한 추정, 더 좋은 인프라"로 방향을 전환하고 있음을 시사합니다. 투자 시스템을 설계할 때, 모델 선택보다 데이터 표현과 평가 인프라에 먼저 투자해야 한다는 교훈입니다.
함께하기 (CTA)
ohselab.com에서 AI 기반 투자 연구의 최신 동향을 확인하세요.
- 구독: ohselab.com
- 상담: ohselab.com/contact
- 팔로우: ohselab.com
더 알아보기
관련 글
🤖 AI 연구7월의 AI 투자 연구: 더 큰 모델이 정답이 아니다
2026년 7월 시스템 트레이딩 연구 동향. LLM 에이전트 비용 최적화, DEX 라우팅 $2,400만 손실 계량화, 추세추종의 주파수 영역 해석, 포트폴리오 분포 불확실성 강건 최적화, 시계열 부트스트랩 실용화.
🤖 AI 연구AI가 주식을 예측할 수 있을까? — 2026년 3월 금융 AI 연구 리뷰
2026년 3월 금융 AI 논문 734편을 분석한 월간 종합. LLM의 시간 편향 문제, 백테스트 엔진의 숨겨진 오차, 포트폴리오 최적화의 새로운 수학, LOB 시뮬레이션의 현실화, 강화학습 트레이딩 시스템의 실전 전환까지 — 신뢰할 수 있는 금융 AI를 만드는 5가지 연구 테마를 살펴봅니다.
🤖 AI 연구GPT가 뉴스를 읽고 주가를 맞힐 수 있을까? — 2023년 4월 AI 금융 연구 종합
2023년 4월, AI가 금융에 본격 침투하기 시작한 전환기. ChatGPT의 주가 예측 능력, 강화학습 트레이딩 인프라, 포트폴리오 최적화의 수학적 발전을 살펴봅니다.