AI가 금융 이론을 대체한다고? 아니, 둘이 손잡았다

2025년 11월 금융 AI 연구 한눈에 보기

---

들어가며

요즘 금융 분야에서 "AI가 전통 이론을 대체할 것"이라는 말을 자주 듣습니다. 마치 로봇이 사람의 직업을 빼앗듯, 딥러닝이 수학 공식을 밀어낼 것처럼요. 그런데 2025년 11월에 arXiv에 올라온 논문들을 쭉 훑어보니, 이야기가 좀 다릅니다.

이번 달에는 오히려 "금융 이론의 규칙을 AI 학습 과정에 직접 넣는다"는 방향의 연구가 쏟아져 나왔습니다. 쉽게 말하면, AI에게 "마음대로 해"가 아니라 "이 규칙은 지키면서 해"라고 가르치는 거죠. 그게 더 성과가 좋다는 게 이번 달의 핵심 메시지입니다.

2025년 11월 한 달 동안 arXiv에 올라온 금융 관련 논문 466편 중 174편이 우리 평가를 통과했고, 그중 최고 등급(A등급)을 받은 19편을 5가지 테마로 묶어 소개합니다.

---

테마 1: 옵션 가격에 "차익거래 금지"를 새기다

왜 흥미로운가

주식을 사고파는 건 비교적 단순하지만, 옵션은 좀 다릅니다. 옵션은 "만기", "행사가격", "변동성" 등 여러 변수가 얽혀 있어서 가격 표면 전체를 일관되게 만드는 게 어렵습니다. 만약 가격 표면에 허점이 있으면, 아무 위험 없이 돈을 벌 수 있는 기회(차익거래)가 생기겠죠. 그래서 옵션 트레이더들은 항상 "이 가격들 사이에 모순은 없는가?"를 확인해야 합니다.

문제는, AI(신경망)로 옵션 가격을 예측하면 속도는 빠르지만 이런 규칙을 어길 수 있다는 점입니다. 이번 달에는 이 문제를 정면으로 다룬 연구가 집중적으로 나왔습니다.

대표 논문: "증명서를 가져다주는 차익거래 없는 옵션 표면"

가장 주목할 만한 논문은 Jian'an Zhang이 쓴 "Proof-Carrying No-Arbitrage Surfaces"입니다(Composite 75.0, A등급).

이 논문의 핵심 아이디어는 세 가지를 한데 묶은 겁니다:

1. PCA-Smolyak 보간: 옵션 표면을 부드럽게 근사하는 수학적 방법
2. Chain-Consistent Diffusion: 만기별로 가격이 모순되지 않도록 훈련 과정에서 바로잡는 확산 모델
3. c-EMOT: 마팅게일(기대수익이 일정한) 제약 아래서 여러 시점의 분포를 연결하는 최적수송 기법

가장 인상적인 부분은 "계산 가능한 증명서(computable certificates)"를 제공한다는 점입니다. 그냥 "우리 모델은 차익거래가 없다고 생각해요"가 아니라, 수학적으로 확인할 수 있는 숫자를 내놓습니다. 예를 들어 KKT 조건(최적화가 잘 됐는지 확인하는 지표)이 0.0377 이하이고, 기하적 감쇠율이 1.00 이하이며, 경험적 Lipschitz 상수가 1.01 이하라는 구체적 수치와 함께요.

이 테마의 다른 논문들

• ARBITER (Composite 73.1): SPX와 VIX의 기간구조를 하나의 신경 연산자로 학습하면서, 차익거래 제약(달력·수직·버터플라이)을 디코더 구조에 직접 넣었습니다. "모델이 알아서 지키게" 만든 거죠.
• 선택적 망각 (Composite 68.1): 옵션 가격을 맞추는 캘리브레이션에서, 오염된 시세 일부만 골라서 지우는 방법을 제안했습니다. 전체를 다시 학습할 필요 없이, 수학적 연산자로 "선택적으로 잊게" 하는 겁니다.

이 테마의 공통 메시지

AI 모델의 출력이 금융 이론의 규칙(차익거래 금지, 마팅게일 조건 등)을 어기지 않도록 모델 구조 자체에 제약을 내장하는 것이, 사후 검증보다 효과적이다.

---

테마 2: AI 애널리스트가 리포트를 쓴다 — 그런데 조직이 중요하다

왜 흥미로운가

LLM(대규모 언어 모델)이 주식 예측, Q&A 등에서 뛰어난 성과를 보이면서, "AI가 애널리스트 리포트를 쓸 수 있을까?"라는 질문이 자연스럽게 나왔습니다. 이번 달에는 이 질문을 체계적으로 다룬 연구와, 더 흥미로운 발견 — 에이전트끼리 어떻게 대화하느냐가 성과를 좌우한다 — 이 동시에 등장했습니다.

대표 논문: FinRpt — 애널리스트 리포트 생성의 첫 번째 벤치마크

"FinRpt" (Composite 73.7, A등급)는 애널리스트 리포트(Equity Research Report) 생성을 처음으로 정식 과제로 정의한 논문입니다.

이 논문이 한 일을 정리하면:

• 데이터셋 구축 파이프라인: 7가지 금융 데이터 유형을 자동으로 통합하여 고품질 리포트 데이터셋 생성
• 평가 시스템: 11개 지표로 AI가 쓴 리포트를 종합 평가
• 멀티에이전트 프레임워크(FinRpt-Gen): 분석가, 리서처, 편집자 등 역할을 분리한 AI 에이전트 구조

더 흥미로운 발견: 대화 방식이 성과를 바꾼다

"Market-Dependent Communication in Multi-Agent Alpha Generation" (Composite 72.6)은 5개 LLM 에이전트로 구성된 트레이딩 시스템을 450개 실험(21개월)에서 검증한 연구입니다. 5가지 조직 구조를 비교했는데, 놀라운 결과가 나왔습니다:

• 경쟁적 대화(서로의 전략을 비판적으로 검토)는 변동성이 높은 기술주에서 성과가 좋았고
• 협업적 대화(서로 정보를 공유하며 전략을 개선)는 안정적 일반주에서 우위였으며
• 금융주는 어떤 커뮤니케이션에도 저항했습니다

가장 충격적인 발견은, 대화 품질 점수와 수익률 간 상관관계가 0이었다는 점입니다. 즉, "똑똑한 대화"가 "돈 버는 대화"를 보장하지 않는다는 뜻이죠.

이 테마의 다른 논문들

• LiveTradeBench (Composite 65.4): 실제 시장 데이터로 LLM 트레이딩 에이전트를 평가하는 라이브 환경
• LLM Output Drift (Composite 65.3): 같은 질문을 다른 LLM 제공자에게 하면 답이 달라진다는 문제를 정량화. 금융 규제보고에서 치명적일 수 있는 이 문제를 실무적으로 다룸.

이 테마의 공통 메시지

LLM 기반 트레이딩에서 단일 모델의 성능보다 에이전트 간 커뮤니케이션 구조가 더 중요하며, 최적 구조는 시장 국면에 따라 달라진다.

---

테마 3: AI가 주문을 넣는 법을 배운다 — 시뮬레이터의 진화

왜 흥미로운가

주식을 대량으로 사거나 팔 때, 시장 가격이 움직여서 예상보다 비싸게 사거나 싸게 팔게 됩니다(시장 충격). 이걸 최소화하는 게 "최적 실행" 문제인데, 강화학습(RL)이 좋은 성과를 보인다는 증거가 쌓이고 있습니다. 그런데 RL 에이전트를 훈련하려면 현실적인 시장 시뮬레이터가 필요합니다. 이번 달에는 이 시뮬레이터의 품질이 크게 좋아졌습니다.

대표 논문: ABIDES-MARL — 가격이 내부에서 형성되는 시뮬레이터

"ABIDES-MARL" (Composite 70.3, A등급)은 여러 AI 에이전트가 동시에 학습하고 의사결정하는 LOB(지정가 주문장) 시뮬레이터입니다.

기존 시뮬레이터의 한계는, 여러 에이전트가 동시에 행동할 때 타이밍이 어긋난다는 점이었습니다. ABIDES-MARL은 상태 수집과 커널 인터럽트를 분리해서 이 문제를 해결했습니다. 정보를 가진 트레이더, 유동성 트레이더, 잡음 트레이더, 경쟁 마켓메이커 등 실제 시장의 다양한 참여자를 모두 모델링할 수 있습니다.

핵심은 가격이 외부에서 주어지는 게 아니라 에이전트들의 상호작용에서 만들어진다는 점입니다. 이래야 시장 충격이나 전략적 행동을 현실적으로 실험할 수 있습니다.

실행 성과의 실증: RL-Exec

"RL-Exec" (Composite 67.3)은 BTC-USD LOB 리플레이에서 PPO 에이전트를 훈련해, 기존 TWAP/VWAP 전략을 초과하는 성과를 보여줬습니다:

실행 지평이 길어질수록 초과 성과가 커진다는 점이 흥미롭습니다. 기회주의적 타이밍의 가치가 시간과 함께 증가한다는 뜻이죠.

이 테마의 공통 메시지

GPU 가속 멀티에이전트 시뮬레이터의 등장으로 시장 미시구조 연구의 실험 속도가 획기적으로 개선되고 있으며, RL 실행 최적화가 TWAP/VWAP을 정량적으로 초과하는 실증적 증거가 축적되고 있다.

---

테마 4: 옵션 헤징에 "시장 충격"을 넣다

왜 흥미로운가

옵션을 헤징(위험을 줄이기 위해 반대 포지션을 취하는 것)할 때, 현실에서는 거래 비용과 시장 충격이 있습니다. 수학적으로 "완벽한 헤지"를 계산해도, 실제로 그 헤지를 실행하면 시장 가격이 움직여서 계산이 빗나가죠. 이번 달에는 이 현실적 제약을 수학 모델에 직접 넣는 연구가 활발했습니다.

대표 논문: 시그니처로 헤징 문제를 단순화하다

"Signature approach for pricing and hedging path-dependent options with frictions" (Composite 66.7, A등급)는 독창적인 접근법을 제시합니다.

경로의존 옵션(아시안 옵션처럼 과거 가격 경로에 따라 가치가 결정되는 옵션)의 헤징은 원래 매우 복잡한 비선형·비마르코프 확률 제어 문제입니다. 이 논문은 시그니처(signature)라는 수학적 표현을 활용해 이 문제를 선형 피드백 형태로 재구성했습니다.

핵심 발견: 시장충격이 있으면 최적 거래 전략이 자연스럽게 부드러워져서, 저차 시그니처 근사만으로도 높은 정확성을 달성할 수 있다는 점입니다. 마찰 없는 경우와는 정반대의 결과죠.

이 테마의 다른 논문들

• Robust Hedging (Composite 66.6): 모델 가정 없이(min-max) 경로의존 옵션을 정적 헤지로 구성. 마팅게일 최적수송(MOT)을 활용해 "최악의 경우"에도 견고한 헤지를 설계.
• Option Market Making (Composite 65.3): 옵션 마켓메이킹의 헤지 거래가 기초자산 가격에 충격을 준다는 점을 Cox 과정·확률 제어로 모델에 직접 결합.

이 테마의 공통 메시지

경로의존 옵션의 헤징에서 시장 충격과 거래 비용을 모델에 직접 내장하는 것이, 사후 보정보다 더 효과적이며, 시그니처 방법·MOT 등 수학적 도구가 이를 가능하게 하고 있다.

---

테마 5: 정규분포는 위험하다 — 행동 재무와 꼬리위험의 경고

왜 흥미로운가

금융에서 가장 흔한 가정이 "수익률은 정규분포를 따른다"는 겁니다. 이 가정 덕분에 수학이 쉬워지지만, 현실의 금융 시장은 "fat tail"(극단적 사건이 정규분포 예상보다 훨씬 자주 발생)을 보입니다. 2008년 금융위기처럼요. 이번 달에는 이 문제를 수치적으로 입증하는 연구가 나왔습니다.

대표 논문: Gaussian은 VaR을 19.7% 과소추정한다

"Probability Weighting Meets Heavy Tails" (Composite 70.2, A등급)는 Student-t 분포와 행동 확률가중 함수를 결합하면서도 수학적 성질(무한 가분성)을 보존하는 프레임워크를 제시합니다.

432,752개 관측치, 86개 자산, 2004~2024년 20년간의 데이터로 검증한 결과:

• Student-t 사양이 Gaussian 모델을 88.4%의 사례에서 초과
• Gaussian 모델은 99% VaR을 19.7% 과소추정 vs. 본 모델은 3.2% 과소추정

쉽게 말하면, "정규분포를 믿고 있으면 실제로 일어날 수 있는 최악의 손실을 5분의 1 정도만 예상하게 된다"는 뜻입니다. 이건 위험하죠.

이 테마의 다른 논문들

• History Rhymes (Composite 65.9): "역사는 반복된다"는 아이디어를 검색 기반으로 구현. 현재와 비슷한 거시경제 국면의 과거 사례를 찾아 예측에 활용하는 RAG 프레임워크.
• Levy-stable Scaling (Composite 65.2): VaR, ES, Sharpe ratio, Kelly criterion 등 다양한 리스크·성과 지표를 레비-안정 스케일링 규칙으로 호라이즌 보정하는 실무형 프레임워크.

이 테마의 공통 메시지

Gaussian 가정은 금융 리스크 관리에서 체계적으로 위험을 과소추정하며, heavy-tail 분포와 행동 확률가중의 결합이 이를 개선하는 실증적 증거가 축적되고 있다.

---

월 전체 Big Picture: AI와 금융 이론의 구조적 결합

2025년 11월의 연구를 관통하는 하나의 메시지가 있습니다:

"AI가 금융 이론을 대체하는 게 아니라, 금융 이론의 구조적 제약을 AI 학습에 내장하는 게 더 효과적이다."

구체적으로 보면:

• 옵션 표면의 차익거래 제약을 신경 연산자·확산 모델·선택적 망각 연산자에 직접 내장 (Proof-Carrying, ARBITER)
• RL 실행 에이전트의 훈련 환경으로 시장 미시구조를 현실적으로 시뮬레이션 (ABIDES-MARL, JaxMARL-HFT)
• 헤징 모델에 시장충격과 거래비용을 직접 반영 (Signature approach, Robust Hedging)
• LLM 에이전트의 조직 설계가 성과를 좌우 (Market-Dependent Communication)
• 분포 가정의 개선이 VaR 추정을 극적으로 향상 (Probability Weighting + Heavy Tails)

이번 달은 "AI의 힘"보다 "AI와 이론의 결합"이 빛난 달이었습니다.

---

함께하기

이런 연구를 더 빠르게 만나고 싶다면:

• 📧 뉴스레터 구독: ohselab.com
• 💬 상담 문의: 투자 리서치에 AI를 적용하는 방법이 궁금하다면
• 🐦 팔로우: 최신 논문 분석을 실시간으로

---

더 알아보기

이 글에서 다룬 논문들의 arXiv 링크입니다:

전체 19편 A등급 논문 목록은 월간 리포트 전문에서 확인할 수 있습니다.