2022년 7월 AI 금융 연구 요약 — 헤징의 재발명, DeFi의 취약성, 그리고 시그니처 혁명

매달 arXiv에 쏟아지는 수백 편의 금융·AI 논문 중에서 실전에 가까운 연구를 골라 소개합니다. 이 글은 2022년 7월에 공개된 170편의 논문을 분석한 월간 종합입니다.

---

들어가며: 헤징, 그 오래된 문제의 새 해법

주식을 사고 포트폴리오를 만들었다면, 다음 고민은 언제나 같습니다 — "이 위험을 어떻게 줄일까?" 금융에서 이 질문에 답하는 행위를 헤징(hedging)이라 부릅니다. 옵션을 사거나, 반대 포지션을 잡거나, 현금을 쌓아두는 것까지 모두 헤징의 일종이죠.

문제는 "최적의 헤징"이 무엇인지를 아는 것이 생각보다 어렵다는 점입니다. 1973년 블랙-숄즈 모형이 나온 지 50년이 지났지만, 여전히 "모델이 틀리면 헤지도 틀린다"는 근본적인 문제가 남아 있습니다.

2022년 7월의 논문들은 이 문제를 여러 각도에서 공격합니다. 인공지능이 직접 헤징 전략을 학습하고, 모델 자체가 틀릴 경우를 대비한 강건한 설계를 제시하며, 심지어 탈중앙 거래소에서 발생하는 보이지 않는 비용까지 수학적으로 체계화합니다. 한 달 동안 나온 연구들을 다섯 가지 테마로 정리했습니다.

---

테마 1: 로봇 트레이더가 헤징을 배운다 — 강화학습 헤징의 진화

왜 흥미로운가?

전통적인 헤징은 이렇습니다: 블랙-숄즈 공식에 시장 데이터를 넣으면 "델타"라는 숫자가 나오고, 그만큼 주식을 사거나 팔면 됩니다. 간단해 보이지만, 현실에서는 이 공식이 자주 빗나갑니다. 시장이 급변하거나, 거래비용이 발생하거나, 변동성이 예측과 다르게 움직이면 말이죠.

2022년 7월에는 강화학습(RL)이 이 문제를 직접 풀겠다고 나선 논문들이 특히 주목받았습니다. 그중 최고 등급(A등급)을 받은 두 편이 모두 같은 연구 그룹에서 나왔다는 점이 인상적입니다.

대표 논문: Deep Hedging — 하나의 정책으로 모든 위험 수준을

"Deep Hedging: Continuous Reinforcement Learning for Hedging of General Portfolios across Multiple Risk Aversions" (arXiv: 2207.07467)

J.P. Morgan과 뮌헨 공대, 임페리얼 칼리지 런던 연구진이 함께 쓴 이 논문의 핵심 아이디어는 놀랍도록 직관적입니다.

기존의 "딥 헤징"은 특정 포트폴리오와 특정 위험 선호도에 대해서만 헤징 전략을 학습했습니다. 포트폴리오가 바뀌면, 혹은 "나는 좀 더 보수적으로 헤징하고 싶다"고 생각이 바뀌면 처음부터 다시 학습해야 했습니다.

이 논문은 하나의 정책으로 임의의 포트폴리오와 임의의 위험 수준을 동시에 처리하는 방법을 제안합니다. 비유하자면, "주문 제작 양복" 대신 "체형에 맞춰 자동으로 조절되는 스마트 양복"을 만든 셈입니다.

어떻게 가능할까요? 핵심은 선형 마르코프 표현(LMR)이라는 기법입니다. 포트폴리오를 Greeks(델타, 감마, 베가 등)와 장부가치 같은 리스크 지표로 변환하면, 서로 다른 포트폴리오라도 같은 "언어"로 표현할 수 있습니다. 이 표현의 선형성 덕분에 한 포트폴리오에서 학습한 전략을 다른 포트폴리오에 적용할 수 있게 됩니다.

검증 결과도 인상적입니다. 확률변동성(Heston) 환경에서 거래비용 0.2%를 가정하고 20만 개의 시뮬레이션 경로로 테스트한 결과, 기존 블랙-숄즈 델타 헤징보다 일관되게 좋은 효용을 보였습니다. 특히 위험회피 수준 λ를 조절하는 것만으로 "위험 중립적"(λ가 낮음)에서 "극도로 보수적"(λ가 높음)까지 매끄럽게 전환할 수 있다는 점이 실용적입니다.

한 가지 주의할 점: 이 논문은 확률변동성 환경에서만 검증되었습니다. 실제 시장의 더 복잡한 구조에서의 성능은 아직 확인되지 않았습니다.

함께 보면 좋은 논문

• Deep Bellman Hedging (arXiv: 2207.00932, A등급): 위 논문과 같은 팀의 연구로, 거래비용과 유동성 제약까지 반영합니다. 선물, 옵션, 스왑 등 다양한 파생상품을 함께 헤징할 수 있는 범용성을 강조합니다.

• Primal-Dual CMDP (arXiv: 2207.06147, B등급): 좀 더 이론적인 연구로, "안전 제약을 만족하면서 학습하는 오프라인 RL"의 샘플 복잡도 하한을 제시합니다. 포트폴리오에 레버리지 한도나 손실 제한 같은 제약이 있을 때 RL이 어떻게 작동해야 하는지에 대한 이론적 기반을 제공합니다.

이 테마의 공통 메시지

"모델을 가정하지 않고, 데이터로부터 직접 헤징 전략을 학습하되, 리스크 회피와 제약을 수학적으로 엄밀하게 반영한다." 이것이 2022년 중반 RL 헤징 연구의 방향입니다.

---

테마 2: 모델이 틀려도 괜찮도록 — 강건한 포트폴리오 설계

왜 흥미로운가?

포트폴리오를 설계할 때 우리는 보통 "수익률이 정규분포를 따른다"거나 "변동성이 일정하다"같은 가정을 합니다. 하지만 현실에서는 이런 가정이 종종 틀립니다. 2008년 금융위기, 2020년 코로나 폭락처럼 "일어날 리 없다"고 생각한 일이 벌어질 때마다, 모델 기반 포트폴리오는 큰 타격을 입습니다.

이 문제를 "모형 불확실성(model ambiguity)"이라 부릅니다. 진짜 확률분포가 무엇인지 모르는 상태에서, 그래도 최선의 결정을 내려야 하는 문제죠.

대표 논문: 가장 싼 페이오프를 찾되, 최악까지 고려해서

"Cost-efficient Payoffs under Model Ambiguity" (arXiv: 2207.02948)

이 논문은 1988년 Dybvig가 제안한 "비용효율 페이오프"라는 개념을 확장합니다. 원래 문제는 단순합니다: "목표 분포를 달성하는 가장 싸게 만들 수 있는 파생상품은 무엇인가?" 예를 들어, "1년 후에 50% 확률로 2배, 50% 확률로 0.5배가 되는 페이오프를 가장 싸게 만드는 방법"을 찾는 것이죠.

하지만 확률분포 자체가 불확실하면? 이 논문은 "가능한 모든 확률분포 중 최악의 경우에도 목표 분포를 확률적으로 지배하면서, 비용이 최소인 페이오프"를 찾는 문제를 정식화하고 풀었습니다.

놀라운 결과가 나옵니다: 최악의 경우에 해당하는 확률분포(최악 측도) 하에서의 표준 비용효율 해가 곧 강건 비용효율 해라는 것입니다. 즉, "어떤 분포가 옳은지 몰라도, 가장 나쁜 분포를 가정하고 그에 맞춰 설계하면 된다"는 것이죠.

이것은 Gilboa와 Schmeidler의 maxmin 기대효용 이론과도 연결됩니다. 불확실성 하에서 "최악을 대비하는" 합리적 의사결정자라면, 반드시 이 강건 비용효율 해를 선택하게 된다는 것이 정리로 증명되었습니다.

쉬운 비유: 우산을 살 때 "오늘 비가 올 확률이 30%인가 50%인가"를 정확히 모르더라도, "비가 가장 많이 올 경우를 대비해 가장 튼튼한 우산을 사되, 가능한 한 싸게" 사는 전략이라고 생각하면 됩니다.

함께 보면 좋은 논문

• Semi-parametric DCC Risk (arXiv: 2207.04595, B등급): 자산 간 동적 상관을 반영해 포트폴리오의 VaR(가치-at-위험)와 ES(기대부족분)를 함께 예측하는 실용적 모델입니다. 리스크 패리티나 레버리지 조절에 직접 쓸 수 있습니다.

• Uncertainty-Aware Trading Experts (arXiv: 2207.07578, B등급): 주식 예측 모델의 "시드 민감성" 문제를 다룹니다. 같은 모델이라도 랜덤 시드에 따라 결과가 크게 달라지는 것을, 여러 전문가의 불확실성을 동적으로 반영하는 라우팅으로 완화하려는 시도입니다.

이 테마의 공통 메시지

"모델이 틀릴 수 있다는 사실 자체를 모델에 반영하라." 불확실성을 무시하지 않고, 최악의 경우까지 설계에 포함시키는 것이 2022년 포트폴리오 연구의 핵심 주제입니다.

---

테마 3: 탈중앙 거래소의 보이지 않는 비용 — MEV와 시장 미시구조

왜 흥미로운가?

이더리움 위에서 돌아가는 탈중앙 거래소(DEX)에서 거래해 본 적이 있다면, 예상보다 나쁜 가격에 체결된 경험이 있을 겁니다. 그 배경에는 MEV(Maximal Extractable Value)라는 보이지 않는 비용이 있습니다.

MEV란, 블록을 생성하는 채굴자(또는 검증자)가 사용자 거래의 순서를 바꾸거나 새 거래를 끼워 넣어 얻는 초과 이익입니다. 가장 흔한 형태가 샌드위치 공격: 당신의 매수 주문 앞에 먼저 사고(프론트런), 당신이 사서 가격이 오른 뒤에 팔아(백런) 차익을 챙기는 방식이죠.

2022년 5월의 Terra-Luna 붕괴 직후라는 시점도 중요합니다. 탈중앙 금융의 구조적 취약성에 대한 연구 수요가 급증한 시기입니다.

대표 논문: MEV의 수학적 이론

"Towards a Theory of Maximal Extractable Value I: Constant Function Market Makers" (arXiv: 2207.11835)

이 논문은 Uniswap 같은 CFMM(상수함수 마켓메이커)에서의 MEV를 게임이론적으로 분석합니다. 두 가지 형태의 MEV를 정의합니다:

1. 라우팅 MEV: 여러 DEX 경로 중 어디로 거래를 보낼지 선택할 때 발생하는 가치
2. 리오더링 MEV: 거래 순서를 바꿔서 발생하는 가치 (샌드위치 공격)

흥미로운 발견이 있습니다. 직관적으로는 "샌드위치 공격이 있으면 라우팅이 나빠질 것"이라고 생각하지만, 실제로는 그 반대인 경우가 있습니다. 샌드위치 공격이 특정 경로를 덜 매력적으로 만들어, 사용자들이 다른 경로로 몰리면서 전체적인 라우팅 품질이 오히려 개선되는 현상입니다. 일종의 "역 브라스의 역설"입니다.

수학적으로도 깔끔한 결과가 나옵니다:

• 충분한 유동성이 있으면, 무정부 가격(Price of Anarchy)은 네트워크 크기와 무관한 상수로 유계
• n개 거래의 시퀀스에서 최악의 샌드위치 가격 충격은 평균 대비 O(log n)에 불과

이것은 "MEV가 아무리 많아도 시장을 망가뜨리지는 않는다"는 의미입니다. 물론 "없다"는 뜻은 아니지만, 적어도 통제 가능한 범위라는 것이죠.

함께 보면 좋은 논문

• Terra-Luna Anatomy (arXiv: 2207.13914, B등급): 2022년 5월 Terra-Luna 붕괴를 소셜미디어, 거래 데이터, 온체인 네트워크 데이터로 정량적으로 분석합니다. Anchor 프로토콜에 대한 과도한 의존성과 연쇄 실패 과정을 추적합니다.

• Scaled Beta Market Making (arXiv: 2207.03352, B등급): 시장조성 전략의 행동 공간을 "scaled Beta 분포"로 통합 표현하는 방법을 제안합니다. 기존의 단일 가격 선택, 래더 전략, 터치 전략을 하나의 프레임워크로 일반화합니다.

이 테마의 공통 메시지

"탈중앙 거래의 비용은 보이지만, 수학적으로는 통제 가능하다." MEV를 이해하고 정량화하는 것이 DeFi에서의 실행 전략과 시장 설계의 첫걸음입니다.

---

테마 4: 변동성의 수학 — 헤지의 이론적 최적성

왜 흥미로운가?

옵션을 거래하는 사람이라면 "델타 헤지"라는 말을 들어봤을 겁니다. 옵션 가격이 기초자산 가격에 따라 변하는 비율(델타)만큼 기초자산을 사고팔아 위험을 제거하는 방법이죠. 하지만 이 "단순 델타 헤지"가 항상 최선은 아닙니다. 변동성 자체가 변하는 환경(확률변동성)에서는 더 나은 방법이 있을 수 있습니다.

대표 논문: Bartlett의 델타가 이론적으로 최적이었다

"Bartlett's Delta revisited: Variance-optimal hedging in the lognormal SABR and in the rough Bergomi model" (arXiv: 2207.13573)

2006년 Wilmott 매거진에서 Bartlett이라는 사람이 경험적으로 제안한 "델타 조정 공식"이 있었습니다. 변동성과 기초자산의 상관관계(레버리지 효과)를 반영해 델타를 보정하는 방법이었죠. 당시에는 이론적 근거가 없었습니다.

이 논문은 로그노멀 SABR 모형에서 분산최적 헤지 전략이 정확히 Bartlett의 델타와 일치한다는 것을 수학적으로 증명합니다. 16년 전의 경험적 공식이 이론적으로 최적이었던 것입니다.

구체적인 결과를 보면:

• 분산최적 전략 = 델타 + 베가 × (변동성과 기초자산의 공분산 / 기초자산 분산)
• 레버리지 파라미터 |ρ|가 0.9 이상일 때만 단순 델타 대비 유의미한 개선
• 거칠기 파라미터 H가 작을수록(rough volatility에 가까울수록) 개선 효과가 감소

쉬운 비유: 비가 올 때 우산을 쓰는 것은 "델타 헤지"입니다. 하지만 바람이 강하게 불면(레버리지 효과) 우산을 비스듬히 잡아야 합니다. Bartlett의 델타는 "바람을 고려한 우산 각도"를 수학적으로 최적화한 것입니다.

함께 보면 좋은 논문

• Signature-based models (arXiv: 2207.13136, B등급): 자산가격 동학을 "경로 서명(signature)"의 선형함수로 모델링하는 보편적 프레임워크입니다. Heston, SABR 등 고전 모형을 임의의 정밀도로 근사할 수 있고, 선형 구조 덕분에 보정이 극도로 빠릅니다. S&P 500 옵션 데이터로 검증되었습니다.

• Fractional Heston Malliavin (arXiv: 2207.10709, B등급): 분수 브라운 운동을 활용한 fractional Heston 모형의 Malliavin 미분가능성을 확립합니다. 변동성 모형 기반 옵션 가격의 민감도 분석을 이론적으로 확장합니다.

이 테마의 공통 메시지

"변동성 모형을 더 정교하게 만들수록, 헤지도 더 정확해진다." 그리고 그 정교함의 방향은 "거칠고 비선형적인 현실"을 수학적으로 포착하는 것입니다.

---

테마 5: 경로의 힘 — 시계열 모형의 새로운 언어

왜 흥미로운가?

금융 시계열은 특이합니다. 주가의 미래는 과거 전체의 "경로"에 달려 있습니다. 어제 10% 올랐는지, 그제 10% 올랐는지에 따라 미래 분포가 달라질 수 있죠. 이런 "경로 의존성"을 수학적으로 다루는 것은 오래된 난제입니다.

2022년 7월에는 이 문제에 대한 새로운 수학적 도구가 주목받았습니다: 경로 서명(signature).

대표 논문: 서명으로 모든 것을 모델링한다

"Signature-based models: theory and calibration" (arXiv: 2207.13136)

"경로 서명"은 러프 패스 이론(rough path theory)에서 온 수학적 개념입니다. 간단히 말하면, 어떤 경로(예: 주가 움직임)의 전체 역사를 "반복 적분의 무한 급수"로 인코딩하는 방법입니다.

이 논문은 자산가격 동학을 이 서명의 선형함수로 모델링하는 프레임워크를 제안합니다. 놀라운 점이 세 가지 있습니다:

1. 보편성: Heston, SABR 같은 고전적 변동성 모형을 임의의 정밀도로 근사할 수 있습니다. 즉, 이 프레임워크 안에 기존 모형들이 모두 포함됩니다.

2. 보정의 속도: 시계열 데이터로 보정하면 "선형 회귀", 옵션 가격으로 보정하면 "볼록 최적화"가 됩니다. 둘 다 매우 빠르게 풀리는 문제입니다.

3. 무차익 보장: 기초 과정이 마르팅게일이면, 서명 모형도 마르팅게일인 명시적 조건을 제시합니다.

S&P 500 지수 옵션(2021년 3월 17일 데이터)으로 검증한 결과, 단 13개 파라미터(n=3 차수)로 내재변동성 곡면을 정밀하게 맞출 수 있었습니다.

이 테마의 공통 메시지

"경로의 역사를 선형 함수로 인코딩하면, 모델링과 보정이 동시에 쉬워진다." 시그니처 방법론은 금융 시계열의 비선형·경로의존 특성을 다루는 새로운 언어로 자리 잡고 있습니다.

---

월 전체 Big Picture: "모델이 틀릴 수 있다"는 전제 하의 최적화

2022년 7월의 논문들을 관통하는 하나의 메시지가 있습니다: "모델이 틀릴 수 있다는 사실을 인정하고, 그 위에서 최선을 다하라"는 것입니다.

• RL 헤징(테마 1)은 모델을 가정하지 않고 데이터로부터 직접 학습합니다.
• 강건 포트폴리오(테마 2)는 최악의 경우까지 고려합니다.
• MEV 이론(테마 3)은 탈중앙 거래의 숨겨진 비용을 수학적으로 체계화합니다.
• 변동성 모델링(테마 4)은 헤지의 이론적 최적성을 새롭게 증명합니다.
• 시그니처 이론(테마 5)은 이 모든 모델의 기반이 되는 경로 표현의 보편성을 확립합니다.

2008년 위기 이후 "모델 리스크"가 화두가 된 지 14년이 지났지만, 이 문제는 여전히 양적 금융 연구의 중심에 있습니다. 다만 2022년의 접근법은 과거보다 훨씬 정교하고, 계산적으로 실용적이며, 이론적으로 엄밀해졌습니다.

---

더 알아보기

이 글에서 다룬 논문들의 arXiv 링크입니다:

• Deep Hedging: Continuous RL (A등급)
• Deep Bellman Hedging (A등급)
• Cost-efficient Payoffs under Model Ambiguity (A등급)
• MEV Theory for CFMM (B등급)
• Bartlett's Delta Revisited (B등급)
• Signature-based Models (B등급)
• Terra-Luna Anatomy (B등급)
• Semi-parametric DCC Risk (B등급)

---

함께하기

이 글이 유익하셨다면:

• 구독: ohselab.com에서 최신 연구 요약을 받아보세요
• 상담: AI 기반 투자 전략에 대해 궁금한 점이 있으시면 연락주세요
• 팔로우: 최신 논문 분석과 시장 인사이트를 공유합니다