60년 된 포트폴리오 문제, 온라인 학습으로 풀 수 있을까?

오세에이아이연구소·2024년 12월 1일·13분 읽기

#포트폴리오 최적화 #리스크 버짓팅 #미러 디센트 #최적 실행 #Hawkes 프로세스 #시장 미시구조

60년 된 포트폴리오 문제, 온라인 학습으로 풀 수 있을까?

1952년 Markowitz가 평균-분산 포트폴리오를 처음 제안한 이래, "각 자산에 위험을 얼마나 배분할 것인가"라는 질문은 풀리지 않은 채 남아 있었습니다. 2024년 11월, 파리에서 온 한 연구팀이 이 문제를 온라인 최적화의 관점에서 완전히 새로 정식화했습니다.

들어가며: 돈을 나눌 때 "위험"도 나눠야 한다

가족끼리 용돈을 나눌 때가 있습니다. 큰아이는 학원비가 많고, 작은아이는 간식비가 적죠. 각자의 "필요 예산"이 정해져 있으면, 그 예산에 맞춰 나누면 됩니다.

포트폴리오 투자에서도 비슷한 문제가 생깁니다. 주식 60%, 채권 30%, 원자재 10% 이렇게 정해놓고 시작하는 대신, "전체 위험 중에서 각 자산이 담당할 위험의 비율"을 먼저 정하는 방법이 있습니다. 이것이 바로 리스크 버짓팅(Risk Budgeting)입니다.

예를 들어 "전체 포트폴리오 위험의 40%는 주식이, 30%는 채권이, 30%는 원자재가 담당하게 하자"고 정하면, 그에 맞는 비중을 계산해야 합니다. 문제는 이 계산이 생각보다 어렵다는 것입니다.

무엇이 문제였나: 왜 60년이나 걸렸을까?

Markowitz의 평균-분산 최적화는 "기대수익 대비 분산을 최소화하는 비중"을 찾는 문제입니다. 비교적 단순한 수학으로 풀립니다. 하지만 리스크 버짓팅은 다릅니다.

각 자산의 위험 기여분(risk contribution)이 사전에 정한 예산과 일치하도록 비중을 찾아야 하는데, 이 위험 기여분을 정의하는 함수가 까다롭습니다. 특히 Expected Shortfall(ES)이나 편차 측도(deviation measure) 같은 최신 리스크 측도를 쓰면, 함수의 성질이 좋아서 해가 존재한다는 것은 알지만 실제로 계산하는 방법이 마땅치 않았습니다.

기존 방법들은 주로 경사 하강법(Gradient Descent)을 썼습니다. 하지만 리스크 버짓팅 문제의 목적함수는 비중이 0에 가까워질 때 그래디언트가 발발(diverge)하는 문제가 있어서, 수치적으로 불안정했습니다.

핵심 아이디어: 미러 디센트로 "거울 속"에서 최적화하기

2024년 11월 파리 1대학의 Iglesias, Cetingoz, Frikha 세 연구자가 제안한 해결책은 미러 디센트(Mirror Descent)입니다.

경사 하강법은 현재 지점에서 그래디언트 방향으로 "직선"으로 이동합니다. 미러 디센트는 이 직선 이동을 "거울 공간"에서의 이동으로 바꿉니다. 쉽게 말하면, 일반 경사 하강법이 평면 위에서 걷는 것이라면, 미러 디센트는 구면 위에서 걷는 것과 같습니다. 비중이 0이나 1 같은 경계에 가까워져도, 거울 공간에서는 여전히 부드럽게 이동할 수 있습니다.

그림: 미러 디센트(DMD) 알고리즘의 수렴 과정. 세 축은 포트폴리오 비중의 세 성분을 나타내며, 반복마다 목표 비중(★)으로 안정적으로 수렴하는 모습을 보여줍니다.

이 논문의 핵심 기술 기여는 테이밍 팩터(taming factor)입니다. 그래디언트가 발발하는 경계 근처에서, 그래디언트 자체를 줄이는 대신 업데이트 크기를 자연스럽게 제한하는 장치입니다. 이렇게 하면 수렴이 보장되면서도, 최소해를 놓치지 않습니다.

결과: 두 가지 설정 모두에서 안정적 수렴

연구팀은 두 가지 알고리즘을 제안했습니다.

1. 확정적 미러 디센트(DMD): 정확한 그래디언트를 사용하는 경우입니다. KL divergence를 거리 함수로 쓰면, 반복 횟수 n에 대해 오차가 ~n^{-1/2+δ}로 줄어든다는 것을 증명했습니다. 쉽게 말하면 "반복을 많이 하면 할수록 정확해진다"는 보장입니다.

2. 확률적 미러 디센트(SMD): 실제 데이터에서 그래디언트를 추정해야 하는 경우입니다. 샘플 기반 추정에서도 거의 확실하게(almost sure) 수렴한다는 것을 보장했습니다.

수치 실험에서는 표준편차, Expected Shortfall, 편차 측도, Variantiles 등 다양한 리스크 측도에서 기존 SGD(확률적 경사 하강법) 대비 훨씬 안정적인 수렴을 보여줬습니다.

한계와 주의점

완벽한 해결책은 아닙니다.

구현 복잡도: SGD보다 구현이 복잡합니다. 특히 KL divergence를 거리 함수로 쓸 때, 매 반복마다 정규화(normalization) 계산이 필요합니다.
가정의 제한: 리스크 측도가 "양의 동차성(positive homogeneity)"과 "부분가산성(sub-additivity)"을 만족해야 합니다. Expected Shortfall은 만족하지만, VaR(Value-at-Risk)는 만족하지 않습니다.
실전 검증 부재: 이론적 수렴률은 증명했지만, 실제 대규모 포트폴리오(수백 개 자산)에서의 계산 시간은 아직 검증되지 않았습니다.

그래서 투자/실무엔?

이 논문이 실무에 주는 시사점은 명확합니다.

리스크 패리티 펀드를 운용하는 분들에게: 기존에 SGD 기반으로 리스크 버짓팅을 계산하면서 수치적 불안정성 때문에 골치가 아팠다면, 미러 디센트가 더 안정적인 대안이 될 수 있습니다. 특히 Expected Shortfall 기반 리스크 예산을 쓰는 경우에 적합합니다.

자산배분 전략을 설계하는 분들에게: "각 자산이 담당할 위험 비율"을 사전에 지정할 수 있는 프레임워크가 생겼다는 것은, 투자 위원회가 직관적으로 리스크 예산을 설계하고 그에 맞는 비중을 자동으로 계산할 수 있다는 뜻입니다.

다른 최적화 문제에도: 테이밍 기법은 리스크 버짓팅뿐만 아니라, 어떤 제약 최적화 문제든 그래디언트가 경계에서 발발하는 상황에 적용할 수 있는 범용 기술입니다.

함께 두 번째 논문: 보이지 않는 유동성 속에서 최적 실행하기

2411 코호트의 또 다른 A등급 논문은 부분 정보 하에서의 최적 실행 문제입니다.

대량 주문을 시장에 내놓을 때, 시장의 유동성 상태는 실시간으로 변합니다. 유동성이 풍부할 때는 작은 충격으로도 주문이 체결되지만, 유동성이 말라붙으면 같은 주문도 큰 가격 충격을 유발합니다. 문제는 유동성 상태를 직접 관측할 수 없다는 것입니다.

Chevalier, Hafsi, Vath 세 연구자는 이 문제를 숨은 마르코프 모델(HMM) + Hawkes 프로세스로 풀었습니다.

그림: 마르코프 변동 Hawkes 프로세스(MMHP)의 구조. 숨은 유동성 레짐(상태 1, 2)이 주문 도착 속도를 조절하고, 관측 가능한 주문 흐름만으로 숨은 상태를 추적하는 필터를 설계합니다.

핵심 아이디어는 분리 원리(Separation Principle)입니다. 추정(숨은 유동성 상태를 주문 흐름으로부터 추적)과 제어(최적 청산 전략 결정)를 분리해서 처리할 수 있다는 것입니다. 마치 자동차 운전에서 "앞을 관찰하면서 핸들을 조작하는" 것과 같습니다. 관찰과 조작이 독립적으로 이루어질 수 있다는 보장을 수학적으로 증명한 것입니다.

이 논문은 실제 고빈도 트레이딩에서 VWAP/TWAP 실행 알고리즘에 유동성 인식 모듈을 추가하는 방향으로 바로 참고할 수 있습니다.

2024년 11월의 큰 그림

이번 달 코호트는 "오래된 문제에 새로운 수학적 도구를 적용한다"는 하나의 맥으로 묶입니다.

포트폴리오 최적화 쪽에서는 Markowitz 이후 60년간 풀리지 않은 리스크 예산 배분을 미러 디센트로 정식화했고, 최적 실행 쪽에서는 관측 불가능한 유동성 속에서 청산 전략을 분리 원리로 풀었습니다. 두 논문 모두 고전적 금융 공학의 미해결 과제를 현대적 확률·최적화 프레임워크로 재구성한다는 공통점이 있습니다.

그 외에도 크립토 워시트레이딩 탐지, 페그 자산 AMM 설계, LLM 기반 기업분석 에이전트(FinRobot), 시간 인과성 VAE 등 다양한 주제가 눈에 띕니다. 특히 LLM이 단순 예측 도구를 넘어 분석 워크플로우를 자동화하는 에이전트로 진화하기 시작했다는 점은 2025년을 앞두고 주목할 만한 신호입니다.