팩터 신호 상관이 수익률 상관과 다른 이유 — 정확한 수학적 증명

퀀트 매니저들이 "이 두 팩터는 비슷하니까 둘 다 쓰지 말자"라고 판단할 때 쓰는 기준, 바로 신호 상관입니다. 그런데 이 기준이 실제 수익률 상관과 항상 일치하지 않는다는 걸 수학적으로 증명한 논문이 나왔습니다.

들어가며

여러분이 투자 전략을 짤 때, 여러 개의 "신호"를 조합한다고 생각해 보세요. 예를 들어 "가치주 팩터"와 "모멘텀 팩터"가 있다고 합시다. 이 두 신호가 자산들을 비슷하게 순위 매긴다면 — 즉 상관이 높다면 — 둘 다 쓸 필요가 없다고 생각할 수 있습니다. 비슷한 걸 두 번 사는 셈이니까요.

그런데 여기서 한 가지 의문이 생깁니다. "신호가 비슷하다"는 것과 "수익률이 비슷하게 움직인다"는 것이 정말 같은 말일까요?

직관적으로는 당연히 같아 보입니다. 하지만 퀀트 투자 세계에서 이 둘을 혼동하면 의도치 않게 리스크를 집중시킬 수 있습니다. 이 문제를 정확한 수학으로 풀어낸 논문이 있어서 소개합니다.

무엇이 문제였나

퀀트 포트폴리오를 구성하는 사람들은 보통 이렇게 판단합니다:

1. 여러 투자 신호(팩터)를 만든다
2. 신호 간 상관이 높으면 중복으로 보고 하나를 제거한다
3. 낮으면 둘 다 포트폴리오에 넣는다

이때 "상관"을 측정하는 방법이 두 가지입니다:

• 신호 상관: 특정 날짜에 모든 자산에 걸쳐 두 신호가 얼마나 비슷한지 (횡단면 상관)
• PnL 상관: 시간이 지나면서 두 신호의 실제 수익률이 얼마나 같이 움직이는지 (시계열 상관)

2004년에 Sorensen, Qian, Schoen, Hua라는 연구자들이 시뮬레이션으로 "이 둘이 항상 일치하지 않는다"는 걸 발견했습니다. 하지만 "왜 그런지"를 정확히 설명하지는 못했습니다.

핵심 아이디어: 두 상관의 분해

이 논문의 저자 Marc Nunes는 이 문제를 기하학적으로 접근했습니다.

비유로 이해하기

모든 자산의 수익률을 하나의 방향 벡터로 생각해 보세요. 마다 나무에서 바람이 불어오는 방향이 "오늘 시장이 어디로 갔는지"를 나타낸다고 합시다.

각 투자 신호도 같은 공간에서 하나의 벡터입니다. 이 벡터를 바람 방향(수익률 방향)으로 분해하면:

• 세로 성분(종방향): 바람 방향으로의 투영 = 이 신호가 오늘 시장을 얼마나 맞췄는지 = 실현 IC(Information Coefficient)
• 가로 성분(횡방향): 바람과 수직인 나머지 = 수익률로 설명되지 않는 신호의 독자적 정보

이 분해를 수식으로 쓰면:

신호 상관 = IC 교차모멘트(C_IC) + 횡단면 잔차 유사성(C_perp)

• C_IC: 두 신호의 IC가 시간에 걸쳐 얼마나 같이 움직이는지
• C_perp: 수익률을 빼고 남은 정보가 얼마나 비슷한지 (편상관)

PnL 상관은 다릅니다

반면 PnL 상관은 오직 IC 성분만 봅니다. 거기에 세 가지 변환이 더 붙습니다:

1. 분산 가중: 수익 분산이 큰 날(시장이 크게 움직인 날)에 더 큰 가중치
2. 중심화: 기대 수익(알파) 성분을 빼고, 예상치 못한 부분만 비교
3. 정규화: 신호 자체의 크기가 아니라 수익률 시리즈의 변동성으로 나눔

결과 — 무엇을 알아냈나

핵심 정리: 비식별성(Non-Identifiability)

논문의 가장 중요한 결과입니다:

자산 수가 4개 이상(d ≥ 4)일 때, 횡단면 잔차 기하(C_perp)에 제약이 없으면, 신호 상관과 PnL 상관 어느 쪽도 다른 쪽을 결정하거나 유의미하게 제한하지 않는다.

쉽게 말하면: 신호 상관이 높다고 PnL 상관도 높은 것이 아니고, 반대도 마찬가지입니다.

이것이 왜 실무에서 중요한가 하면, 많은 퀀트 매니저가 "신호 상관 ≈ PnL 상관"이라는 근사를 암묵적으로 사용하고 있기 때문입니다. 이 논문은 그 근사가 성립할 수도 있고 안 할 수도 있다는 것을 정확한 수학으로 보여줍니다.

수치로 보면

실제로 이 논문은 합성 실험으로 다음을 보여줍니다:

• 동일한 IC 패턴을 가진 두 신호라도, 횡단면 잔차 구조에 따라 PnL 상관이 0에 가까울 수도, 0.8 이상일 수도 있음
• 반대로 PnL 상관이 높은 두 신호도 신호 상관은 낮을 수 있음

최적 조합 문제

논문은 또한 "어떤 신호들을 어떻게 조합할 것인가"라는 문제에도 기여합니다. 정규화된 앙상블에서 횡단면 그램 행렬(transverse Gram matrix)이 조합 분모에 들어가며, 위험 지표가 신호 스팬 위에서 등방적(isotropic)일 때만 유클리드 조합과 일반 공분산 위험 조합이 일치합니다.

한계와 주의점

이 논문에는 몇 가지 가정이 있습니다:

• 신호가 중립적(자산 평균이 0)이고 단위 크기여야 합니다. 실무에서는 보통 신호를 정규화하므로 큰 제약은 아닙니다.
• 자산 수가 4개 이상이어야 비식별성이 확실히 성립합니다. 포트폴리오 보통 수십~수백 개 자산을 다루므로 이 조건은 충족됩니다.
• 이 논문은 "어떻게 하면 상관을 정확히 측정하나"에 대한 것이지, "수익률을 더 잘 예측하나"에 대한 것이 아닙니다. 진단 도구이지 예측 모델이 아닙니다.

그래서 투자/실무엔?

이 논문이 퀀트 포트폴리오 실무에 주는 시사점은 명확합니다:

첫째, 팩터 진단 도구로 활용할 수 있습니다. 기존에는 "이 두 팩터 상관이0.7이니까 중복이다"라고 판단했다면, 이제는 "상관0.7 중에서 IC 기여분은 얼마이고, 횡단면 잔차 기여분은 얼마인가"를 분리해서 볼 수 있습니다.

둘째, 리스크 관리가 더 정교해집니다. PnL 상관은 분산 가중·중심화·정규화가 포함되므로, 단순 신호 상관으로 리스크를 추정하면 시장 스트레스 상황에서 실제 의존성을 과소평가할 수 있습니다.

셋째, 최적 팩터 조합의 기준이 바뀝니다. 등방성 가정이 깨지는 경우(대부분의 실무 환경) 유클리드 거리 기반 조합과 위험 지표 기반 조합이 다르게 나옵니다.

함께하기

퀀트 투자와 AI 트레이딩 최신 연구를 매일 업데이트합니다.

• 📧 뉴스레터 구독: ohselab.com
• 💬 상담 문의: ohselab.com
• 🐦 팔로우: ohselab.com

더 알아보기

• 📄 원본 논문: arXiv:2609.09588
• 📊 5차원 점수: novelty 74 / applicability 76 / rigor 72 / reproducibility 38 / insight 82 (composite 70.2)
• 🏷️ 분과: B1 (팩터 투자)
• 🔗 관련 논문: python3 scripts/kb.py related 2609.09588