주문 흐름은 정말 언제나 중요할까? — 크립토 선물에서 밝혀진 '상태 의존성'

대부분의 트레이딩 전략은 "주문 흐름을 보면 가격이 움직인다"는 믿음 위에 세워져 있습니다. 그런데 이 믿음이 항상 맞는 건 아닐 수 있다면요?

들어가며

카페에서 음료를 주문할 때를 생각해 보세요. 평소에는 줄이 짧아서 금방 받지만, 점심시간처럼 붐비는 때에는 같은 음료를 주문해도 훨씬 오래 걸립니다. 주문 내용은 똌록, 대기 줄의 상태가 결과를 바꾸는 거죠.

주식이나 암호화폐 시장에서도 비슷한 일이 벌어집니다. 누군가 큰 주문을 넣으면 가격이 움직이는데, 그 영향력이 얼마나 될지는 당시 시장의 유동성 상태에 달려 있습니다. 이 논문은 바로 이 관계를 체계적으로 파헤칩니다.

무엇이 문제였나

지금까지 많은 연구와 트레이딩 전략이 "주문 흐름(order flow) = 가격 움직임의 핵심 단서"라고 가정했습니다. 실제로 주문 흐름이 가격 변동을 설명한다는 연구는 많습니다.

하지만 여기에는 한 가지 큰 구멍이 있었습니다. 주문 흐름의 예측력이 시장 상황에 따라 크게 달라진다는 점을 제대로 분리해서 측정한 연구가 없었던 거예요. 특히 크립토 선물처럼 변동성이 큰 시장에서는 더욱 그렇습니다.

기존 연구들은 주문 흐름과 가격 사이의 상관관계를 평균적으로 측정했지, "어떤 상태에서는 중요하고 어떤 상태에서는 그렇지 않다"는 조건부 관계를 체계적으로 규명하지 못했습니다.

핵심 아이디어: '상태 먼저(State-First)' 원칙

이 논문의 핵심 제안은 놀랍도록 단순합니다.

"주문 흐름을 분석하기 전에, 시장이 어떤 상태인지를 먼저 파악하라"

구체적으로, 연구진은 Binance의 BTCUSDT와 ETHUSDT 선물 데이터(2023~2026년)를 사용해 다음과 같은 계층적 실험을 설계했습니다.

마치 건물을 층별로 올라가듯, 한 단계씩 정보를 추가하면서 각 단계가 실제로 성능을 개선하는지 확인하는 방식입니다:

1. 1층 — 기본 기준선: 아무 호가 정보도 없이 평균적인 유동성 상태만으로 예측
2. 2층 — 거친 이전 상태: 이벤트가 발생하기 직전의 호가창을 보고, 시장이 '차분(calm)', '혼합(mixed)', '스트레스(stressed)' 중 어디에 속하는지 분류
3. 3층 — 선형 모델: 호가창의 세부 수치(스프레드, 잔량 등)를 직접 넣은 통계 모델
4. 4층 — 비선형 모델: 머신러닝(gradient-boosted classifier)으로 호가창의 복잡한 패턴 포착
5. 5층 — 주문 흐름 추가: 위 모델에 주문 흐름 정보를 덧붙임

각 층은 반드시 바로 아래 층을 개선해야만 가치를 인정받습니다. 이것이 이 논문의 엄격한 평가 프로토콜입니다.

결과 — 무엇을 알아냈나

놀라움 1: 단순한 '상태 분류'가 복잡한 모델을 이긴다

가장 흥미로운 발견은 이것입니다.

이벤트 직전의 호가창을 보고 시장이 세 가지 상태 중 어디에 속하는지만 대략적으로 분류하는 것만으로, 호가창의 모든 세부 수치를 넣은 선형 통계 모델보다 더 정확한 예측이 가능했습니다.

쉽게 말하면, "지금 시장이 스트레스 상태구나"라고 아는 것이, 호가창의 복잡한 수치를 정밀하게 분석하는 것보다 더 유용했다는 뜻입니다.

숫자로 보면, 거친 상태 분류는 기준선 대비 NLL(부정 로그우도)을 1분 수평에서 +0.034, 5분 수평에서 +0.045 개선했습니다. 반면 선형 모델(다항 로짓, 순서 로짓)은 오히려 성능이 떨어졌습니다 (음수).

비선형 머신러닝 모델만이 거친 상태 분류와 비슷한 수준의 추가 이득을 냈습니다 (+0.044, +0.060). 즉, 상태를 아는 것 자체가 핵심 정보라는 뜻입니다.

놀라움 2: 주문 흐름의 가치는 자산마다 다르다

주문 흐름이 L2 상태 모델 위에 추가되었을 때의 효과는 자산에 따라 극명하게 갈렸습니다.

ETH (이더리움)에서는 주문 흐름이 모든 시장 상태에서 유의미한 개선을 보였습니다. 특히 스트레스 상태에서 가장 큰 효과가 나타났습니다 (1분: ΔNLL +0.020, 5분: +0.016). 순열 검정(permutation test)도 명확히 통과했습니다.

반면 BTC (비트코인)에서는 상황이 다릅니다. 특정 5분 구간에서만 격리된 개선이 관찰되었을 뿐, 두 시간 수평 모두에서 통계적 유의성을 확보한 시장 상태가 없었습니다.

이것은 매우 중요한 발견입니다. BTC와 ETH를 "크립토"라는 하나의 카테고리로 묶어서 주문 흐름 전략을 적용하면, ETH에서는 효과가 있지만 BTC에서는 효과가 없을 수 있다는 뜻이니까요.

놀라움 3: 주문 흐름은 '대체재'가 아니라 '보완재'

주문 흐름만으로 예측하면, L2 상태만 사용한 모델보다 성능이 낮았습니다. 주문 흐름은 L2 상태 모델 위에 겹쳐서(add on) 사용할 때만 가치가 있었습니다.

즉, "주문 흐름으로 시장 상태를 대신할 수 있다"가 아니라, "시장 상태를 먼저 파악한 뒤, 그 위에 주문 흐름 정보를 보충으로 얹어야 한다"는 것입니다.

한계와 주의점

이 논문의 발견은 흥미롭지만, 몇 가지 중요한 한계가 있습니다.

첫째, 코드와 데이터가 공개되지 않았습니다. 논문에서 코드나 데이터셋의 공개 여부를 명시하지 않아, 동일한 실험을 재현하기 어렵습니다. 과학 연구에서 재현 가능성은 매우 중요한데, 이 부분이 확인되지 않습니다.

둘째, Binance의 BTC와 ETH 선물에만 적용되었습니다. 다른 거래소(예: CME, Bybit)나 다른 자산(주식 선물, 외환)에서도 같은 패턴이 나타나는지는 별도 검증이 필요합니다.

셋째, 유동성 상태를 단 세 가지로 나눈 것이 다소 거칩니다. 실제로는 유동성이 연속적인 스펙트럼인데, 3분위수 기준으로 세 구간만 나누면 미묘한 차이를 놓칠 수 있습니다.

넷째, 유동성 상태 전환을 예측하는 것과 실제 수익을 내는 것은 다른 문제입니다. 이 연구는 "상태를 얼마나 정확히 예측하는가"까지만 다루며, 이를 기반으로 한 주문 실행이나 포지션 결정에서의 실질 이익은 별도로 검증해야 합니다.

그래서 투자나 실무에는?

이 연구가 주는 시사점은 명확합니다.

1. "시장이 지금 어떤 상태인가"를 먼저 파악하라. 주문 흐름 분석에 바로 뛰어들기 전에, 호가창의 전반적인 유동성 상태를 확인하는 것이 더 중요합니다. 특히 크립토 선물처럼 변동성이 큰 시장에서는 더욱 그렇습니다.

2. 모든 암호화폐를 같은 방식으로 다루지 마라. BTC에서 효과 있는 전략이 ETH에서는 안 될 수 있고, 그 반대도 가능합니다. 자산별로 주문 흐름의 예측력을 개별적으로 검증해야 합니다.

3. 주문 흐름은 만능이 아니다. 주문 흐름은 시장 상태 정보를 보완하는 역할이지, 이를 대체할 수 없습니다. "주문 흐름만 보면 된다"는 접근은 위험합니다.

4. 이벤트 구간에서 특히 주의. FOMC, CPI 발표 등 매크로 이벤트 전후의 유동성 상태가 급변할 때, 주문 흐름의 의미가 달라집니다. 이벤트 전 유동성 상태가 스트레스이면 주문 흐름의 영향력이 커진다는 발견은, 이벤트 전략을 세울 때 유용한 단서입니다.

함께하기

ohselab은 AI와 머신러닝을 활용한 체계적인 투자 연구를 진행합니다. 시장 미시구조, 머신러닝 기반 예측 모델, 그리고 실제 트레이딩에 적용 가능한 연구를 찾고 계시다면:

- 🌐 ohselab.com에서 더 많은 연구를 만나보세요 - 📧 연구 협업 및 상담 문의는 웹사이트를 통해 연락해 주세요 - 🔔 새로운 논문 분석이 올라올 때 알림을 받으려면 구독해 주세요

더 알아보기

- 📄 논문 원문: arXiv:2607.09230 - 📊 PDF: 다운로드 - 5차원 KB 점수: novelty 72 · applicability 68 · rigor 61 · reproducibility 52 · insight 74 (composite 64.4, tier B) - 관련 논문: - A Deterministic Limit Order Book Simulator with Hawkes-Driven Order Flow — 호크스 과정 기반 호가창 시뮬레이터 - Nonparametric Estimation of Self- and Cross-Impact — 주문 흐름의 자기·교차 영향 비모수 추정 - TradeFM: A Generative Foundation Model for Trade-flow and Market Microstructure — 거래 흐름 기반 파운데이션 모델