[제13장] 과거 수익률 100% 수식의 배신! 버프 도르마이어의 과적합 경고와 전진 분석법

 

과거 차트에서는 승률 100%였던 완벽한 수식, 왜 내 돈을 넣는 순간 거짓말처럼 깨질까요?

백테스팅과 조건검색식 설계 과정에서 수많은 트레이더가 빠지는 가장 사악한 정량적 함정이 있습니다. 바로 '과적합(Overfitting / Curve-Fitting)'입니다. 과거 차트에 수식을 대입해 보며 수익률이 극대화될 때까지 매매 지표의 변수(파라미터)를 끊임없이 미세 조정하는 작업은 마치 완벽한 '투자의 성배'를 찾은 것 같은 착각을 줍니다. 하지만 이렇게 만들어진 수식은 실전 시장에 투입되는 순간 끔찍한 연속 손실과 계좌 파산을 불러옵니다.

결론부터 말씀드리면, 과거의 착시에 속지 않고 실전에서 살아남는 시스템을 구축하려면 인위적인 변수 조정을 멈추고 '달력 주기에 기반한 단순한 파라미터 세팅'을 유지해야 합니다. 나아가 데이터를 분리하여 검증하는 '전진 분석(Walk-Forward Analysis)'과 차트를 하루씩 넘기는 '수동 검증'을 통과한 전략에만 자금을 투입해야 합니다. 버프 도르마이어, 알렉산더 엘더, 엘런 S. 팔리, 레이 달리오의 시스템 검증 이론을 통합해 과적합을 완벽히 차단하는 실전 매뉴얼을 파헤쳐 보겠습니다.

1부: 통계적 파라미터 최적화와 과적합(Curve-Fitting)의 함정

① 버프 도르마이어의 '곡선 접합(Curve-Fitting)' 경고

볼륨 분석의 거장 버프 도르마이어(Buff Dormeier)는 백테스팅에서 가장 위험한 관행으로, 성공적인 결과가 나올 때까지 지표의 변수를 무한히 바꾸어 적용하는 '파라미터 최적화'를 꼽습니다.

과거 데이터에서 수익이 가장 크게 발생하는 변수 조합(예: 이동평균선 6.3일, RSI 29.8 등)을 찾을 때까지 수만 가지 경우의 수를 파헤치는 것은 신중한 전략 개발이 아닙니다. 그것은 과거의 무작위적 소음(Noise)에 주가 곡선을 강제로 끼워 맞추는 '곡선 접합(Curve-Fitting)'에 불과합니다.

과적합된 시스템은 무작위 조합이 '과거에 우연히 잘 통했다'는 사실만 보여줄 뿐, 미래에도 통한다는 보장이 전혀 없습니다. 인위적으로 최적화된 지표에 실제 자금을 투입하면 백테스팅에서는 한 번도 경험해 보지 못했던 장기간의 연속 손실을 맞이하며 계좌가 파산하게 됩니다.

② 단순성(Simplicity)의 원칙과 달력 기준 변수 세팅

그렇다면 지표의 변수는 어떻게 설정해야 할까요? 도르마이어는 변수를 세밀하게 쪼개어 최적화하려는 유혹을 버리고, 투자하는 시간 단위를 토대로 한 단순하고 직관적인 변수(Calendar-based Settings)를 유지해야 한다고 당부합니다.

[과적합 세팅 vs 달력 기준 표준 세팅 비교]

• 잘못된 과적합 세팅 (위험): 6.3일 이동평균선, 14.7일 스토캐스틱, 29.8 RSI (과거 차트 노이즈에 억지로 맞춘 수치)

• 올바른 달력 기준 세팅 (권장): 5일(1주일 트레이더 원가), 20일(4주/1개월 원가), 60일(3개월/1분기 원가) 등 실제 시장 참여자들의 호흡과 연동된 직관적 수치

달력 주기와 연동된 단순한 세팅만이 시장의 성격이 변해도 부러지지 않고 오랫동안 유연하게 작동합니다. 또한 알렉산더 엘더 박사와 랄프 빈스(Ralph Vince)가 강조하듯, 트레이더는 동전 던지기식 무작위 매매나 과적합된 착시에서 벗어나 카지노(House Advantage)처럼 나에게 절대적으로 유리한 '수학적 우위(Player's Edge)'가 확보된 시스템만을 집행해야 합니다.

2부: 과적합을 차단하는 전진 분석(Walk-Forward Analysis) 프로토콜

파라미터 과적합을 완벽하게 걸러내면서 시스템의 실전 적용 가능성을 검증하는 정석 기법은 바로 '전진 분석(Walk-Forward Analysis)'입니다.

[전진 분석을 위한 역사적 데이터(예: 5년) 분리 구조도]

[전체 역사적 주가 데이터 (100%)]

• 1구간: 인-샘플 데이터 (In-Sample, 과거 70~80% / 3~4년) ➔ 조건식 설정 및 기초 규칙 다듬기

• 2구간: 아웃-오브-샘플 데이터 (Out-of-Sample, 최근 20~30% / 1년) ➔ 미지 데이터 전진 테스트 (과적합 최종 판별)

① 인-샘플(In-Sample)과 아웃-오브-샘플(Out-of-Sample)의 분리

전체 데이터를 한꺼번에 돌려서 백테스팅하면 반드시 과적합의 덫에 걸립니다. 데이터는 반드시 두 구간으로 쪼개야 합니다.

• 인-샘플 (In-Sample Data): 전체 수집 데이터 중 과거 70%~80% 구간입니다. 나의 매매 아이디어를 정량 조건식으로 변환하고 일차적인 시스템 규칙을 다듬는 데 사용합니다.

• 아웃-오브-샘플 (Out-of-Sample Data): 시스템을 설계하고 최적화하는 과정에서 단 한 번도 시스템에 보여주지 않은 최근 20%~30%의 미지 데이터입니다. 인-샘플 구간에서 완성된 수식을 수정 없이 아웃-오브-샘플 구간에 그대로 적용했을 때도 유사한 승률과 손익비가 유지된다면, 그 시스템은 과적합을 극복한 진짜 실전 알고리즘으로 인정받습니다.

② 알렉산더 엘더 박사의 '수동 전진 분석(Manual Walk-Forward)' 4단계

엘더 박사는 자동화 프로그램이 뽑아낸 매끄러운 보고서 숫자에만 안주하지 말고, 트레이더가 직접 차트를 한 바(Bar)씩 앞으로 넘기며 검증하는 '수동 전진 분석'을 집행할 것을 강력히 권장합니다.

1. 데이터 초기화: 최소 2년 이상의 일봉 및 주간 주가·거래량 데이터를 수집하고, 차트의 가장 맨 처음(과거) 시점으로 이동합니다.

2. 멀티 타임프레임 세팅: 분석 프로그램 화면에 주간 차트와 일간 차트 창을 동시에 열어두고, 'Alt + Tab' 키를 이용해 화면을 전환할 준비를 합니다.

3. 하루씩 클릭 및 기록: 차트를 '한 번에 하루씩 앞으로(오른쪽으로) 클릭'해 나갑니다. 시가 갭이나 돌파 신호가 발생하는 순간 즉시 의사결정을 내리고, 스프레드시트에 진입가, 손실제한(Stop-Loss), 목표가를 기입합니다.

4. 실전 감각 체화: 수동 검증은 갑작스러운 시가 갭하락이나 하한가 폭락 같은 실전의 거친 변수에 직접 직면하게 해 주며, 아무것도 보이지 않는 '차트 오른쪽 끝'에서의 실전 응대 능력을 극적으로 향상시켜 줍니다.

③ 100주 단위의 소규모 포워드테스트(Forward Test)

수동 전진 검증에서 긍정적인 기대수익이 확인되었다면 당장 전 재산을 베팅해도 될까요? 절대 그렇지 않습니다. 곧바로 거액을 투입하지 말고 100주 단위의 소규모 실전 포워드테스트를 먼저 진행하십시오. 실제 장중 호가창에서 발생하는 슬리피지와 수수료를 겪어본 뒤, 실전 포워드테스트 결과가 백테스팅 수치와 오차 범위 내에서 일치하는 것이 확인될 때 비로소 정상적인 규모로 비중을 확대해야 합니다.

3부: 버프 도르마이어의 4R 검증 체계와 수익계수(Profit Factor)

시스템의 성능과 리스크 대비 수익성을 객관적으로 판별하기 위해, 버프 도르마이어가 제시한 '4R 통합 검증 지표'를 최종 잣대로 활용하십시오.

• 민감도 (Sensitivity): 거래량이 포함된 지표가 단순 주가 변동보다 한발 앞서 매수/매도 신호를 빠르게 생성하는지 평가합니다.

• 신뢰도 (Reliability): 전체 매매 횟수 중 승률(Win Rate %)이 얼마나 높은지 측정합니다. (도르마이어의 VPCI 시스템 적용 시 65%~71%의 높은 신뢰도 달성)

• 리스크 (Risk)와 수익 (Return): 손실 폭을 통제하면서 얼마나 압도적인 순수익을 내는지 '수익계수'와 '샤프지수'로 검증합니다.

[수익계수(Profit Factor) 산출 공식 및 실전 합격선]

수익계수(Profit Factor) = 총수익(Gross Profit) ÷ 총손실(Gross Loss)

• 의미: 손실 1원당 벌어들이는 이익금의 비율입니다.

• 합격 기준: 수익계수가 최소 1.5 ~ 2.0 이상(VPCI 시스템 적용 시 2.47 달성)을 유지해야 실제 시장의 거래 비용과 체결오차(슬리피지)를 모두 극복하고 장기 순수익을 창출할 수 있습니다. 또한 총수익에서 무위험 수익률을 차감한 뒤 표준편차로 나눈 샤프지수(Sharpe Ratio)가 0.7 ~ 1.0 이상일 때 위험 대비 수익률이 뛰어난 시스템으로 평가받습니다.

[실전 파라미터 최적화 및 과적합 방지 종합 체크리스트]

검증 단계 / 항목	과적합(Curve-Fitting) 위험 신호	성공적인 전진 분석(Walk-Forward) 수칙	관련 거장 및 실전 이론
파라미터 변수 세팅	소수점 단위의 복잡한 미세 최적화 세팅	5일, 20일, 60일 등 달력 주기 기준 고정	버프 도르마이어
데이터 분할 검증	전체 기간 데이터를 하나로 묶어 통검증	인-샘플(70~80%)과 아웃-오브-샘플(20~30%) 분리	레이 달리오, 알렉산더 엘더
검증 실행 방식	자동화 프로그램 보고서 수치만 맹목적 신뢰	'Alt+Tab' 활용 수동 한 바(Bar)씩 클릭 검증	알렉산더 엘더
수익계수 및 샤프지수	수익계수 1.0 미만 또는 성과 변동폭 극심	수익계수 1.5 ~ 2.0 이상 / 샤프지수 0.7 이상	버프 도르마이어
실전 투입 단계	백테스트 완료 직후 곧바로 거액 투입	100주 단위 소규모 포워드테스트 후 비중 확대	알렉산더 엘더

3줄 요약

• 과거 수익률을 높이려고 지표 변수를 소수점까지 미세 조정하는 과적합(Curve-Fitting)을 멈추고, 5일·20일·60일 등 달력 기준의 단순한 세팅을 유지하십시오.

• 전체 데이터를 인-샘플(과거 70~80%)과 아웃-오브-샘플(미지 데이터 20~30%)로 분리하여 검증하고, 차트를 하루씩 넘기는 수동 전진 분석으로 실전 감각을 익히십시오.

• 수익계수(Profit Factor) 1.5 이상과 샤프지수 0.7 이상이 입증된 전략만 채택하되, 반드시 100주 단위의 소액 포워드테스트를 거친 후 비중을 확대하십시오.

(본 포스팅은 퀀트 시스템 검증 및 백테스팅 이론에 대한 이해를 돕기 위한 교육/정보 제공 목적으로 작성되었으며, 특정 종목이나 금융상품에 대한 매수 또는 매도 추천을 의미하지 않습니다. 모든 투자의 최종 결정과 그에 따른 책임은 투자자 본인에게 있음을 알려드립니다.)

#과적합 #전진분석 #백테스팅 #수익계수 #파라미터최적화 #인샘플 #아웃오브샘플 #샤프지수 #알렉산더엘더 #버프도르마이어 #퀀트투자 #주식기초공부 #실전투자