승률 60%짜리 베팅에서 최적 배팅 비율은 전 재산의 20%입니다. 처음 이 수치를 봤을 때 저도 직관적으로 납득이 안 됐습니다. 절반이 넘는 확률인데 왜 겨우 20%냐고. 그런데 20년 넘게 금융 현장에서 봐온 투자자들의 실패 패턴을 떠올리면, 이 숫자가 오히려 너무 관대하다는 생각마저 듭니다. 켈리 공식이 말하는 핵심은 "얼마나 벌 수 있느냐"가 아니라 "어떻게 하면 끝까지 살아남느냐"입니다.
정보이론의 아버지 클로드 섀넌의 켈리공식·섀넌의 도깨비 전략으로 배우는 현금 보유·리밸런싱·변동성 관리 장기투자 원칙
파산의 수학 — 올인은 왜 항상 지는 게임인가
켈리 공식(Kelly Criterion)은 1956년 벨 연구소의 존 켈리가 발표한 최적 배팅 비율 계산식입니다. 여기서 켈리 공식이란, 독립 시행을 반복했을 때 장기적으로 자산이 가장 빠르게 성장할 수 있는 베팅 비율을 수학적으로 도출한 공식입니다. 쉽게 말해 이길 확률과 질 확률을 빼서 나온 숫자가 최적의 베팅 비율이 됩니다. 승률 60%라면 60에서 40을 뺀 20%, 즉 전 재산의 20%만 거는 것이 복리 성장 속도를 가장 높입니다.
그런데 일반적으로 "승률이 높으면 크게 베팅해도 된다"라고 알려져 있지만, 제 경험상 이건 정반대입니다. 2021년 가을, 팀원 한 명이 전 재산의 80% 이상을 단일 종목에 몰아넣은 계좌를 들고 왔습니다. "확신이 있었다"라고 했습니다. 저는 그때 이렇게 말했습니다. "확신이 강할수록 더 조금 넣어야 해. 틀렸을 때 다시 할 수 있어야 하잖아." 그해 4분기, 그 종목은 30% 넘게 빠졌고, 팀원은 손절도 못 한 채 이듬해 봄까지 버텼습니다.
이것이 바로 켈리가 경고한 '파산의 수학'입니다. 100억이 있어도 마지막에 0을 곱하면 자산은 0이 됩니다. 올인은 아무리 승률이 높아도 단 한 번의 실패로 게임이 끝나는 구조입니다. 켈리 공식이 40%를 초과해 베팅하는 순간 기대 성장률이 마이너스로 전환된다고 명확히 보여주는 이유가 여기에 있습니다. 버핏이 "썰물이 되면 누가 발가벗고 수영했는지 알 수 있다"라고 한 말도 결국 같은 의미입니다(출처: Berkshire Hathaway 주주서한).
- 켈리 공식 핵심: 최적 베팅 비율 = 승률 - 패률
- 배팅 비율이 40%를 넘으면 기대 성장률이 마이너스로 전환
- 단 한 번의 전액 손실(올인 파산)은 이전의 모든 수익을 0으로 만든다
- 실전에서는 켈리 공식의 절반만 쓰는 '하프 켈리' 전략이 더 안전하다
섀넌의 도깨비 — 시장이 안 올라도 돈을 버는 구조
정보 이론의 창시자 클로드 섀넌은 수학자 에드워드 소프와 함께 라스베이거스 카지노에서 룰렛의 물리적 패턴을 8개월에 걸쳐 분석하고, 실제 신발 속에 컴퓨터 장치를 숨겨 현장 검증까지 했습니다. 이 정도의 집요함이 나중에 '섀넌의 도깨비(Shannon's Demon)'라는 개념으로 이어집니다. 섀넌의 도깨비란, 자산을 주식 50%, 현금 50%로 나눠 두고 주가가 오르면 일부 팔아 현금 비율을 맞추고 내리면 현금으로 주식을 추가 매수해 다시 반반을 유지하는 기계적 리밸런싱 전략입니다. 여기서 핵심은 시장이 전혀 상승하지 않아도 이 리밸런싱만으로 복리 수익이 발생한다는 점입니다.
일반적으로는 "시장이 제자리면 수익도 없다"라고 알려져 있지만, 섀넌은 수학적으로 이것이 틀렸음을 증명했습니다. 하루 100% 오르고 다음 날 50% 내리는 패턴이 반복되면 자산은 제자리지만, 오를 때마다 일부 팔고 내릴 때마다 일부 사는 리밸런싱을 반복하면 자산이 우상향 합니다. 매매 수수료가 거의 없는 지금 환경에서는 이 전략의 실현 가능성이 섀넌 시대보다 훨씬 높습니다(출처: 한국투자증권 리서치센터).
단, 제가 직접 이 논리를 시뮬레이션해 보니 상승장에서는 그냥 보유하는 것(바이 앤 홀드)이 수익률이 더 높습니다. 오를 때마다 일부를 팔아버리니 상승분을 온전히 가져가지 못하는 것입니다. 방송에서도 이 점을 솔직하게 인정했는데, 저는 이 부분이 섀넌의 도깨비 전략에서 가장 중요한 단서라고 생각합니다. 상승장이 확실하면 바이 앤 홀드, 박스권이라면 리밸런싱 — 이 판단 자체가 또 다른 예측의 영역이 된다는 점이 이 전략의 한계입니다.
리밸런싱 — 규칙이 있어야 감정이 지지 않는다
방송에서 한 가지 논리적 충돌이 눈에 걸렸습니다. "상승장이라는 확신이 있으면 바이 앤 홀드가 맞다"라고 하면서, 동시에 "상승장인지 알 수 없으니 현금을 보유하라"라고 했습니다. 이 두 조언은 충돌합니다. 결국 "상황을 보고 전략을 바꿔라"는 말인데, 전략을 바꾸는 판단 자체가 또 다른 시장 예측이 됩니다. 규칙이 상황에 따라 달라진다면 그것은 규칙이 아닙니다.
이 점을 명확히 하지 않으면 투자자는 켈리 공식과 섀넌의 도깨비를 배웠지만, 어느 상황에서 어떤 규칙을 써야 할지 여전히 모르는 채로 방송을 끝내게 됩니다. 제 경험상 이 문제의 해법은 단 하나입니다. 상황에 따라 전략을 바꾸는 게 아니라, 처음부터 상황이 달라져도 흔들리지 않을 단순한 규칙 하나를 정하는 것입니다.
변동성 드래그(Volatility Drag)라는 개념이 있습니다. 레버리지 ETF처럼 변동성이 클수록 수익률이 장기적으로 녹아내리는 현상을 말합니다. 예를 들어 20% 하락하면 원금 회복에 25% 상승이 필요한데, 레버리지를 두 배로 쓰면 40% 하락 뒤 50% 상승해도 원금이 회복되지 않습니다. 하락폭이 커질수록 이 비대칭성은 기하급수적으로 커집니다. 에드워드 소프가 1987년 블랙먼데이에 살아남은 것은 바로 이 변동성 드래그를 알고 레버리지를 최소화한 덕분이었습니다. 하루에 주가지수가 23% 빠지던 그날, 대부분의 운용사가 파산했지만 소프의 펀드는 살아남았습니다.
저도 손절매 원칙을 세워두고 막상 떨어지면 못 판 적이 있습니다. "여기서 팔면 바보가 되는 것 같다"는 감각이 논리를 압도했습니다. 그 감각은 논리를 관장하는 전두엽이 아니라, 파충류의 뇌로 불리는 변연계가 반응하는 것이라고 합니다. 시세를 자주 볼수록 이 본능적 반응이 강해집니다. 제가 존경하는 전업 투자자 선배가 블룸버그 대신 네이버로 하루 한 번만 시세를 확인하는 이유가 여기에 있습니다. 시세에서 멀어지는 것 자체가 하나의 투자 규칙입니다.
자주 묻는 질문
Q. 켈리 공식을 주식 투자에 그대로 적용해도 되나요?
A. 켈리 공식 자체는 확률이 명확한 도박 상황을 전제로 설계됐습니다. 주식 시장은 승률 자체를 정확히 알 수 없기 때문에 에드워드 소프조차 켈리의 절반인 하프 켈리를 사용했습니다. 일반적으로 켈리 공식을 그대로 쓰면 된다고 알려져 있지만, 실제로 써보면 시장의 불확실성 때문에 계산된 비율보다 훨씬 더 보수적으로 적용하는 것이 맞습니다.
Q. 섀넌의 도깨비 전략, 지금 시장에서도 통하나요?
A. 섀넌의 도깨비는 시장이 박스권에서 횡보할 때 가장 효과적입니다. 상승장이 지속되는 구간에서는 단순 보유 전략에 수익률이 뒤처집니다. 지금처럼 방향성이 불명확한 시장에서는 유효한 전략이 될 수 있지만, 어느 국면인지 판단하는 것 자체가 또 다른 예측이 된다는 점을 먼저 인식해야 합니다.
Q. 리밸런싱은 얼마나 자주 해야 하나요?
A. 섀넌의 원래 이론에서 리밸런싱 빈도에 대한 명확한 기준은 없습니다. 다만 매매 수수료와 세금을 감안하면 너무 잦은 리밸런싱은 수익을 갉아먹습니다. 제 경험상 월별 또는 자산 비율이 정해둔 기준을 5~10%포인트 이상 벗어났을 때 한 번씩 조정하는 방식이 현실적입니다.
Q. 승률을 모를 때도 켈리 공식이 의미 있나요?
A. 켈리 공식의 진짜 가르침은 구체적인 수치보다 "우위가 없으면 베팅하지 말라"는 원칙에 있습니다. 승률이 50%를 넘지 않는다고 판단되면 아예 진입하지 않는 것이 켈리 공식의 핵심입니다. 수치를 정확히 몰라도 이 원칙만 지켜도 불필요한 손실을 상당 부분 줄일 수 있습니다.
Q. 레버리지 ETF를 섀넌의 도깨비 방식으로 운용하면 안 되나요?
A. 레버리지 ETF는 변동성 드래그 때문에 횡보 구간에서 원금이 지속적으로 녹아내립니다. 일반 자산에서 섀넌의 도깨비가 작동하는 방향과 정반대로, 레버리지 자산에서는 리밸런싱을 반복할수록 손실이 누적될 위험이 큽니다. 레버리지 ETF는 단기 방향성 매매에 사용하는 도구이지, 리밸런싱 전략과 결합할 자산이 아닙니다.
결론
켈리 공식, 섀넌의 도깨비, 하프 켈리 — 이 개념들이 공통으로 말하는 것은 결국 하나입니다. 시장은 맞출 수 없으니, 틀렸을 때 버틸 수 있는 구조를 먼저 만들어라. 25년 경력의 애널리스트도 2007년 고점을 몰랐고, 정보 이론의 천재도 주식 강의는 평생 딱 한 번 했습니다. 예측이 아니라 생존 구조가 먼저입니다.
제가 이 내용을 정리하면서 가장 크게 느낀 것은, 좋은 전략보다 감정이 끼어들지 못하도록 막는 단순한 규칙 하나가 더 중요하다는 점입니다. 현금 비율을 정해두든, 리밸런싱 주기를 정해두든, 시세 확인 횟수를 줄이든 — 본인이 지킬 수 있는 규칙 하나를 먼저 정하는 것에서 시작하시길 권합니다.