솔직히 이건 예상 밖이었습니다. 승률이 60%인 게임에서 전재산의 20%만 걸어야 가장 빠르게 돈을 불릴 수 있다는 말, 처음 들었을 때 저도 직관적으로 납득이 안 됐습니다. 60%면 절반도 넘는데 왜 고작 20%냐고. 그런데 이 공식을 처음 만든 사람들의 이야기를 따라가다 보니, 수십 년 전 지하실에서 룰렛 장치를 만들던 두 천재의 집착이 지금 제 투자 습관까지 건드리고 있었습니다.
켈리 공식과 베팅 비율: 이길 확률이 높아도 조금만 걸어야 하는 이유
켈리 공식(Kelly Criterion)이란 자산을 가장 빠르게 복리로 불리면서도 파산 확률을 최소화하는 최적 베팅 비율을 수학적으로 계산하는 공식입니다. 쉽게 말해, 이길 때와 질 때의 확률을 알고 있다면 매번 얼마를 걸어야 장기적으로 가장 유리한지를 알려주는 공식입니다. 벨 연구소의 수학자 존 켈리가 고안했고, 클로드 섀넌과 에드워드 소프를 통해 투자 세계에 알려졌습니다.
공식 자체는 간단합니다. 이길 확률에서 질 확률을 빼면 됩니다. 이길 확률이 60%라면 60%에서 40%를 뺀 20%가 최적 베팅 비율이 됩니다. 여기서 중요한 개념이 파산 수학(Ruin Mathematics)입니다. 파산 수학이란, 아무리 자산이 많아도 단 한 번의 '0을 곱하는 선택'이 모든 것을 날려버린다는 수학적 원리입니다. 100억이 있어도 전부 걸었다가 지면 그 순간 자산은 0이 됩니다. 곱셈에서 0이 들어오면 이전의 모든 숫자가 무의미해지는 것과 같습니다.
제가 이 개념을 처음 접했을 때 '그건 극단적인 경우 아닌가'라고 생각했는데, 에드워드 소프의 실제 이력을 보고 생각이 바뀌었습니다. 소프는 블랙잭 카드 카운팅 논문으로 라스베가스를 뒤흔든 수학자였고, 클로드 섀넌과 함께 8개월에 걸쳐 룰렛 낙하 지점 예측 장치를 만들어 실제 카지노에서 검증까지 했습니다. 구두 밑창에 소형 컴퓨터를 넣고 발가락으로 신호를 보내는 방식이었습니다. 목숨을 건 검증이었던 셈입니다(출처: Wikipedia - Claude Shannon).
그 소프가 나중에 직접 운용사를 차리면서 켈리 공식을 그대로 쓰지 않고 하프 켈리(Half Kelly)를 선택했다는 점이 저는 더 인상적이었습니다. 하프 켈리란 켈리 공식이 제시하는 최적 비율의 절반만 베팅하는 보수적 전략입니다. 주식시장은 카드 카운팅과 달리 변수가 너무 많고, 확률 자체를 정확하게 알 수 없기 때문이었습니다. 이 선택 덕분에 소프는 1987년 블랙먼데이, 하루에 주가지수가 23% 폭락한 날에도 살아남은 거의 유일한 운용사가 됩니다.
~라고 생각하는 분들도 있는데, 저는 이 부분이 핵심이라고 봅니다. 켈리 공식을 믿더라도 절반만 쓴다는 결정은 수학적 겸손함입니다. 자신이 세운 모델이 틀릴 수 있다는 가능성을 숫자로 반영한 것이니까요.
- 켈리 공식: 이길 확률(%) - 질 확률(%) = 최적 베팅 비율
- 파산 수학: 자산이 아무리 커도 단 한 번의 올인이 전부를 0으로 만들 수 있다
- 하프 켈리: 주식처럼 변수가 많은 시장에서는 계산된 비율의 절반만 베팅
- 우위(Edge)가 없는 게임에는 아예 참여하지 않는 것이 원칙
섀넌의 도깨비와 리밸런싱: 시장이 오르지 않아도 수익이 나는 구조
클로드 섀넌은 정보 이론(Information Theory)의 창시자입니다. 정보 이론이란 모든 정보를 0과 1이라는 이진법으로 표현하고 전송할 수 있다는 수학적 토대로, 현재 디지털 세상과 인공지능의 근간이 된 이론입니다. 섀넌이 이 이론의 기초를 석사 논문에서 처음 제시한 것이 1937년이니, 우리가 지금 쓰는 스마트폰이나 AI 서비스는 90년 전 한 젊은 수학자의 놀이 같은 연구에서 비롯된 셈입니다(출처: Britannica - Claude Shannon).
그 섀넌이 투자에 적용한 개념이 바로 섀넌의 도깨비(Shannon's Demon)입니다. 섀넌의 도깨비란, 시장이 오르거나 내리거나 관계없이 현금과 위험자산을 일정 비율로 유지하며 기계적으로 리밸런싱(Rebalancing)하면 수익이 발생한다는 원리입니다. 리밸런싱이란 자산 비율이 목표치에서 벗어났을 때 팔고 사서 다시 원래 비율로 맞추는 행위입니다.
예를 들어, 주식과 현금을 각각 50%씩 보유한다고 가정합니다. 주식이 두 배로 오르면 주식 비중이 늘어나고, 이를 팔아 현금으로 옮겨 다시 50:50을 만듭니다. 반대로 주식이 반토막 나면 현금으로 주식을 사들여 비율을 복원합니다. 이 과정을 기계적으로 반복하면, 시장이 박스권에서 움직이기만 해도 결국 자산이 불어납니다. 도깨비 같다는 표현이 붙은 이유입니다.
제가 이 개념에서 실제로 써봤는데 어렵다고 느낀 부분은 '기계적으로'라는 단어입니다. 주식이 절반 날아가면 그것을 사야 하는데, 실제로 시세를 들여다보며 공포에 질린 상태에서 그 버튼을 누르기는 생각보다 훨씬 어렵습니다. 섀넌의 전업 투자자 선배 이야기가 인상적이었던 것도 그 때문입니다. 모니터 여섯 대, 블룸버그 시스템 대신 낡은 컴퓨터 한 대에 네이버에서만 하루 한 번 시세를 확인하는 방식. 시세를 자주 보면 생각을 못 하게 된다는 그 말이 저는 오히려 가장 현실적인 조언이라고 생각합니다.
~라는 의견도 있지만, 제 경험상 이건 좀 다릅니다. 섀넌의 도깨비는 상승장보다 횡보장에 강한 전략이라, 장기 상승장에서는 그냥 보유하는 바이앤홀드(Buy & Hold)가 수익률이 더 높게 나옵니다. 반면 방향을 모를 때, 특히 지금처럼 시장이 어느 쪽으로 튈지 확신하기 어려운 구간에서는 리밸런싱 원칙이 감정을 통제하는 방파제 역할을 합니다. 변동성 드래그(Volatility Drag)가 극대화되는 레버리지 ETF를 쓰는 순간, 도깨비가 위가 아니라 아래로 작동하기 시작한다는 점도 제가 이 내용을 정리하면서 새삼 확인한 부분이었습니다. 변동성 드래그란, 레버리지 상품에서 상승과 하락이 반복될 때 원금 회복이 점점 어려워지는 구조적 손실을 말합니다.
자주 묻는 질문
Q. 켈리 공식, 일반 투자자가 실제로 쓸 수 있나요?
A. 공식 자체는 간단합니다. 이길 확률에서 질 확률을 빼면 베팅 비율이 나옵니다. 문제는 주식시장에서 자신의 '이길 확률'을 얼마나 정확하게 파악하느냐입니다. 소프 같은 수학자도 주식에서는 하프 켈리, 즉 계산값의 절반만 썼습니다. 일반 투자자라면 켈리 공식보다 그 정신, 즉 '내가 틀릴 수 있으므로 현금을 남긴다'는 태도를 먼저 가져가는 것이 현실적이라고 봅니다.
Q. 섀넌의 도깨비 전략, 상승장에서도 유효한가요?
A. 상승장에서는 바이앤홀드가 수익률이 더 높게 나오는 경우가 많습니다. 섀넌의 도깨비는 시장이 횡보하거나 방향이 불명확할 때 빛을 발하는 전략입니다. 그래서 '지금이 상승장인지 횡보장인지 모르겠다'는 상황, 즉 대부분의 현실에서 유용한 원칙이라고 생각합니다.
Q. 리밸런싱은 얼마나 자주 해야 하나요?
A. 정해진 주기는 없습니다. 다만 리밸런싱을 너무 자주 하면 거래 비용이 쌓이고, 시세를 자주 들여다보다가 감정이 개입됩니다. 섀넌의 지인 전업 투자자처럼 하루 한 번만 시세를 확인하고, 비율이 목표에서 일정 폭 이상 벗어났을 때만 조정하는 방식이 감정 통제에 유리합니다.
Q. 승률이 50% 이하인 자산에도 소액 베팅은 의미 있나요?
A. 켈리 공식의 원칙상, 우위(Edge)가 없는 게임에는 아예 참여하지 않는 것이 정답입니다. 49%라도 우위가 없으면 소액이라도 베팅하는 것은 장기적으로 자산을 갉아먹습니다. 운이 좋아 단기에 수익이 날 수도 있지만, 파산 수학에 따르면 그 행위를 반복할수록 결국 0에 수렴하게 됩니다.
결론
제가 이 내용을 정리하면서 가장 오래 생각한 부분은 섀넌과 소프가 8개월 동안 지하실에서 장치를 만들었다는 대목이었습니다. 돈을 벌기 위해서가 아니라, 자기들이 세운 수학적 논리가 실제로 통하는지 증명하고 싶었다는 점이 이상하게도 투자 원칙보다 더 크게 남았습니다.
결국 투자에서 가장 무너지기 쉬운 것은 전략이 아니라 감정입니다. 켈리 공식도, 섀넌의 도깨비도, 하프 켈리도 모두 '감정을 빼고 규칙만 남기는' 방향으로 설계되어 있습니다. 많이 먹는 방법보다 죽지 않는 방법을 먼저 찾으라는 것, 그리고 시세를 자주 볼수록 판단력이 아니라 본능이 반응한다는 것. 저도 아직 이걸 완전히 지키지는 못하고 있습니다만, 적어도 지금은 원칙 없이 시장을 들여다보는 시간을 줄이는 것이 가장 현실적인 첫걸음이라고 생각합니다.