퀀트 투자자의 기본 사고법

투자 아이디어는 가설이다

대부분의 투자 아이디어는 이야기에서 출발합니다.

'실적이 좋아졌으니 주가가 오를 것이다.'
'PER이 낮으니 저평가되어 있다.'
'최근 강하게 오른 종목은 계속 오를 것이다.'
'배당을 많이 주는 회사는 하락장에 강할 것이다.'

이런 문장은 투자에서 자주 들을 수 있습니다. 문제는 그럴듯하다는 것과 돈이 된다는 것이 다르다는 데 있습니다. 좋은 이야기라도 실제 수익으로 이어지지 않을 수 있습니다. 반대로 별로 멋있어 보이지 않는 단순한 규칙이 꾸준히 작동할 수도 있습니다.

퀀트 투자자는 아이디어를 믿기 전에 먼저 묻습니다.

이 생각을 데이터로 확인할 수 있는가?

여기서 중요한 단어는 '확인'입니다. 퀀트 투자는 시장을 완벽히 예측하는 기술이 아닙니다. 막연한 생각을 측정 가능한 문장으로 바꾸고, 과거 데이터로 실험해보고, 그 결과를 바탕으로 더 나은 질문을 만드는 과정입니다.

즉, 투자 아이디어는 정답이 아니라 가설입니다.

가설은 맞을 수도 있고 틀릴 수도 있습니다. 그래서 좋은 가설은 검증할 수 있어야 합니다. 검증할 수 없는 문장은 투자 판단에는 도움이 될 수 있어도, 전략으로 만들기는 어렵습니다.

AI 생성 이미지

막연한 문장을 검증 가능한 문장으로 바꾸기

'좋은 주식을 사야 한다'는 말은 너무 넓습니다. 무엇이 좋은 주식인지 사람마다 다르게 해석할 수 있기 때문입니다. 어떤 사람은 실적이 좋은 회사를 말하고, 어떤 사람은 주가가 많이 오른 종목을 말하며, 또 어떤 사람은 배당을 꾸준히 주는 회사를 떠올립니다.

퀀트 투자에서는 이런 표현을 숫자로 바꿔야 합니다.

예를 들어 '싼 주식이 좋다'는 아이디어가 있다고 해봅시다. 이것을 그대로는 검증할 수 없습니다. 먼저 '싸다'를 정의해야 합니다.

• PER이 낮은 종목

• PBR이 낮은 종목

• 배당수익률이 높은 종목

• 최근 주가가 많이 하락한 종목

이 중 무엇을 사용할지 정해야 합니다. 그리고 '좋다'도 정의해야 합니다.

• 다음 1개월 수익률이 높은가?

• 다음 6개월 수익률이 높은가?

• 시장지수보다 초과수익을 냈는가?

• 하락장에서 덜 빠졌는가?

이 과정을 거치면 막연한 투자 문장이 검증 가능한 가설로 바뀝니다.

예를 들면 다음과 같습니다.

• 'PER이 낮은 상위 20% 종목은 다음 1년 동안 시장지수보다 높은 수익률을 내는가?'

• '최근 6개월 수익률이 높은 상위 10개 종목은 다음 달에도 시장보다 강한가?'

• '배당수익률이 높은 종목은 시장이 하락할 때 손실 폭이 더 작은가?'

• 'ROE가 높고 부채비율이 낮은 기업은 장기적으로 안정적인 성과를 내는가?'

이제 질문이 달라졌습니다. 처음에는 감각이었지만, 이제는 데이터로 확인할 수 있는 문장이 되었습니다.

좋은 가설의 조건

투자 가설을 세울 때는 다음 요소가 들어가야 합니다.

첫째, 대상이 분명해야 합니다. 한국 코스피 종목인지, 미국 S&P 500 종목인지, 코스닥까지 포함할 것인지 정해야 합니다. 같은 전략도 시장에 따라 결과가 다를 수 있습니다.

둘째, 지표가 명확해야 합니다. PER, PBR, 6개월 수익률, 배당수익률, ROE처럼 계산 가능한 값이어야 합니다. '좋은 기업', '유망한 산업', '튼튼한 회사' 같은 표현은 그대로는 백테스트하기 어렵습니다.

셋째, 규칙이 있어야 합니다. 언제 사고, 언제 팔고, 몇 종목을 살지 정해야 합니다. 예를 들어 '매월 말 PER이 낮은 20개 종목을 동일비중으로 매수하고, 다음 달 말에 다시 선정한다'처럼 작성해야 합니다.

넷째, 비교 기준이 있어야 합니다. 전략 수익률만 보면 착각하기 쉽습니다. 시장 전체가 40% 올랐는데 전략이 20% 올랐다면 수익은 났지만 좋은 전략이라고 말하기 어렵습니다. 그래서 코스피, S&P 500, 나스닥 같은 벤치마크와 비교해야 합니다.

다섯째, 평가 기준이 있어야 합니다. 단순히 최종 수익률만 볼 것이 아니라 변동성, 최대 낙폭, 샤프 비율, 승률, 손익비 등을 함께 봐야 합니다. 수익률이 높아도 중간에 70% 손실을 견뎌야 한다면 대부분의 투자자는 그 전략을 끝까지 실행하지 못합니다.

좋은 가설은 한 문장으로 정리할 수 있습니다.

'어떤 종목을, 어떤 기준으로, 언제 사고팔며, 무엇과 비교해, 어떤 성과를 확인할 것인가?'

이 문장에 답할 수 있다면 백테스트의 출발점에 선 것입니다.

대표적인 투자 아이디어를 가설로 바꾸기

가치 아이디어부터 보겠습니다. 가치 투자는 대체로 '가격이 싸게 평가된 자산을 사면 장기적으로 보상받을 수 있다'는 생각에서 출발합니다. 하지만 이 말만으로는 전략이 되지 않습니다.

검증 가능한 문장으로 바꾸면 다음과 같습니다.

• 매년 초 PER이 낮은 하위 20% 종목을 매수한다.

• 1년 동안 보유한 뒤 다시 PER 기준으로 종목을 교체한다.

• 같은 기간 시장지수 수익률과 비교한다.

모멘텀 아이디어는 '오른 종목이 계속 오르는가'라는 질문입니다. 이것도 규칙으로 바꿔야 합니다.

• 최근 6개월 수익률이 높은 상위 10개 종목을 고른다.

• 매월 말 종목을 다시 선정한다.

• 다음 1개월 수익률을 측정한다.

• 거래비용을 반영한 뒤 시장지수와 비교한다.

배당 아이디어는 안정성을 확인하는 방식으로 만들 수 있습니다.

• 배당수익률이 높은 상위 20% 종목을 고른다.

• 동일비중으로 포트폴리오를 구성한다.

• 상승장과 하락장에서 각각 성과를 비교한다.

• 수익률뿐 아니라 최대 낙폭도 함께 본다.

퀄리티 아이디어는 기업의 재무 건전성과 수익성을 함께 보는 방식입니다. 예를 들어 ROE가 높고 부채비율이 낮은 기업을 좋은 기업으로 정의할 수 있습니다.

• ROE 상위 30%이면서 부채비율 하위 50%인 종목을 선택한다.

• 분기별로 재무 데이터를 업데이트한다.

• 다음 1년 수익률과 변동성을 확인한다.

이처럼 투자 아이디어는 대부분 데이터 질문으로 바꿀 수 있습니다. 중요한 것은 처음부터 완벽한 전략을 만들려고 하지 않는 것입니다. 먼저 단순한 질문으로 시작하고, 결과를 보며 조금씩 다듬는 편이 좋습니다.

백테스트란 무엇인가

백테스트는 과거 데이터를 이용해 투자 전략을 실험하는 과정입니다. 쉽게 말해 '그 전략을 과거에 실행했다면 어떤 결과가 나왔을까?'를 확인하는 작업입니다.

예를 들어 2015년부터 2025년까지 매월 말 모멘텀 상위 10개 종목을 샀다고 가정합니다. 그리고 한 달 뒤 수익률을 계산합니다. 다시 다음 달 말에 종목을 고르고, 또 한 달 뒤 수익률을 계산합니다. 이 과정을 반복하면 전략의 과거 성과 곡선이 만들어집니다.

백테스트는 투자 전략의 기본 도구입니다. 이유는 분명합니다.

첫째, 감각을 숫자로 바꿔줍니다. '잘 될 것 같다'가 아니라 실제로 어느 기간에 얼마나 벌고 잃었는지 볼 수 있습니다.

둘째, 전략의 약점을 드러냅니다. 어떤 전략은 상승장에서는 좋지만 하락장에서는 크게 무너집니다. 어떤 전략은 장기 수익률은 괜찮지만 몇 년 동안 시장보다 못할 수 있습니다. 백테스트는 이런 불편한 사실을 보여줍니다.

셋째, 실행 가능성을 점검하게 해줍니다. 매일 수십 번 거래해야 하는 전략은 개인 투자자에게 맞지 않을 수 있습니다. 거래량이 적은 종목만 사는 전략은 실제 매매에서 원하는 가격에 체결되지 않을 수 있습니다.

그러나 백테스트는 미래를 보장하지 않습니다. 백테스트 결과가 좋다는 것은 '과거에는 이 규칙이 잘 맞았다'는 뜻일 뿐입니다. 미래에도 반드시 통한다는 뜻은 아닙니다.

따라서 백테스트는 확신을 주는 도구가 아니라 의심을 정리하는 도구에 가깝습니다. 나쁜 아이디어를 걸러내고, 좋은 아이디어도 어떤 조건에서 약해지는지 확인하는 과정입니다.

초보자가 반드시 피해야 할 함정

백테스트를 처음 할 때 가장 많이 빠지는 함정은 과최적화입니다. 과최적화란 과거 데이터에만 지나치게 딱 맞춘 전략을 만드는 것입니다.

예를 들어 이동평균선을 5일, 10일, 20일, 60일, 120일로 계속 바꿔보며 가장 수익률이 높은 조합을 찾았다고 해봅시다. 여기에 매수 조건, 매도 조건, 손절 조건까지 계속 추가하면 과거에는 놀라울 정도로 좋은 전략이 나올 수 있습니다. 하지만 그것은 시장의 원리를 찾은 것이 아니라 과거의 우연을 외운 것일 수 있습니다.

두 번째 함정은 생존자 편향입니다. 현재 살아남은 기업만 가지고 과거를 테스트하면 결과가 좋아 보일 수 있습니다. 이미 상장폐지되었거나 크게 망가진 기업이 빠져 있기 때문입니다. 과거에 실제로 투자할 수 있었던 전체 종목을 대상으로 해야 더 현실적인 결과가 나옵니다.

세 번째 함정은 미래 데이터 사용입니다. 이를 룩어헤드 바이어스라고도 합니다. 예를 들어 2024년 말에 발표된 재무 정보를 2024년 초 투자 판단에 사용하면 안 됩니다. 그 시점의 투자자는 그 정보를 알 수 없었기 때문입니다. 백테스트에서는 '그때 알 수 있었던 정보만 사용한다'는 원칙이 매우 중요합니다.

네 번째 함정은 거래비용 무시입니다. 수수료, 세금, 슬리피지를 빼고 계산하면 전략 성과가 과장됩니다. 슬리피지는 주문한 가격과 실제 체결 가격의 차이를 뜻합니다. 특히 자주 사고파는 전략일수록 거래비용의 영향이 큽니다.

다섯 번째 함정은 데이터 스누핑입니다. 여러 전략을 계속 시험하다 보면 우연히 좋아 보이는 결과가 나옵니다. 동전을 100번 던지는 사람을 많이 모으면, 그중에는 우연히 앞면을 많이 맞힌 사람이 나오는 것과 비슷합니다. 많은 실험을 했다면 그만큼 더 엄격하게 결과를 의심해야 합니다.

전략은 작게 만들고, 엄격하게 의심하라

퀀트 투자자의 사고방식은 복잡한 수식을 많이 아는 데서 시작하지 않습니다. 오히려 단순한 질문을 정확히 세우는 능력에서 시작합니다.

처음부터 완벽한 AI 모델이나 고급 알고리즘을 만들 필요는 없습니다. 다음과 같은 작은 질문이면 충분합니다.

• 최근 6개월 동안 오른 종목을 사면 다음 달에도 유리한가?

• PER이 낮은 종목은 장기적으로 시장보다 나은가?

• 배당수익률이 높은 종목은 하락장에서 덜 빠지는가?

• ROE가 높은 기업은 수익률뿐 아니라 낙폭도 안정적인가?

이 질문들을 하나씩 데이터로 확인하면 투자 감각이 조금씩 바뀝니다. 뉴스와 소문에 바로 반응하기보다, '이 아이디어를 어떻게 검증할 수 있을까?'라고 묻게 됩니다.

이것이 퀀트 투자자의 기본 사고법입니다.

예측하려고 서두르지 않습니다.
먼저 가설을 세웁니다.
가설을 규칙으로 바꿉니다.
규칙을 데이터로 검증합니다.
결과가 좋더라도 다시 의심합니다.

이 과정을 반복하면 투자는 감정의 게임에서 실험의 과정으로 바뀝니다. 그리고 이 책에서 앞으로 배울 파이썬, 백테스트, 머신러닝, AI 도구는 모두 이 과정을 돕기 위한 도구입니다.

다음 장에서는 전략을 평가하기 위해 꼭 알아야 할 기본 언어를 배웁니다. 수익률, 변동성, 최대 낙폭, 샤프 비율 같은 지표를 이해하면 백테스트 결과를 훨씬 더 정확하게 읽을 수 있습니다.