이 책의 마지막 장은 끝맺음보다 출발선에 가깝다. 이제 당신은 머신러닝을 낯선 단어 묶음으로 보지 않을 것이다. 데이터가 어떻게 문제로 바뀌고, 문제가 어떻게 모델로 바뀌며, 모델이 어떻게 제품 안에서 살아 움직이는지 한 번은 끝까지 따라왔다. 이 감각은 생각보다 크다. 많은 입문자가 중간에서 멈추는 이유는 지식이 부족해서가 아니라, 다음에 무엇을 해야 할지 몰라서다.
머신러닝 공부는 계단처럼 보이지만, 실제로는 나선형에 가깝다. 처음에는 얕게 이해하고, 프로젝트를 하다가 막히면 다시 돌아와 더 깊게 이해한다. 그러니 이 장을 마지막 페이지가 아니라, 다음 단계로 넘어가는 안내판으로 읽어도 좋다.
수학은 먼저 어디까지 공부하면 될까
가장 먼저 안심해도 되는 사실이 있다. 머신러닝을 시작하기 위해 수학을 전부 끝낼 필요는 없다. 많은 학습 로드맵이 공통적으로 강조하는 것도 완벽한 수학 이수보다, 프로그래밍과 데이터 다루기, 그리고 핵심 수학 개념의 직관을 먼저 갖추는 일이다.12 LLM 학습 로드맵들조차 수학과 기초 신경망은 필요할 때 다시 찾아보는 방식으로 접근해도 된다고 안내한다.3
입문자가 먼저 붙잡아야 할 수학은 세 덩어리면 충분하다.
선형대수의 기초: 벡터, 행렬, 내적, 차원 같은 개념
확률과 통계의 기초: 평균, 분산, 분포, 표본, 상관, 조건부 확률 같은 개념
미분의 기초: 기울기, 변화율, 손실을 줄이는 방향이라는 감각
이 세 가지는 모델의 내부를 이해하는 최소 장비에 가깝다. 선형대수를 알면 데이터가 숫자 표를 넘어 공간 속 점과 방향으로 보이기 시작한다. 확률과 통계를 알면 모델의 점수가 왜 흔들리는지, 샘플이 왜 편향될 수 있는지 이해하게 된다. 미분의 감각이 생기면 최적화는 무서운 공식이 아니라 조금씩 더 나은 방향으로 내려가는 과정으로 보인다.
반대로 나중에 채워도 되는 것도 분명하다. 고급 미적분, 엄밀한 증명, 복잡한 최적화 이론, 고급 확률 모델링은 처음부터 다 알아야 하는 영역이 아니다. 물론 깊이 들어가면 큰 힘이 되지만, 초반에는 실전 문제를 풀다가 필요해질 때 역으로 배우는 편이 훨씬 오래 남는다. 예를 들어 신경망을 공부하다가 역전파가 잘 이해되지 않을 때 편미분을 다시 보는 식이다. 그때의 수학은 시험 과목이 아니라 문제를 푸는 도구가 된다.
수학 공부의 기준은 간단하다. 공식을 외우는가보다 설명할 수 있는가를 보자. 벡터가 무엇인지, 평균과 분산이 왜 다른지, 기울기가 왜 학습 방향과 연결되는지 자신의 말로 설명할 수 있다면 출발하기에 충분하다.
논문보다 먼저 몸에 익혀야 할 것들
처음 공부를 시작하면 멋진 논문 제목이 자꾸 눈에 들어온다. Transformer, diffusion, alignment, reasoning 같은 단어는 언제나 사람을 설레게 만든다. 하지만 실력을 가장 빠르게 키우는 순서는 보통 다르다. 여러 로드맵이 공통적으로 추천하는 성장 순서는 기초 개념을 익힌 뒤, 실제 데이터로 실험하고, 도구를 다루고, 마지막에 배포와 운영으로 넘어가는 흐름이다.245
논문보다 먼저 익혀야 할 것은 네 가지다.
문서 읽기: 라이브러리 공식 문서, 튜토리얼, 예제 코드를 읽고 따라가는 능력
데이터 다루기: 데이터를 모으고, 정리하고, 결측치와 누수를 찾는 능력
평가하기: 어떤 지표로 성공과 실패를 판정할지 정하는 능력
배포하기: 노트북 안의 모델을 API, 배치 작업, 대시보드 같은 실제 사용 형태로 옮기는 능력
왜 이 순서가 중요할까. 논문은 새로운 가능성을 보여 주지만, 문서는 지금 당장 동작하는 방법을 가르쳐 준다. 논문은 최고 성능을 이야기하지만, 데이터는 현실의 더러움을 보여 준다. 논문은 새로운 구조를 설명하지만, 평가는 그 구조가 실제 문제에서 가치가 있는지 가려낸다. 그리고 배포는 모델이 코드 한 칸에서 끝나는 것이 아니라 지연 시간, 비용, 모니터링, 사용자 경험까지 책임져야 한다는 사실을 알려 준다.
조금 과장해서 말하면, 논문은 멀리 보는 눈을 길러 주고, 문서와 배포는 손발을 길러 준다. 현업에서 더 자주 필요한 것은 대개 손발 쪽이다. 베이스라인 모델 하나를 만들고, 데이터를 나누고, 실험 로그를 남기고, 간단한 API로 예측을 서빙해 본 사람은 논문을 읽을 때도 훨씬 더 많은 것이 보인다. 같은 한 문장을 읽어도 무엇이 어려운지, 어떤 가정이 숨어 있는지, 어디서 실패할지를 더 잘 짐작할 수 있기 때문이다.
Kaggle, 오픈소스, 실제 서비스는 서로 다른 훈련장이다
머신러닝을 공부하는 사람들은 종종 이런 질문을 한다. Kaggle을 해야 하나요, 오픈소스를 해야 하나요, 아니면 그냥 개인 프로젝트를 해야 하나요. 정답은 하나가 아니다. 세 가지는 서로 다른 근육을 키운다.
Kaggle은 모델 감각을 빠르게 키워 준다. 깨끗하게 정리된 데이터셋, 명확한 평가 지표, 리더보드라는 즉각적인 피드백이 있기 때문이다. 그래서 특성 엔지니어링, 검증 전략, 앙상블, 재현 가능한 실험 습관을 배우기에 좋다. 반면 현실보다 문제가 더 잘 정리되어 있다는 한계도 있다. 서비스 현장에서는 정답 레이블이 늦게 오고, 데이터 스키마가 바뀌고, 운영 비용이 점수보다 더 중요할 때가 많다.24
오픈소스는 코드 읽는 힘과 협업 감각을 키워 준다. 다른 사람이 짠 구조를 이해하고, 이슈를 읽고, 작은 수정 사항을 제안하고, 재현 가능한 예제를 만들고, 문서를 보완하는 과정에서 실력이 단단해진다. 혼자 모델을 만드는 사람에서, 팀의 코드베이스 안에서 움직일 수 있는 사람으로 변하는 훈련장이라고 봐도 좋다.4
실제 서비스 프로젝트는 문제 정의와 운영 감각을 가르쳐 준다. 이 단계에서는 모델 자체보다 더 많은 것이 중요해진다. 어떤 데이터를 수집할지, 어떤 지표를 성공으로 볼지, 예측 결과를 누가 어떻게 사용할지, 잘못 예측했을 때 비용이 얼마인지, 모델이 망가졌을 때 누가 알아차릴지까지 함께 설계해야 한다. 배포와 MLOps를 강조하는 최신 로드맵들이 늘 함께 붙는 이유도 여기에 있다.5
이 셋 중 하나만 해야 한다면, 지금 부족한 근육을 기준으로 고르면 된다. 모델이 약하면 Kaggle이 좋고, 코드 협업이 약하면 오픈소스가 좋고, 제품 감각이 약하면 실제 서비스형 프로젝트가 좋다. 하지만 가장 좋은 조합은 순서대로 조금씩 밟아 보는 것이다. 작은 Kaggle 실험으로 감각을 만들고, 오픈소스로 코드 문화를 익히고, 마지막에 실제 사용자를 상상한 프로젝트로 연결하면 배움이 훨씬 입체적이 된다.
현실적인 성장 경로는 하나가 아니라 세 갈래다
머신러닝을 공부한다고 해서 모두 같은 직무로 가는 것은 아니다. 같은 기초를 공유하더라도, 어디에 더 흥미를 느끼느냐에 따라 성장 방향이 갈린다.
머신러닝 엔지니어는 모델을 안정적으로 만들고 운영하는 쪽에 가깝다. 학습 파이프라인, 피처 저장소, 실험 추적, 서빙, 모니터링, 배포 자동화, 시스템 성능 같은 문제를 많이 다룬다. 모델 정확도만큼이나 재현성, 안정성, 비용 효율을 중요하게 본다. 최신 ML 엔지니어 로드맵들이 PyTorch나 모델링 자체와 함께 MLOps, 모델 서빙, 프로덕션 시스템을 강조하는 이유가 여기에 있다.6
응용 데이터 과학자는 비즈니스 문제를 데이터 문제로 바꾸고, 실험을 통해 답을 찾는 쪽에 가깝다. 어떤 문제를 분류로 볼지, 어떤 변수를 특성으로 쓸지, 어떤 평가 지표가 비즈니스 목표와 맞는지, 결과를 어떻게 해석하고 설명할지를 많이 고민한다. 모델 선택보다 문제 정의와 실험 설계가 실력의 큰 부분을 차지한다.
AI 제품 개발자는 사용자 경험과 모델 활용을 함께 설계하는 사람에 가깝다. 반드시 모델을 처음부터 학습시키지 않아도 된다. 기존 ML 모델, 추천 시스템, 임베딩 검색, LLM API, 워크플로 자동화를 조합해 실제 기능을 만든다. 이 역할에서는 정확도만큼이나 반응 속도, 프롬프트 설계, 안전장치, 비용 구조, 실패했을 때의 사용자 경험이 중요하다. 최근 LLM 학습 자료들이 연구 중심 경로와 엔지니어링 중심 경로를 분리해 소개하는 것도 이런 현실을 반영한다.3
중요한 것은 이 셋이 완전히 분리된 종이 아니라는 점이다. 커리어 초반에는 한 사람이 세 역할을 동시에 조금씩 맡는 경우가 많다. 작은 스타트업에서는 데이터 분석도 하고, 모델도 만들고, API도 붙인다. 반대로 큰 조직에서는 역할이 더 세분화된다. 처음부터 내 정체성을 한 줄로 못 박으려 하지 말자. 프로젝트를 하다 보면 내가 어디에서 가장 즐겁고 잘하는지가 드러난다.
책을 덮은 뒤, 이렇게 6개월을 써 보자
배움은 구체적일수록 오래간다. 다음 6개월을 너무 거창하게 잡지 말고, 작지만 끝까지 가는 계획으로 설계해 보자.
1개월차: 이 책의 프로젝트 중 하나를 다시 혼자 구현한다. 코드를 베끼지 말고, 데이터 준비부터 평가까지 자기 손으로 다시 이어 본다.
2~3개월차: 같은 문제를 다른 모델로 비교해 본다. 성능보다 검증 방식, 데이터 누수 방지, 실험 기록을 더 중요하게 본다.
4~5개월차: 가장 잘된 모델 하나를 선택해 간단한 제품 형태로 배포한다. API, 배치 예측, 대시보드 중 하나면 충분하다.
6개월차: 그 과정에서 가장 흥미로웠던 지점을 기준으로 다음 전공을 고른다. 추천 시스템, 시계열, NLP, 컴퓨터 비전, LLM 응용, MLOps 중 하나를 정해 깊게 판다.126
이 계획의 핵심은 많이 배우는 것이 아니라 끝까지 가 보는 것이다. 튜토리얼 열 개를 얕게 훑는 것보다, 작은 프로젝트 하나를 정의하고, 만들고, 평가하고, 배포하고, 회고하는 편이 훨씬 큰 실력을 만든다.
오래 가는 사람은 무엇이 다를까
머신러닝 분야는 빠르게 바뀐다. 모델 이름은 매년 바뀌고, 유행하는 프레임워크도 달라진다. 하지만 오래 가는 사람들은 공통점이 있다. 새로운 이름에 덜 흔들리고, 문제를 구조로 본다. 데이터를 먼저 보고, 평가를 먼저 정하고, 베이스라인을 세우고, 결과를 검증하고, 작게라도 제품으로 연결한다.
결국 오래 가는 실력은 세 가지에서 나온다. 첫째, 좋은 질문을 정의하는 힘이다. 둘째, 작은 실험을 반복하는 힘이다. 셋째, 만든 것을 끝까지 운영해 보는 힘이다. 이 세 가지는 모델 유행이 바뀌어도 거의 사라지지 않는다.
당신이 앞으로 선형 모델을 더 깊게 파든, 부스팅과 추천 시스템을 다루든, LLM 애플리케이션을 만들든, 결국 계속 성장하게 만드는 것은 똑같다. 문제를 잘 고르고, 데이터를 정직하게 다루고, 결과를 냉정하게 평가하고, 사용자에게 닿는 형태로 끝까지 만들어 보는 것. 이 책이 그 첫 감각을 만드는 데 도움이 되었다면, 이제 남은 일은 하나다.
작게 만들어 보고, 끝까지 가 보자.
참고
2Machine Learning Roadmap: Beginner to Expert
4GitHub Machine Learning Roadmap
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.