프롤로그: AI를 배우려면 왜 머신러닝부터 이해해야 할까

AI가 갑자기 똑똑해 보이는 순간

어느 날부터 우리는 컴퓨터에게 아주 자연스럽게 말을 걸기 시작했습니다. "이 문장을 고쳐줘." "이 코드를 설명해줘." "고객 데이터를 보고 이탈할 사람을 예측해줘." 예전 같으면 사람에게 부탁해야 했던 일을 이제는 AI에게 묻습니다. 더 놀라운 점은 AI가 그럴듯한 답을 내놓는다는 것입니다. 때로는 너무 자연스러워서, 정말로 컴퓨터가 생각하는 것처럼 보입니다.

하지만 여기서 중요한 질문이 생깁니다.

AI는 정말로 생각하고 있을까요? 아니면 생각하는 것처럼 보이도록 무언가를 계산하고 있을까요?

이 책은 바로 그 질문에서 출발합니다. AI를 신비로운 마법처럼 바라보는 대신, 그 안에서 반복되는 가장 기본적인 원리를 차근차근 들여다보려 합니다. 그 원리가 바로 머신러닝입니다.

머신러닝을 이해하면 AI가 갑자기 덜 신비로워집니다. 대신 더 흥미로워집니다. 마법이 사라지는 대신 구조가 보이기 때문입니다. 모델이 데이터를 보고, 패턴을 찾고, 예측을 해보고, 틀린 만큼 고쳐가며, 다음에는 조금 더 나은 답을 내는 과정이 보이기 시작합니다.

이 감각을 얻는 순간, AI는 더 이상 멀리 있는 기술이 아닙니다. 우리가 직접 다루고, 평가하고, 개선할 수 있는 도구가 됩니다.

AI, 머신러닝, 딥러닝, LLM은 어디에 놓일까

AI를 처음 배울 때 가장 헷갈리는 단어들이 있습니다. 인공지능, 머신러닝, 딥러닝, LLM. 뉴스에서는 이 단어들이 뒤섞여 쓰이고, 어떤 글에서는 거의 같은 뜻처럼 보이기도 합니다. 하지만 이들을 하나의 계층 구조로 보면 훨씬 쉬워집니다.

가장 바깥에는 인공지능, 즉 AI가 있습니다. AI는 사람이 지능적으로 한다고 여기는 일을 컴퓨터가 수행하도록 만드는 넓은 분야입니다. 길 찾기, 음성 인식, 이미지 판별, 번역, 게임 플레이, 문서 요약, 추천 시스템 같은 것들이 모두 AI의 영역에 들어갈 수 있습니다.

그 안에 머신러닝이 있습니다. 머신러닝은 AI를 만드는 여러 방법 중 하나입니다. 사람이 모든 규칙을 직접 코딩하는 대신, 컴퓨터가 데이터에서 규칙을 찾아내도록 하는 방식입니다. 예를 들어 "스팸 메일에는 이런 단어가 들어가면 스팸이다"라는 규칙을 사람이 일일이 쓰는 대신, 수많은 메일 데이터를 보여주고 스팸과 정상 메일의 차이를 모델이 배우게 하는 것입니다.

머신러닝 안에는 딥러닝이 있습니다. 딥러닝은 신경망이라는 구조를 이용해 매우 복잡한 패턴을 배우는 머신러닝 방법입니다. 이미지, 음성, 자연어처럼 규칙을 사람이 직접 설명하기 어려운 데이터를 다룰 때 강력한 힘을 발휘합니다.

그리고 딥러닝의 중요한 응용 중 하나가 LLM, 즉 대규모 언어 모델입니다. LLM은 방대한 텍스트 데이터를 바탕으로 언어의 패턴을 학습한 모델입니다. 우리가 질문을 입력하면, 그 문맥에서 이어질 가능성이 높은 답변을 만들어냅니다. 겉으로는 대화하고 추론하는 것처럼 보이지만, 그 밑바닥에는 여전히 데이터에서 패턴을 배우고 예측을 개선하는 머신러닝의 원리가 깔려 있습니다.

간단히 말하면 이렇게 볼 수 있습니다.

• AI는 지능적인 일을 하게 만드는 넓은 목표입니다.

• 머신러닝은 데이터를 통해 그 능력을 배우게 하는 방법입니다.

• 딥러닝은 신경망으로 복잡한 패턴을 배우는 머신러닝 방법입니다.

• LLM은 언어 데이터를 대규모로 학습한 딥러닝 모델입니다.

이 계층을 이해하면 길을 잃지 않습니다. LLM을 제대로 이해하고 싶을 때도 결국 우리는 머신러닝으로 돌아오게 됩니다. 왜냐하면 LLM도 결국 모델이고, 모델은 데이터를 통해 학습하며, 학습은 예측과 오차를 반복해서 줄이는 과정이기 때문입니다.

모델은 스스로 생각하는 대신 패턴을 사용한다

머신러닝에서 가장 먼저 내려놓아야 할 오해가 있습니다. 모델이 사람처럼 세상을 이해하고, 의도를 갖고, 스스로 생각한다는 오해입니다.

물론 최신 AI의 결과물은 놀랍습니다. 글을 쓰고, 그림을 만들고, 코드를 고치고, 대화를 이어갑니다. 그러나 머신러닝의 기본 관점에서 보면 모델은 "생각하는 존재"라기보다 "데이터 속 패턴을 이용해 예측하는 장치"에 가깝습니다.

예를 들어 집값을 예측하는 모델을 생각해봅시다. 모델에게 여러 집의 정보를 보여줍니다. 면적, 방 개수, 위치, 건축 연도, 지하철역과의 거리 같은 정보가 들어갑니다. 그리고 각 집이 실제로 얼마에 팔렸는지도 함께 알려줍니다. 모델은 이런 데이터를 보면서 어떤 특징이 가격과 관련 있는지 찾아갑니다.

면적이 넓을수록 가격이 높아지는 경향이 있을 수 있습니다. 역에서 가까울수록 가격이 높을 수도 있습니다. 하지만 오래된 건물이라면 가격이 낮아질 수도 있습니다. 모델은 이런 관계를 하나하나 명시적인 문장으로 이해하는 것이 아니라, 숫자와 패턴의 관계로 조정해갑니다.

스팸 메일 분류기도 마찬가지입니다. 모델은 "이 메일은 나쁜 의도가 있으니 차단해야겠다"라고 도덕적 판단을 내리는 것이 아닙니다. 과거에 스팸으로 분류된 메일과 정상 메일을 비교하면서, 어떤 단어, 표현, 발신 패턴이 스팸일 가능성과 관련 있는지를 배웁니다. 그런 다음 새 메일이 들어오면 "이 메일은 스팸일 가능성이 높다"라고 예측합니다.

여기서 핵심은 예측입니다. 머신러닝 모델은 대부분 어떤 입력을 받아 어떤 출력을 예측합니다. 집 정보를 받아 집값을 예측하고, 메일 내용을 받아 스팸 여부를 예측하고, 고객 행동을 받아 이탈 가능성을 예측합니다. LLM도 문맥을 입력으로 받아 다음에 올 말이나 적절한 응답을 예측합니다.

AI가 똑똑해 보이는 이유는 예측이 매우 정교해졌기 때문입니다. 그러나 그 정교함은 하늘에서 떨어진 것이 아닙니다. 많은 데이터, 적절한 모델 구조, 반복적인 학습, 세심한 평가와 개선이 쌓인 결과입니다.

수식보다 먼저 익혀야 할 감각

머신러닝을 어렵게 느끼는 가장 큰 이유 중 하나는 수식입니다. 기호가 나오고, 미분이 나오고, 확률이 나오면 많은 사람이 이렇게 생각합니다. "역시 나는 머신러닝을 하기엔 수학이 부족해."

물론 수학은 머신러닝을 깊이 이해하는 데 중요합니다. 하지만 처음부터 수식으로 들어가면 숲을 보기 전에 나뭇잎의 결을 외우는 꼴이 되기 쉽습니다. 이 책에서 먼저 익힐 것은 수학 공식이 아니라 머신러닝이 돌아가는 감각입니다.

머신러닝의 기본 흐름은 의외로 단순합니다. 데이터를 준비합니다. 그 데이터에서 모델이 사용할 특징을 만듭니다. 모델이 예측합니다. 예측값과 실제값을 비교합니다. 얼마나 틀렸는지 오차를 계산합니다. 그 오차를 줄이는 방향으로 모델을 고칩니다. 그리고 새로운 데이터에 적용해봅니다.

이 흐름은 집값 예측에서도, 스팸 분류에서도, 고객 이탈 예측에서도 반복됩니다. 문제의 모양은 달라도 뼈대는 같습니다.

• 데이터를 준비한다.

• 특징을 만든다.

• 모델이 예측한다.

• 실제값과 비교한다.

• 오차를 줄인다.

• 새로운 데이터에 적용한다.

이 여섯 단계를 이해하면 머신러닝의 절반은 이미 들어온 셈입니다. 앞으로 어떤 알고리즘을 만나도 "아, 이것도 결국 데이터를 보고 예측하고, 틀린 만큼 고치는 방식이구나"라고 생각할 수 있습니다.

회귀, 분류, 군집화, 추천 시스템 같은 단어들도 이 흐름 위에 올려놓으면 어렵지 않습니다. 회귀는 숫자를 예측하는 문제입니다. 집값, 매출, 기온 같은 값을 맞히려 합니다. 분류는 정답의 종류를 고르는 문제입니다. 스팸인지 아닌지, 생존했는지 아닌지, 어떤 품종인지 판단합니다. 군집화는 정답이 없는 상태에서 비슷한 데이터끼리 묶는 문제입니다. 추천 시스템은 사용자의 과거 행동과 비슷한 사람들의 패턴을 이용해 좋아할 만한 항목을 제안합니다.

겉모습은 다르지만 모두 같은 질문을 품고 있습니다.

"데이터 속에 어떤 패턴이 있고, 그 패턴을 이용해 다음 판단을 더 잘할 수 있을까?"

학습한다는 것은 오차를 줄여가는 일이다

사람은 실수하면서 배웁니다. 자전거를 처음 탈 때는 비틀거립니다. 넘어지지 않으려고 핸들을 반대로 꺾어보기도 하고, 페달을 너무 세게 밟기도 합니다. 그러다 몸이 조금씩 균형을 익힙니다. 처음부터 완벽한 규칙을 알고 타는 것이 아니라, 시도하고, 흔들리고, 조정하면서 나아집니다.

머신러닝의 학습도 이와 비슷합니다. 모델은 처음부터 좋은 예측을 하지 못합니다. 집값을 엉뚱하게 예측할 수도 있고, 정상 메일을 스팸이라고 판단할 수도 있습니다. 그래서 모델의 예측과 실제 정답을 비교합니다. 얼마나 틀렸는지 계산합니다. 이 틀린 정도를 손실 또는 오차라고 부릅니다.

학습은 이 오차를 줄이는 방향으로 모델을 바꾸는 과정입니다. 모델 안에는 예측에 영향을 주는 여러 조정값이 있습니다. 이 조정값을 조금씩 바꾸며 더 나은 예측을 하도록 만드는 것이 학습입니다.

여기서 중요한 점은, 오차를 줄인다는 말이 단순히 학습 데이터만 잘 맞힌다는 뜻은 아니라는 것입니다. 진짜 목표는 새로운 데이터에서도 잘 맞히는 것입니다. 시험 문제의 답을 통째로 외운 학생이 실제 응용 문제를 못 푼다면 제대로 배운 것이 아니듯, 모델도 훈련 데이터만 외우고 새로운 데이터에서 틀린다면 좋은 모델이 아닙니다. 나중에 우리는 이것을 과적합과 일반화라는 이름으로 자세히 다룰 것입니다.

그러니 머신러닝을 배울 때는 항상 두 가지 질문을 함께 가져가야 합니다.

"이 모델은 지금 얼마나 잘 맞히고 있는가?"

그리고 더 중요한 질문.

"처음 보는 데이터에서도 잘할 수 있는가?"

좋은 머신러닝 모델은 과거 데이터를 잘 설명하는 데서 멈추지 않습니다. 아직 보지 못한 미래의 데이터에 대해서도 쓸 만한 예측을 내놓아야 합니다.

작은 예측에서 거대한 언어 모델까지

집값 예측 모델과 LLM은 겉으로 보면 전혀 다른 세계처럼 보입니다. 하나는 표 형태의 데이터를 보고 숫자를 맞히고, 다른 하나는 사람처럼 긴 문장을 만들어냅니다. 하지만 기초 원리는 이어져 있습니다.

집값 예측 모델은 입력으로 집의 특징을 받고, 출력으로 가격을 예측합니다. 스팸 분류 모델은 입력으로 메일 내용을 받고, 출력으로 스팸 여부를 예측합니다. LLM은 입력으로 문맥을 받고, 출력으로 다음에 이어질 말을 예측합니다. 규모와 구조는 훨씬 복잡하지만, "입력을 보고 출력을 예측한다"는 관점은 여전히 유효합니다.

이 관점을 가지면 LLM을 볼 때도 막연한 경외감에서 한 걸음 벗어날 수 있습니다. 왜 어떤 질문에는 훌륭하게 답하고, 왜 어떤 질문에는 그럴듯하지만 틀린 답을 만드는지 이해할 실마리가 생깁니다. 모델은 세상을 직접 경험한 것이 아니라, 학습 데이터에 담긴 패턴을 바탕으로 답을 구성합니다. 따라서 데이터의 품질, 학습 방식, 평가 방법, 사용자가 주는 입력이 모두 결과에 영향을 줍니다.

LLM을 잘 쓰는 사람은 단지 프롬프트 문장을 예쁘게 쓰는 사람이 아닙니다. 모델이 어떤 방식으로 학습했고, 무엇을 잘하며, 어디에서 약해질 수 있는지 감각적으로 이해하는 사람입니다. 그 감각의 출발점이 머신러닝입니다.

이 책에서 함께 걸어갈 길

이 책은 머신러닝을 수학 공식의 모음으로 다루지 않습니다. 대신 모델이 데이터를 통해 어떻게 더 나은 예측을 하게 되는지, 그 흐름을 반복해서 익히는 데 초점을 둡니다. 물론 필요한 개념은 피하지 않습니다. 데이터, 특징, 라벨, 손실, 학습, 평가, 과적합 같은 단어를 하나씩 만나게 될 것입니다. 다만 처음부터 어렵게 몰아붙이지 않겠습니다.

먼저 머신러닝의 큰 그림을 봅니다. AI, 머신러닝, 딥러닝이 어떻게 연결되는지, 모델이 무엇을 학습하는지, 데이터와 라벨과 예측이 어떤 관계를 맺는지 살펴봅니다. 그다음 지도학습으로 들어가 숫자를 예측하는 회귀와 종류를 고르는 분류를 배웁니다. 선형회귀, 로지스틱 회귀, 결정트리, 랜덤포레스트, 그래디언트 부스팅 같은 대표 모델도 만나게 됩니다.

이후에는 정답이 없는 데이터에서 패턴을 찾는 비지도학습을 다룹니다. 군집화, 차원 축소, 이상치 탐지를 통해 "정답 없이도 배울 수 있다"는 감각을 익힙니다. 그리고 좋은 모델을 만들기 위해 반드시 알아야 할 과적합, 일반화, 데이터 분리, 교차검증, 특성 엔지니어링, 데이터 누수도 살펴봅니다.

마지막에는 실제 프로젝트를 통해 배운 개념을 연결합니다. 집값 예측 모델을 만들고, 스팸 메일 분류기를 만들고, 고객 이탈을 예측하고, 사용자를 군집으로 나누고, 간단한 추천 시스템도 맛봅니다. 이 과정을 지나면 머신러닝이 더 이상 낯선 단어들의 모음으로 보이지 않을 것입니다. 하나의 반복 가능한 작업 흐름으로 보이기 시작할 것입니다.

머신러닝은 마법이 아니라 개선의 기술이다

머신러닝의 매력은 완벽한 규칙을 처음부터 알 필요가 없다는 데 있습니다. 우리는 데이터를 모으고, 모델에게 예측을 시키고, 틀린 부분을 확인하고, 더 나아지도록 조정합니다. 처음에는 서툴지만 반복할수록 나아집니다. 좋은 데이터와 좋은 평가 방법이 있으면 모델은 점점 더 쓸모 있는 예측 도구가 됩니다.

이것이 머신러닝의 핵심입니다.

머신러닝은 컴퓨터가 갑자기 의식을 갖는 기술이 아닙니다. 사람이 모든 규칙을 손으로 적지 않아도, 데이터에서 패턴을 찾아 예측 능력을 개선하게 만드는 기술입니다.

이 감각을 잡으면 AI를 보는 눈이 달라집니다. 모델의 답을 무조건 믿지도 않고, 막연히 두려워하지도 않게 됩니다. 대신 이렇게 물을 수 있습니다. 어떤 데이터로 배웠을까? 무엇을 입력으로 받았을까? 무엇을 예측하는 모델일까? 얼마나 틀렸을까? 새로운 데이터에서도 잘할까?

이 질문들이 바로 머신러닝을 이해하는 사람의 질문입니다.

이제 첫걸음을 뗄 시간입니다. 다음 장에서는 인공지능, 머신러닝, 딥러닝이 어떻게 다른지 조금 더 선명하게 구분해보겠습니다. 큰 지도를 먼저 손에 쥐면, 앞으로 만날 개념들이 훨씬 덜 무섭고 훨씬 더 재미있어질 것입니다.