생성형 AI는 무엇이 다른가

이 장에서 배울 것

「AI 시대의 지도」에서는 AI, 머신러닝, 딥러닝의 큰 지도를 살펴보았습니다. 이번 장에서는 그중에서도 요즘 가장 많이 쓰이는 생성형 AI를 조금 더 자세히 알아봅니다.

이 장을 끝내면 다음을 설명할 수 있어야 합니다.

• 생성형 AI가 기존 AI와 어떻게 다른지 말할 수 있다.

• LLM이 문장을 만드는 기본 방식을 설명할 수 있다.

• 토큰, 문맥, 학습 데이터, 파운데이션 모델, 환각 현상을 쉬운 말로 풀어 설명할 수 있다.

• 같은 질문도 프롬프트에 따라 답이 달라지는 이유를 이해한다.

• AI 답변을 그대로 믿지 않고 검증해야 하는 이유를 안다.

핵심은 하나입니다. 생성형 AI는 "정답을 알고 말하는 존재"가 아닙니다. 그럴듯한 다음 내용을 확률적으로 이어 쓰는 시스템에 가깝습니다.

왜 이 주제가 중요한가

많은 사람이 생성형 AI를 처음 쓰고 놀랍니다. 질문을 입력하면 글을 써 주고, 표를 만들고, 코드도 짜 줍니다. 이메일 문장을 다듬고, 보고서 초안을 만들고, 긴 글을 요약해 주기도 합니다. 어떤 때는 사람보다 더 빠르고 깔끔해 보입니다.

하지만 바로 이 점이 위험합니다. 답변이 자연스럽다고 해서 항상 맞는 것은 아닙니다. 생성형 AI는 틀린 내용을 자신감 있는 문장으로 말할 수 있습니다. 없는 책 제목을 지어내거나, 존재하지 않는 판례를 말하거나, 숫자를 잘못 계산할 수도 있습니다.

그래서 생성형 AI를 잘 쓰는 사람은 질문을 잘하는 사람에서 끝나지 않습니다. 답을 비교하고, 근거를 확인하고, 의심할 부분을 찾아내는 사람이어야 합니다. 이 장은 그 습관의 출발점입니다.

기존 AI와 생성형 AI의 차이

기존 AI는 주로 분류와 예측에 많이 쓰였습니다.

예를 들어 보겠습니다.

• 사진 속 동물이 고양이인지 강아지인지 분류한다.

• 내일의 매출을 예측한다.

• 이메일이 스팸인지 아닌지 판단한다.

• 고객이 서비스를 해지할 가능성을 계산한다.

이런 AI는 입력을 보고 정해진 범주나 숫자를 내놓는 경우가 많습니다. "이 사진은 고양이일 확률이 높다", "다음 달 매출은 이 정도일 것 같다"처럼 말입니다.

반면 생성형 AI는 새 결과물을 만듭니다.

• 글을 쓴다.

• 이미지를 만든다.

• 코드를 작성한다.

• 표를 구성한다.

• 대화 흐름에 맞춰 설명을 이어 간다.

물론 생성형 AI가 완전히 무에서 창조하는 것은 아닙니다. 학습 과정에서 많은 데이터를 보고, 그 안의 패턴을 배운 뒤, 사용자의 입력에 맞춰 새로운 조합을 만들어 냅니다. 그래서 "복사기"보다는 "패턴을 배운 조합기"에 가깝습니다.

중요한 차이는 출력 방식입니다. 기존 AI가 주로 "판단"에 가까웠다면, 생성형 AI는 "작성"에 가깝습니다. 그래서 편리하지만, 동시에 확인할 것도 많아집니다.

LLM은 무엇인가

LLM은 Large Language Model의 줄임말입니다. 한국어로는 보통 대규모 언어 모델이라고 부릅니다. 말 그대로 아주 많은 텍스트를 학습한 언어 모델입니다.

여기서 모델은 "세상을 이해하는 사람"이 아니라, 입력과 출력 사이의 패턴을 배운 프로그램이라고 생각하면 됩니다. 언어 모델은 특히 말과 글의 패턴을 배웁니다.

LLM은 다음과 같은 일을 잘합니다.

• 문장 이어 쓰기

• 요약하기

• 번역하기

• 질문에 답하기

• 코드 작성하기

• 글의 어조 바꾸기

• 표나 목록 형태로 정리하기

겉으로 보면 LLM은 생각하는 것처럼 보입니다. 하지만 기본 원리는 주어진 문맥을 바탕으로 다음에 올 가능성이 높은 내용을 계산하는 것입니다. 이 과정을 아주 단순하게 말하면 매우 강력한 자동완성이라고 볼 수 있습니다.

휴대전화에서 "오늘 날씨가"라고 입력하면 "좋네요", "어때요", "춥네요" 같은 다음 말이 추천될 수 있습니다. LLM도 비슷한 일을 합니다. 다만 훨씬 더 긴 문맥을 보고, 훨씬 더 복잡한 패턴을 사용하며, 문단과 코드와 표까지 만들어 낸다는 점이 다릅니다.

토큰, 문맥, 다음 토큰 예측

LLM을 이해하려면 세 단어를 알아두면 좋습니다. 토큰, 문맥, 확률입니다.

토큰은 모델이 글을 처리하는 작은 조각입니다. 토큰은 꼭 한 단어와 같지는 않습니다. 어떤 경우에는 한 글자일 수도 있고, 단어의 일부일 수도 있고, 짧은 단어 하나일 수도 있습니다. 모델은 문장을 그대로 사람처럼 읽는 것이 아니라, 이런 조각들로 나누어 처리합니다.

문맥은 모델이 답변을 만들 때 참고하는 앞뒤 정보입니다. 사용자가 방금 입력한 질문, 이전 대화, 지시사항, 제공한 자료가 문맥에 포함됩니다. 문맥이 달라지면 답변도 달라집니다.

예를 들어 같은 질문이라도 다음 두 프롬프트는 다른 답을 만들 수 있습니다.

• "AI를 설명해 줘."

• "고등학생에게 5문장으로 AI를 설명해 줘. 예시는 스마트폰 추천 알고리즘으로 들어 줘."

두 번째 질문에는 대상, 길이, 방식, 예시가 들어 있습니다. 그래서 답변이 더 구체적일 가능성이 높습니다.

확률적 다음 토큰 예측은 LLM을 이해할 때 중요한 개념입니다. 모델은 지금까지의 문맥을 보고 다음에 어떤 토큰이 올 가능성이 높은지 계산합니다. 그리고 그 선택을 반복해 문장을 만듭니다.

이 말은 두 가지 뜻을 가집니다.

첫째, 같은 질문에도 답이 조금씩 달라질 수 있습니다. 둘째, 답이 자연스럽다고 해서 사실이라는 보장은 없습니다. 자연스러운 문장과 정확한 정보는 다릅니다.

학습 데이터와 파운데이션 모델

생성형 AI는 많은 데이터를 바탕으로 학습합니다. 글을 만드는 모델은 책, 문서, 웹 문장, 코드, 대화 예시 등 다양한 텍스트 패턴을 학습할 수 있습니다. 이미지 생성 모델은 이미지와 설명의 관계를 배울 수 있습니다.

여기서 주의할 점이 있습니다. 모델이 학습 데이터를 모두 기억해 두었다가 검색해서 답하는 것은 아닙니다. 물론 일부 문장을 외운 것처럼 보이는 경우도 있을 수 있지만, 기본적으로는 데이터 속 패턴을 학습해 새 출력을 만든다고 이해하는 편이 좋습니다.

파운데이션 모델은 여러 작업에 두루 쓰일 수 있는 큰 기반 모델을 뜻합니다. 예전에는 번역 모델, 감정 분석 모델, 이미지 분류 모델처럼 목적별 모델을 따로 만드는 경우가 많았습니다. 파운데이션 모델은 하나의 큰 기반을 만든 뒤, 대화, 요약, 코딩, 검색 보조, 이미지 이해 등 여러 용도로 확장해서 쓸 수 있습니다.

비유하자면, 특정 문제집만 푼 학생이 아니라 여러 과목의 기본기를 넓게 익힌 학생에 가깝습니다. 그래서 다양한 요청에 대응할 수 있지만, 모든 분야의 전문가라는 뜻은 아닙니다.

환각 현상: 왜 그럴듯한 거짓말이 생길까

생성형 AI에서 자주 나오는 말이 환각 현상입니다. 영어로는 hallucination이라고 부릅니다. 모델이 사실이 아닌 내용을 사실처럼 만들어 내는 현상입니다.

환각은 모델이 "거짓말을 하려고 해서" 생긴다기보다, 작동 방식에서 자연스럽게 생길 수 있습니다. 모델은 기본적으로 다음에 올 법한 문장을 만듭니다. 그런데 어떤 질문에 대해 정확한 근거가 부족하거나, 문맥이 애매하거나, 학습 데이터에 잘못된 패턴이 섞여 있으면 틀린 답을 그럴듯하게 이어 쓸 수 있습니다.

예를 들어 사용자가 이렇게 묻는다고 해 보겠습니다.

"2025년에 출간된 김하늘 교수의 『AI 민주주의 입문』 핵심 내용을 요약해 줘."

만약 그런 책이 실제로 없는데도 모델이 제목과 저자 이름이 그럴듯하다고 판단하면, 존재하지 않는 책의 요약을 만들어 낼 수 있습니다. 문장은 매끄럽지만 사실은 아닙니다.

그래서 중요한 질문일수록 다음을 확인해야 합니다.

• 이 정보의 출처가 있는가?

• 숫자, 날짜, 이름이 맞는가?

• 모델이 모른다고 말해야 할 상황에서 억지로 답하지 않았는가?

• 다른 자료와 비교했을 때 일치하는가?

생성형 AI 사용 능력은 빠르게 답을 얻는 능력이 아닙니다. 답을 안전하게 다루는 능력입니다.

쉬운 비유: 자동완성 비서와 초안 작성자

생성형 AI를 "박사급 전문가"라고 생각하면 실망하거나 속기 쉽습니다. 대신 "자동완성이 매우 강력해진 초안 작성자"라고 생각해 보겠습니다.

이 초안 작성자는 많은 문서를 읽었습니다. 그래서 보고서 형식도 알고, 설명문 말투도 알고, 코드 예시도 어느 정도 알고 있습니다. 사용자가 요청하면 빠르게 초안을 만듭니다. 하지만 자료실에서 원문을 확인한 사서가 아닙니다. 계산기를 직접 두드린 회계사도 아닙니다. 실험을 수행한 과학자도 아닙니다.

따라서 좋은 사용법은 이렇습니다.

1. 초안을 빠르게 받는다.

2. 구조가 괜찮은지 본다.

3. 사실, 숫자, 출처를 확인한다.

4. 내 목적에 맞게 고친다.

5. 최종 책임은 사용자가 진다.

생성형 AI는 생각을 시작하게 해 주는 도구로는 강력합니다. 하지만 생각을 끝내 주는 도구로 여기면 위험합니다.

직접 해보는 실습: 세 프롬프트 비교표

이번 실습의 목표는 같은 질문도 표현 방식에 따라 답이 어떻게 달라지는지 관찰하는 것입니다. 특정 서비스 이름이나 화면 구성은 바뀔 수 있으므로, 자신이 사용할 수 있는 생성형 AI 도구에서 진행하면 됩니다.

먼저 아래 질문을 그대로 입력합니다.

질문 A: 생성형 AI를 설명해 줘.

다음에는 조건을 추가합니다.

질문 B: 생성형 AI를 고등학생에게 설명해 줘. 기존 AI와의 차이를 포함하고, 예시를 2개 들어 줘.

마지막으로 검증 요구를 넣습니다.

질문 C: 생성형 AI를 고등학생에게 설명해 줘. 기존 AI와의 차이, 장점, 위험을 포함해 줘. 확실하지 않은 내용은 확실하지 않다고 표시하고, 확인이 필요한 정보는 따로 목록으로 정리해 줘.

답변을 받은 뒤 다음 표를 채웁니다.

가능하다면 같은 질문을 서로 다른 세 모델에 넣어 비교해도 좋습니다. 이때 목표는 "어느 모델이 최고인가"를 정하는 것이 아닙니다. 답변의 차이를 관찰하는 것입니다.

실습 후 짧게 적어 봅니다.

• 어떤 프롬프트가 가장 도움이 되었는가?

• 답변이 좋아진 이유는 무엇이라고 생각하는가?

• 여전히 확인해야 할 정보는 무엇인가?

흔한 실수와 오류 분석

첫 번째 실수는 생성형 AI를 검색 엔진처럼 쓰는 것입니다. 검색 엔진은 관련 문서의 위치를 찾아 주는 데 강합니다. 생성형 AI는 문장을 만들어 주는 데 강합니다. 물론 검색 기능과 결합된 AI도 있지만, 기본적으로 "말을 잘한다"와 "근거를 가지고 있다"는 다른 문제입니다.

두 번째 실수는 첫 답변을 최종 답으로 믿는 것입니다. 첫 답변은 초안일 뿐입니다. 특히 날짜, 통계, 법률, 의학, 금융, 역사적 사실은 반드시 검증해야 합니다.

세 번째 실수는 프롬프트를 너무 짧게 쓰는 것입니다. "정리해 줘"라고만 쓰면 모델은 사용자의 목적을 추측해야 합니다. 대상, 길이, 형식, 기준을 알려 주면 답변 품질이 좋아집니다.

예를 들어 "데이터 분석을 설명해 줘"보다 다음 요청이 낫습니다.

"데이터 분석을 처음 배우는 대학생에게 설명해 줘. 엑셀과 Python을 비교하고, 실제 예시를 포함해 7문장으로 써 줘."

네 번째 실수는 AI가 모르는 척을 잘할 것이라고 기대하는 것입니다. 생성형 AI는 모를 때도 말할 수 있습니다. 따라서 중요한 작업에서는 "모르면 모른다고 말해 줘", "근거가 없는 추측은 추측이라고 표시해 줘", "확인해야 할 항목을 따로 써 줘" 같은 조건을 넣는 것이 좋습니다.

요약

생성형 AI는 글, 이미지, 코드, 표처럼 새로운 결과물을 만드는 AI입니다. 기존 AI가 주로 분류와 예측에 많이 쓰였다면, 생성형 AI는 사용자의 요청에 맞춰 내용을 작성하는 데 강합니다.

LLM은 대규모 언어 모델입니다. 많은 텍스트 패턴을 학습하고, 주어진 문맥에서 다음에 올 가능성이 높은 토큰을 이어 붙여 답변을 만듭니다. 그래서 자동완성의 매우 강력한 버전이라고 비유할 수 있습니다.

하지만 이 방식 때문에 틀린 내용도 자연스럽게 말할 수 있습니다. 이를 환각 현상이라고 합니다. 생성형 AI를 잘 쓰려면 답변을 그대로 받아들이지 말고, 출처와 사실을 확인해야 합니다.

좋은 사용자는 AI에게 질문만 잘하는 사람이 아닙니다. 답변을 비교하고, 의심하고, 검증하는 사람입니다.

퀴즈

1. 생성형 AI와 기존 분류 AI의 차이를 한 문장으로 설명해 보세요.

2. LLM에서 토큰은 무엇을 뜻하나요?

3. 같은 질문을 해도 답변이 달라질 수 있는 이유는 무엇인가요?

4. 환각 현상이 위험한 이유는 무엇인가요?

5. 다음 중 더 좋은 프롬프트는 어느 쪽인가요? 이유도 적어 보세요.

   • A: "AI 설명해 줘."

   • B: "AI를 중학생에게 5문장으로 설명해 줘. 추천 알고리즘 예시를 포함해 줘."

정답 예시는 다음과 같습니다.

1. 기존 AI는 주로 입력을 분류하거나 예측하고, 생성형 AI는 새 글·이미지·코드 등을 만듭니다.

2. 모델이 문장을 처리하는 작은 조각입니다.

3. 모델이 문맥을 바탕으로 확률적으로 다음 토큰을 선택하기 때문입니다.

4. 틀린 내용을 자연스럽고 자신감 있게 말해 사용자가 사실로 믿을 수 있기 때문입니다.

5. B가 더 좋습니다. 대상, 길이, 예시 조건이 있어 답변 방향이 더 분명합니다.

체크리스트

• 생성형 AI가 새 결과물을 만드는 AI라는 점을 설명할 수 있다.

• LLM을 대규모 언어 모델이라고 풀어 말할 수 있다.

• 토큰과 문맥의 의미를 예시로 설명할 수 있다.

• 생성형 AI의 답변이 확률적으로 만들어진다는 점을 이해했다.

• 환각 현상이 무엇인지 설명할 수 있다.

• 중요한 답변은 출처와 사실을 확인해야 한다는 점을 안다.

• 같은 질문을 세 가지 방식으로 바꾸어 비교해 보았다.

다음 장 연결

이번 장에서는 생성형 AI가 어떻게 답변을 만들어 내는지 큰 원리를 배웠습니다. 이제 우리는 AI 답변을 무조건 믿는 대신, 입력과 출력의 관계를 관찰할 준비가 되었습니다.

다음 장부터는 Python과 Notebook 환경을 시작합니다. 생성형 AI가 문장을 다루는 도구라면, Python은 데이터를 직접 불러오고 계산하고 확인하는 도구입니다. 앞으로 우리는 AI가 말한 내용을 데이터로 확인하고, 직접 작은 분석을 수행하는 방법을 배울 것입니다.