본문으로 건너뛰기
프롤로그
프롤로그: LLM은 왜 갑자기 중요한 기술이 되었나

ChatGPT를 매일 쓰면서도 "도대체 안에서는 무슨 일이 일어나는 걸까?" 궁금했던 적이 있나요?

이 책은 LLM을 신비로운 챗봇이 아니라, 텍스트를 토큰으로 나누고, 벡터로 바꾸고, 문맥 속 관계를 계산해 다음 토큰을 예측하는 시스템으로 차근차근 풀어냅니다.

이 책에서 만드는 것은 ChatGPT가 아니라, ChatGPT의 핵심 원리를 이해하기 위한 작은 GPT입니다.

읽기 시작

목차

총 52개의 챕터
  1. 프롤로그: LLM은 왜 갑자기 중요한 기술이 되었나
  1. 언어 모델이란 무엇인가
  2. 다음 토큰을 예측한다는 것
  3. 텍스트는 어떻게 숫자가 되는가
  4. 토큰화와 어휘 사전
  5. 임베딩: 토큰을 벡터로 바꾸는 법
  6. 컨텍스트 윈도우와 문맥
  7. LLM이 말하는 것처럼 보이는 이유
  8. Attention은 무엇을 보는가
  9. Self-Attention 쉽게 이해하기
  10. Query, Key, Value의 의미
  11. Multi-Head Attention
  12. 위치 임베딩과 순서 정보
  13. Feed Forward Network와 비선형 변환
  14. LayerNorm과 Residual Connection
  15. GPT 구조 한눈에 보기
  16. 실습 환경 준비하기
  17. 작은 텍스트 데이터셋 준비하기
  18. 문자 단위 Bigram 언어 모델 만들기
  19. 작은 신경망 언어 모델 만들기
  20. Self-Attention 직접 구현하기
  21. Multi-Head Attention 구현하기
  22. Transformer Block 만들기
  23. Mini GPT 학습시키기
  24. 모델이 문장을 생성하는 과정 보기
  25. 작은 모델의 한계 이해하기
  26. 사전학습의 의미
  27. 지도 미세조정과 Instruction Tuning
  28. 선호 데이터, RLHF, DPO
  29. 평가와 벤치마크
  30. 환각은 왜 생기는가
  31. LLM API 시작하기
  32. 프롬프트 엔지니어링의 기본
  33. 구조화 출력
  34. Function Calling과 Tool Use
  35. 임베딩 API와 벡터 검색
  36. RAG의 기본 구조
  37. 벡터 데이터베이스와 문서 파이프라인
  38. 문서 기반 Q&A RAG 챗봇 만들기
  39. 블로그 글 생성기 만들기
  40. PDF 요약기 만들기
  41. 책 기반 Q&A 챗봇 만들기
  42. 고객지원 챗봇 만들기
  43. AI 글쓰기 도우미 만들기
  44. 간단한 AI 에이전트 만들기
  45. 비용 최적화
  46. 응답 속도 개선
  47. 품질 평가와 로그 기반 개선
  48. 보안과 개인정보
  49. 프롬프트 인젝션 대응
  50. 좋은 AI 기능을 설계하는 법
  51. 에필로그: LLM을 이해한다는 것은 무엇인가

책 소개

ChatGPT를 매일 쓰면서도 "도대체 안에서는 무슨 일이 일어나는 걸까?" 궁금했던 적이 있나요? 이 책은 LLM을 신비로운 챗봇이 아니라, 텍스트를 토큰으로 나누고, 벡터로 바꾸고, 문맥 속 관계를 계산해 다음 토큰을 예측하는 시스템으로 차근차근 풀어냅니다.

이 책에서 만드는 것은 ChatGPT가 아니라, ChatGPT의 핵심 원리를 이해하기 위한 작은 GPT입니다. 문자 단위 Bigram 모델에서 시작해 Self-Attention, Multi-Head Attention, Transformer Block, Mini GPT 학습과 생성 과정을 직접 따라가며 "LLM이 어떻게 문장을 만들어 내는지"를 손으로 확인합니다.

원리를 이해한 뒤에는 실제 서비스 개발로 넘어갑니다. LLM API 호출, 프롬프트 설계, 구조화 출력, Function Calling, Tool Use, 임베딩 검색, RAG 챗봇, PDF 요약기, 고객지원 챗봇, AI 에이전트까지 연결하며 LLM을 제품 기능으로 만드는 흐름을 배웁니다.

이 책의 목표는 단순한 프롬프트 사용자를 넘어서는 것입니다. 읽고 나면 무엇을 모델에게 맡기고, 무엇을 검색·코드·도구·검증·사람 승인으로 처리해야 하는지 판단할 수 있는 AI 기능 설계자의 관점을 갖게 될 것입니다.

공유하기
카카오로 공유하기
페이스북 공유하기
트위터로 공유하기
url 복사하기
틸노트 사업자 정보
틸노트 | 사업자등록번호: 147-10-02214 | 통신판매업: 2022-서울중랑-1696 | 대표: 문지학 | 개인정보책임자: 문지학
이메일: [email protected] | 전화: 0507-0178-0131
주소: 서울특별시 중랑구 양원역로 92, 104동 702호
틸노트가 직접 판매하는 서비스 외에 크리에이터가 판매하는 경우 틸노트는 통신판매중개자이며, 통신판매의 당사자가 아닙니다. 상품, 상품정보, 거래에 관한 의무와 책임은 거래 당사자 각자에게 있습니다.
본 서비스는 생성형 AI 기술을 활용합니다.
처음 만나는 LLM: 원리부터 Mini GPT 구현, RAG 서비스 개발까지
처음 만나는 LLM: 원리부터 Mini GPT 구현, RAG 서비스 개발까지
무료 공개
읽기 시작하기