트랜스포머의 구조

어텐션이 "어디를 볼 것인가"를 정하는 엔진이라면, 트랜스포머는 그 엔진을 실제로 굴러가게 만든 완성형 차체에 가깝다. 이전 장에서 우리는 각 토큰이 다른 토큰을 직접 참고할 수 있다는 점이 얼마나 큰 변화였는지 보았다. 이제 한 걸음 더 들어가 보자. 어텐션만 있다고 해서 곧바로 강력한 모델이 되는 것은 아니다. 위치 정보도 넣어야 하고, 깊게 쌓아도 무너지지 않게 만들어야 하며, 입력을 읽는 방식과 출력을 생성하는 방식도 나눠 설계해야 한다.

바로 이 지점에서 트랜스포머의 진짜 힘이 드러난다. 트랜스포머는 단순히 "어텐션을 쓰는 모델"이 아니라, 어텐션을 중심에 두고 표현 학습, 정보 흐름, 학습 안정성, 확장성까지 한 번에 설계한 구조다. 그래서 BERT, GPT, ViT, 멀티모달 모델이 겉으로는 달라 보여도, 뼈대 차원에서는 한 가족처럼 보인다.

트랜스포머는 무엇을 조립한 구조인가

트랜스포머를 처음 보면 부품이 많아 보여 복잡하게 느껴진다. 하지만 큰 그림은 의외로 단순하다. 입력 토큰을 벡터로 바꾸고, 위치 정보를 더한 뒤, 여러 개의 블록을 반복해서 통과시킨다. 각 블록 안에서는 두 가지 일이 일어난다. 먼저 어텐션으로 문맥을 섞고, 그다음 피드포워드 네트워크로 각 위치의 표현을 더 정교하게 다듬는다. 이 과정을 깊게 쌓으면서 표현은 점점 더 풍부해진다.

중요한 점은 트랜스포머가 "단어를 하나씩 처리하는 기계"가 아니라는 것이다. 문장 전체를 펼쳐 놓고, 각 위치의 표현을 반복적으로 업데이트하는 기계에 가깝다. 처음 층에서는 가까운 관계나 표면적인 연결을 많이 보고, 깊은 층으로 갈수록 문법적 역할, 의미적 연결, 문장 전체의 의도 같은 더 추상적인 구조를 잡아낸다.

즉, 트랜스포머는 한 번에 정답을 찍는 모델이 아니라, 여러 층을 거치며 표현을 정련하는 모델이다. 마치 초벌 스케치를 한 뒤, 명암을 넣고, 윤곽을 다듬고, 마지막으로 질감을 입히는 그림 작업과 비슷하다.

인코더와 디코더는 무엇이 다른가

트랜스포머 구조를 이해할 때 가장 먼저 만나는 구분은 인코더와 디코더다. 둘은 이름부터 어렵게 느껴지지만, 사실 역할은 꽤 직관적이다.

인코더는 입력을 잘 이해하는 데 집중한다. 문장을 읽고, 각 토큰이 문맥 속에서 무슨 뜻을 가지는지 풍부한 표현으로 바꾼다. 번역을 예로 들면, 원문을 읽고 그 의미를 촘촘한 내부 표현으로 정리하는 역할이다.

디코더는 그 표현을 바탕으로 출력을 한 토큰씩 만들어 낸다. 번역이라면 목표 언어의 문장을 순서대로 생성하고, 요약이라면 긴 문서를 짧은 문장으로 풀어낸다. 즉, 인코더가 "읽기"에 강하다면 디코더는 "쓰기"에 강하다.

이 차이를 작업 관점에서 보면 더 분명해진다.

• 인코더 전용 구조는 입력을 잘 이해하는 문제가 중요할 때 강하다.

• 인코더-디코더 구조는 입력을 읽고 다른 형태의 출력을 만들어야 할 때 유리하다.

• 디코더 전용 구조는 자연스럽게 이어지는 출력을 생성할 때 강력하다.

예를 들어 문장 분류, 검색, 개체명 인식처럼 "주어진 입력을 이해해 판단하는 일"은 인코더 전용 구조와 잘 맞는다. BERT 계열이 이런 작업에 강한 이유가 여기에 있다. 반면 번역, 요약, 질의응답처럼 "입력을 읽고 새 문장을 만들어야 하는 일"은 인코더-디코더 구조가 자연스럽다. T5 같은 계열이 대표적이다. 그리고 긴 글 생성, 코드 생성, 대화처럼 "이전 토큰을 보고 다음 토큰을 이어 쓰는 일"에는 디코더 전용 구조가 특히 잘 맞는다. GPT 계열이 이 흐름 위에 있다.

인코더는 문장을 이해하는 공장이다

인코더 블록의 핵심은 셀프 어텐션과 피드포워드 네트워크다. 입력 문장의 모든 토큰이 서로를 보면서 문맥을 반영한 표현을 만들고, 그 표현을 각 위치별로 더 정교하게 가공한다. 이 블록이 여러 층 쌓이면, 처음에는 단순한 단어 벡터였던 것이 문맥을 많이 담은 표현으로 바뀐다.

인코더의 셀프 어텐션은 보통 양방향이다. 즉, 어떤 단어든 문장 앞과 뒤를 모두 참고할 수 있다. "은행"이라는 단어가 나왔을 때, 뒤에 "대출"이 나오면 금융기관일 가능성이 커지고, "강가"가 나오면 river bank에 가까워진다. 인코더는 이런 양방향 문맥을 적극적으로 활용한다.

그래서 인코더는 "문장을 이해하는 일"에 특히 강하다. 입력 전체를 한꺼번에 보고 각 위치를 풍부하게 표현하기 때문이다. 생성보다 이해가 중요한 작업에서 인코더가 자주 선택되는 이유가 바로 이 구조적 특성이다.

디코더는 왜 미래를 가리나

디코더도 셀프 어텐션을 사용하지만, 인코더와 중요한 차이가 하나 있다. 미래 토큰을 보면 안 된다는 점이다. 아직 생성하지 않은 다음 단어를 미리 보면 답안을 훔쳐보는 셈이기 때문이다. 그래서 디코더의 셀프 어텐션에는 마스크가 들어간다. 현재 위치는 자기보다 앞에 있는 토큰만 참고할 수 있고, 뒤에 있는 토큰은 가려진다.

이 구조를 causal, 즉 인과적 구조라고 부른다. 말 그대로 원인이 먼저, 결과가 나중에 오도록 강제하는 것이다. "나는 오늘" 다음에 어떤 단어가 올지 예측할 때, 아직 쓰지 않은 단어를 참고해서는 안 된다. 디코더는 이런 제약 덕분에 실제 생성 상황과 같은 방식으로 학습된다.

인코더-디코더 구조에서는 디코더가 한 가지를 더 한다. 자기 자신이 지금까지 생성한 토큰만 보는 것이 아니라, 인코더가 만든 입력 표현도 참고한다. 이것이 크로스 어텐션이다. 번역 모델이라면 디코더는 지금까지 생성한 번역 문장과 함께, 원문에서 어디를 참고해야 할지도 본다. 그래서 "읽고 쓰는" 작업에 강해진다.

반면 GPT처럼 디코더 전용 구조는 인코더 없이, 거대한 문맥을 받아 다음 토큰을 이어서 생성하는 방향으로 발전했다. 구조는 더 단순하지만, 규모를 크게 키우고 다음 토큰 예측을 대규모로 학습시키면서 엄청난 생성 능력을 얻었다.

왜 현대 AI는 디코더 전용으로 기울었을까

이 질문은 많은 독자가 궁금해하는 지점이다. 트랜스포머의 원형은 인코더와 디코더를 모두 갖고 있었는데, 왜 오늘날의 LLM은 디코더 전용이 많을까.

가장 큰 이유는 목표가 분명했기 때문이다. 인터넷 규모의 텍스트를 이용해 "다음 토큰 예측"을 대규모로 학습시키면, 생성 능력뿐 아니라 요약, 번역, 질의응답, 코드 작성, 추론 흉내까지 꽤 넓은 능력이 함께 올라갔다. 즉, 하나의 단순한 목표로 매우 범용적인 모델을 만들 수 있었던 것이다.

디코더 전용 구조는 생성과 잘 맞고, 프롬프트를 앞에 붙여 다양한 작업을 같은 형식으로 처리하기도 쉽다. 질문을 넣으면 답하고, 코드 주석을 넣으면 코드를 이어 쓰고, 지시문을 넣으면 그에 맞는 출력을 생성한다. "입력과 출력의 경계"를 모두 텍스트 시퀀스로 통일해 버리는 방식이 대규모 학습과 잘 맞아떨어졌다.

하지만 이것이 인코더가 쓸모없다는 뜻은 아니다. 검색, 랭킹, 분류, 임베딩 같은 작업에서는 여전히 인코더 계열의 강점이 분명하다. 다시 말해 현대 모델 생태계는 하나의 승자가 모든 것을 대체한 것이 아니라, 문제의 성격에 따라 다른 구조가 살아남은 결과에 가깝다.

어텐션은 순서를 모르기 때문에 위치를 따로 넣어야 한다

트랜스포머에서 가장 흥미로운 사실 중 하나는, 셀프 어텐션만 놓고 보면 순서를 본질적으로 알지 못한다는 점이다. "고양이가 사람을 물었다"와 "사람이 고양이를 물었다"는 단어 집합이 같아도 순서가 다르면 의미가 완전히 달라진다. 그런데 어텐션은 토큰들 사이의 관련성을 계산할 뿐, 그것이 몇 번째 위치에 있는지는 자동으로 알지 못한다.

그래서 위치 정보를 별도로 주입해야 한다. 이것이 포지셔널 인코딩이다. 말이 어렵지만 아이디어는 간단하다. 각 토큰 벡터에 "나는 몇 번째 위치에 있다"는 신호를 더해 주는 것이다. 그러면 같은 단어라도 문장 앞에 있는지, 뒤에 있는지에 따라 다른 표현으로 시작할 수 있다.

초기 트랜스포머에서는 사인, 코사인 같은 주기 함수를 이용해 위치 벡터를 만들었다. 이 방식의 장점은 위치 사이의 상대적 패턴을 일정한 규칙으로 표현할 수 있다는 점이다. 하지만 이후에는 학습 가능한 위치 임베딩, 상대 위치 인코딩, 회전 위치 인코딩처럼 더 다양한 방식이 등장했다.

여기서 중요한 것은 특정 공식보다 직관이다. 트랜스포머는 문맥 관계를 잘 보지만, 그 관계가 어느 순서 위에서 일어나는지는 따로 알려줘야 한다. 위치 정보는 어텐션이 그냥 단어 모음을 섞는 데서 끝나지 않고, "문장"을 다루게 만드는 장치다.

위치 정보는 왜 생각보다 중요할까

위치 정보는 단지 첫 번째, 두 번째를 표시하는 꼬리표가 아니다. 모델이 언어의 구조를 다루는 방식 자체에 영향을 준다.

예를 들어 "아주 맛있는 빵집"과 "빵집이 아주 맛있다"는 비슷한 단어를 쓰지만 문장 구조가 다르다. 전자는 명사를 꾸미는 표현이고, 후자는 서술 구조다. 모델이 이런 차이를 잘 이해하려면 단어 사이의 관계뿐 아니라, 그것들이 문장에서 어떤 순서로 놓였는지도 알아야 한다.

또 긴 문맥에서는 절대 위치보다 상대 위치가 더 중요할 때가 많다. 어떤 단어가 바로 앞 단어를 수식하는지, 멀리 떨어진 주어와 동사가 연결되는지, 같은 문단 안에 있는지 같은 정보가 핵심이 되기 때문이다. 그래서 현대 모델은 "몇 번째냐"뿐 아니라 "얼마나 떨어져 있느냐"를 더 잘 반영하도록 위치 표현을 개선해 왔다.

한마디로 말해 포지셔널 인코딩은 트랜스포머에게 시간감각과 문장감각을 주는 장치다. 어텐션이 시야를 열어 주었다면, 위치 정보는 그 시야에 좌표를 붙여 준다.

멀티헤드 어텐션은 왜 굳이 여러 머리로 나눌까

어텐션을 한 번만 계산해도 문맥을 볼 수 있는데, 왜 여러 헤드로 나눌까. 여기서 헤드는 "서로 다른 관점으로 관계를 보는 작은 어텐션 묶음"이라고 생각하면 이해가 쉽다.

하나의 헤드만 있으면 모델은 모든 관계를 하나의 시선으로 처리해야 한다. 하지만 실제 문장에는 여러 종류의 연결이 섞여 있다. 어떤 연결은 문법적이다. 주어와 동사의 관계, 수식어와 피수식어의 관계가 있다. 어떤 연결은 의미적이다. 대명사가 누구를 가리키는지, 감정 표현이 무엇을 평가하는지 같은 관계가 있다. 또 어떤 연결은 장거리 의존성이다. 문장 앞에서 던진 주제가 뒤에서 다시 회수되기도 한다.

멀티헤드 어텐션은 이런 다양한 관계를 서로 다른 하위 공간에서 병렬로 포착하게 해 준다. 어떤 헤드는 가까운 단어 관계에 민감하고, 어떤 헤드는 멀리 떨어진 참조를 잘 잡고, 또 어떤 헤드는 특정 구문 패턴에 반응하는 식이다. 물론 헤드마다 역할이 사람이 미리 정해 놓은 것처럼 딱 나뉘는 것은 아니다. 하지만 전체적으로는 여러 시선을 동시에 운영하는 편이 하나의 시선만 쓰는 것보다 표현력이 높아진다.

사람이 문장을 읽을 때도 비슷하다. 우리는 동시에 여러 층위를 본다. 문법적으로 말이 되는지, 의미가 이어지는지, 앞문장과 연결되는지, 말하는 이의 의도가 무엇인지 한 번에 살핀다. 멀티헤드 어텐션은 이런 다층적 읽기를 계산적으로 흉내 내는 장치라고 볼 수 있다.

각 헤드는 작지만, 함께 보면 넓어진다

멀티헤드 어텐션의 중요한 묘미는 "쪼개서 본다"는 데 있다. 전체 차원을 한 번에 다 쓰는 대신, 여러 헤드가 각자 일부 차원에서 관계를 계산하고, 마지막에 그 결과를 다시 합친다. 겉으로 보면 나눠 쓰니 손해처럼 보일 수 있다. 그러나 오히려 이 분할 덕분에 서로 다른 패턴을 병렬로 포착하기 쉬워진다.

이를 사진 촬영에 비유해 보자. 하나의 렌즈로 모든 장면을 해결하려 하면 멀리 있는 것도, 가까운 것도, 넓은 풍경도, 작은 표정도 다 완벽히 잡기 어렵다. 하지만 광각, 표준, 망원 렌즈가 함께 있으면 장면을 훨씬 입체적으로 이해할 수 있다. 멀티헤드 어텐션의 여러 헤드도 비슷하다. 각각은 제한된 시야를 갖지만, 함께 모이면 더 풍부한 문맥 지도를 만든다.

이 구조 덕분에 트랜스포머는 단순히 "관련 있는 단어를 본다"를 넘어, 여러 종류의 관련성을 동시에 조직할 수 있게 된다. 이것이 깊은 층으로 갈수록 강력한 표현으로 이어진다.

피드포워드 네트워크는 왜 꼭 필요할까

트랜스포머를 처음 배울 때 많은 사람이 어텐션만 기억하고, 피드포워드 네트워크는 덤처럼 여긴다. 하지만 실제로는 매우 중요하다. 어텐션이 토큰들 사이에서 정보를 섞는 역할이라면, 피드포워드 네트워크는 각 토큰 위치에서 비선형 변환을 수행하며 표현을 더 정교하게 만든다.

쉽게 말해 어텐션은 "누구의 말을 참고할지"를 정하는 단계이고, 피드포워드 네트워크는 그렇게 모은 정보를 바탕으로 "내 표현을 어떻게 바꿀지"를 정하는 단계다. 전자는 관계 중심, 후자는 가공 중심이다.

보통 피드포워드 네트워크는 각 위치에 동일한 작은 MLP를 적용하는 형태다. 모든 토큰에 같은 규칙을 쓰지만, 입력되는 벡터가 다르므로 결과는 각기 다르게 나온다. 이것이 중요한 이유는, 어텐션만으로는 정보가 선형적으로 섞이는 경향이 강하기 때문이다. 복잡한 패턴을 학습하려면 비선형성이 필요하다. 피드포워드 네트워크가 바로 그 비선형성을 제공한다.

즉, 트랜스포머 블록은 "문맥을 모으는 장치"와 "표현을 변형하는 장치"가 번갈아 결합된 구조라고 볼 수 있다. 둘 중 하나만 있어서는 지금의 성능이 나오기 어렵다.

잔차 연결은 깊은 모델의 생명줄이다

트랜스포머가 강력한 이유 중 하나는 아주 깊게 쌓을 수 있다는 점이다. 그런데 층이 깊어질수록 학습은 쉽게 불안정해진다. 앞에서 만든 좋은 표현이 뒤에서 망가질 수도 있고, 기울기가 잘 전달되지 않아 학습이 더뎌질 수도 있다. 이 문제를 완화하는 핵심 장치가 잔차 연결이다.

잔차 연결은 새로 계산한 결과에 원래 입력을 더해 주는 방식이다. 즉, 각 블록은 "완전히 새 표현을 만드는 것"보다 "기존 표현을 조금 수정하는 것"에 집중하게 된다. 이 차이는 매우 크다. 처음부터 모든 것을 다시 배우는 것보다, 이미 괜찮은 표현을 조금씩 개선하는 편이 훨씬 안정적이기 때문이다.

비유하자면 잔차 연결은 원고의 전체를 매번 새로 쓰는 대신, 기존 문장 위에 수정 사항을 덧붙이는 편집 과정과 비슷하다. 이렇게 하면 좋은 부분은 유지하면서 필요한 부분만 고칠 수 있다. 깊은 모델이 무너지지 않고 계속 쌓일 수 있는 이유가 여기에 있다.

레이어 정규화는 왜 학습을 차분하게 만들까

깊은 네트워크에서 또 하나 중요한 문제는, 층을 지날수록 표현의 스케일이 요동칠 수 있다는 점이다. 어떤 층에서는 값이 너무 커지고, 다른 층에서는 너무 작아질 수 있다. 이런 흔들림은 학습을 불안정하게 만든다. 레이어 정규화는 각 위치의 표현을 일정한 범위로 정리해 이런 문제를 줄인다.

직관적으로 말하면 레이어 정규화는 매 층마다 표현의 호흡을 가다듬는 과정이다. 너무 흥분한 값은 가라앉히고, 지나치게 죽은 값은 상대적으로 균형을 맞춘다. 덕분에 다음 층은 훨씬 다루기 쉬운 입력을 받게 된다.

잔차 연결과 레이어 정규화는 함께 작동할 때 특히 강하다. 잔차 연결이 정보의 큰 흐름을 보존한다면, 레이어 정규화는 그 흐름이 지나치게 거칠어지지 않게 정리한다. 이 둘이 없다면 트랜스포머는 지금처럼 수십 층, 수백 층으로 깊어지기 어려웠을 것이다.

트랜스포머 블록은 어떻게 반복되나

이제 부품을 다 봤으니, 한 블록 안에서 무슨 일이 일어나는지 다시 정리해 보자. 입력 벡터가 들어오면 먼저 어텐션을 통해 문맥 정보를 섞는다. 그 결과를 원래 입력과 더하고 정규화한다. 이어서 피드포워드 네트워크를 적용해 각 위치의 표현을 더 복잡하게 변형한다. 그리고 다시 잔차 연결과 정규화를 거친다.

이 한 블록은 작은 작업 단위처럼 보이지만, 여러 번 반복되면 강력해진다. 얕은 층은 표면적 관계를 정리하고, 중간 층은 문장 구조나 의미 연결을 강화하고, 깊은 층은 작업에 유용한 더 추상적인 표현을 만든다. 그래서 트랜스포머는 단순히 "큰 모델"이 아니라, "표현을 계층적으로 정제하는 모델"이기도 하다.

이 반복 구조의 아름다움은 범용성에 있다. 언어든 이미지든, 심지어 여러 모달리티가 섞인 데이터든, 입력을 토큰 시퀀스로 바꾸고 이 블록을 통과시키는 방식으로 꽤 넓은 문제를 다룰 수 있다. 바로 이 범용성이 이후 파운데이션 모델로 이어지는 중요한 배경이 된다.

트랜스포머는 왜 커질수록 강해졌을까

딥러닝 모델이 커진다고 무조건 좋아지는 것은 아니다. 어떤 구조는 일정 크기 이상으로 키워도 학습이 잘 안 되거나, 계산 효율이 나빠져 이득이 줄어든다. 그런데 트랜스포머는 비교적 예측 가능하게 성능이 올라가는 편이었다. 이것이 대규모 모델 시대를 여는 결정적 조건이 되었다.

이유는 여러 가지가 겹친다. 먼저 어텐션 기반 구조는 GPU가 잘하는 행렬 연산과 궁합이 좋다. 즉, 병렬화가 잘 된다. 다음으로 잔차 연결과 정규화 덕분에 깊게 쌓아도 학습이 비교적 안정적이다. 또 구조가 모듈식이라 너비, 깊이, 헤드 수, 컨텍스트 길이 등을 체계적으로 확장하기 쉽다.

무엇보다 중요한 것은 트랜스포머가 범용적인 표현 학습기라는 점이다. 충분한 데이터와 계산 자원이 주어지면, 언어 패턴이든 시각 패턴이든 꽤 많은 구조를 내부 표현으로 압축해 낼 수 있다. 그래서 모델이 커질수록 단순히 암기량만 늘어난 것이 아니라, 더 다양한 패턴을 더 높은 해상도로 담아내는 방향으로 능력이 확장되었다.

물론 여기에는 비용이라는 그림자도 있다. 어텐션은 기본적으로 토큰 수가 늘수록 계산량이 빠르게 증가한다. 긴 문맥을 다루는 데는 여전히 부담이 크다. 그래서 이후에는 더 긴 컨텍스트를 효율적으로 처리하기 위한 변형들도 등장한다. 하지만 기본 구조가 보여 준 확장 가능성은 이미 충분히 강력했다.

BERT, GPT, ViT가 한 계보로 보이는 이유

트랜스포머를 구조 수준에서 이해하면, 서로 다른 모델들이 갑자기 낯설지 않게 보이기 시작한다. BERT는 인코더 중심으로 입력 이해를 밀어붙인 모델이다. GPT는 디코더 중심으로 생성 능력을 확장한 모델이다. ViT는 이미지를 잘게 나눈 패치를 토큰처럼 다루며 트랜스포머를 비전으로 옮겨 놓은 모델이다.

겉모습은 달라도 공통점은 분명하다. 입력을 토큰 단위의 벡터로 바꾸고, 위치 정보를 주입하고, 어텐션과 피드포워드가 반복되는 블록을 통과시키며, 더 좋은 표현을 만든다는 점이다. 다시 말해 트랜스포머는 특정 데이터 형식에 묶인 구조가 아니라, "토큰들의 관계를 학습하는 일반 엔진"에 가깝다.

멀티모달 모델도 이 연장선에 있다. 텍스트 토큰, 이미지 패치 토큰, 오디오 프레임 토큰을 한 체계 안에서 다루거나, 서로 다른 인코더와 디코더를 연결해 공통 표현 공간을 만들 수 있다. 그래서 현대 AI는 언어 모델, 비전 모델, 오디오 모델이 따로 놀기보다, 점점 같은 구조적 언어를 공유하는 방향으로 움직이고 있다.

트랜스포머를 이해하면 생성형 AI의 지도가 바뀐다

많은 사람은 BERT, GPT, LLM, ViT, 멀티모달 모델을 각각 다른 기술처럼 배운다. 하지만 트랜스포머의 구조를 이해하면 이들이 하나의 계보 위에 있다는 사실이 보인다. 무엇을 잘 읽을 것인가, 무엇을 잘 생성할 것인가, 어떤 종류의 토큰을 다룰 것인가, 위치와 문맥을 어떻게 표현할 것인가가 다를 뿐, 중심 설계는 놀랄 만큼 닮아 있다.

이 관점은 이후 장들을 이해하는 데도 매우 중요하다. 언어 모델은 결국 디코더 전용 트랜스포머를 어떻게 학습하고 사용하는지의 문제로 이어지고, 파운데이션 모델은 이 구조를 얼마나 크게, 얼마나 넓은 데이터 위에서 훈련했는지의 문제로 이어진다. 임베딩, RAG, 파인튜닝, 멀티모달, 에이전트도 모두 이 공통 골격 위에서 다시 읽을 수 있다.

트랜스포머는 어텐션의 성공을 하나의 구조로 고정한 모델이었다. 그리고 그 구조는 단순히 하나의 논문 아이디어로 끝나지 않았다. 현대 AI의 기본 문법이 되었다. 이제 다음 장에서는 이 구조 위에서 언어 모델이 어떻게 글을 생성하는지, 왜 "다음 단어 예측" 같은 단순한 목표가 놀라운 능력으로 이어지는지 본격적으로 따라가 보자.