공개 노트

염소로 만든 신경망이 AI 연구에 던진 질문

2026-06-18Views 5약 4분생성형 AI 활용

Summary

Age of Empires II 안에서 염소로 신경망을 만들었다는 이야기는 처음엔 농담처럼 들립니다. 하지만 Adrian de Wynter의 논문 제목은 그 의도를 분명히 드러냅니다. “LLM에 인간 같은 속성이 있다면, Age of Empires II에도 있다.”¹

이 논문은 2026년 5월 29일 arXiv에 처음 제출됐고, 6월 11일 v3로 수정됐습니다.¹ 저자인 de Wynter는 Microsoft의 principal scientist이자 University of York 연구자입니다.²

핵심은 “게임도 지능이 있다”는 주장이 아닙니다. 오히려 반대에 가깝습니다. 어떤 시스템의 출력만 보고 곧바로 “이해했다”, “감정이 있다”, “도덕적 판단을 했다”고 말해도 되는지 묻는 실험입니다.

염소 신경망이 실제로 한 일

이 실험에서 중요한 개념은 기판입니다. 기판은 계산이 실제로 구현되는 물리적·논리적 매체를 뜻합니다. 일반적인 신경망에서는 GPU와 메모리가 그 역할을 합니다. de Wynter의 실험에서는 Age of Empires II의 맵 에디터가 기판이 됐습니다.

그는 Age of Empires II 시나리오 에디터 안에 간단한 퍼셉트론을 구현했습니다. 염소는 신호를 운반하고, 잔디와 다리 레일은 0과 1을 표현합니다.³ 완성된 미니 네트워크는 두 개의 XNOR 게이트와 하나의 AND 게이트로 구성됐습니다.³

이 장치는 작고 제한적입니다. 그러나 바로 그 점이 중요합니다. 같은 계산 구조가 꼭 우리가 익숙한 AI 시스템 안에서만 구현되는 것은 아니라는 사실을 보여주기 때문입니다.

LLM이 “슬프다”는 말에 공감하듯 답하면 우리는 쉽게 인간적인 속성을 떠올립니다. 자연어 인터페이스가 있기 때문에 그 반응은 더 그럴듯하게 느껴집니다.

하지만 같은 종류의 계산이 염소가 길을 따라 움직이는 방식으로 구현된다면 인상은 달라집니다. 우리는 그 장면을 보며 “염소들이 이해했다”고 말하기보다는, 단순한 회로가 작동했다고 생각할 가능성이 큽니다.

de Wynter가 지적하는 지점이 여기에 있습니다. 문제는 출력 자체보다 출력에 붙이는 해석입니다. 어떤 행동이 특정 기판에만 고유하지 않다면, 그 행동만으로 인간적인 속성을 귀속하는 일은 신중해야 합니다.

그는 이를 “LLM 비고유성”으로 설명합니다. LLM의 일부 행동은 특정 매체에만 묶여 있지 않다는 뜻입니다.⁴ 따라서 LLM에 인간 같은 속성이 있다고 주장하려면, 먼저 무엇을 측정했는지, 그 측정이 왜 그런 결론을 정당화하는지 분명히 해야 합니다.

이 비판은 단순한 말장난이 아닙니다. 보도에 따르면 de Wynter는 2024년 중반부터 2026년 중반까지 AI 논문 315편을 분석했고, 그중 57%가 전제에서 LLM에 인간 유사 속성이 있다고 가정했습니다.⁵

여기서 중요한 교훈은 관찰과 귀속을 구분하는 것입니다.

더 좋은 표현은 다음과 같습니다.

조건 X에서 모델이 Y를 출력했다.

주의해야 할 표현은 여기서 곧바로 한 걸음 더 뛰는 것입니다.

따라서 모델은 이해했다.
따라서 모델은 감정을 가졌다.
따라서 모델은 도덕적 판단을 했다.

물론 인간적인 단어가 항상 틀린 것은 아닙니다. 설명을 쉽게 하기 위한 비유로는 유용할 수 있습니다. 그러나 연구나 평가의 결론이 되려면, 그 단어가 무엇을 의미하는지와 어떤 증거로 뒷받침되는지가 필요합니다.

염소 신경망의 가치는 우스꽝스러운 구현 자체에 있지 않습니다. 그것은 우리가 AI 시스템을 볼 때 얼마나 쉽게 인터페이스와 출력에 끌려가는지 보여주는 데 있습니다.

AI를 평가할 때는 먼저 다음을 물어야 합니다.

Age of Empires II의 염소들은 AI가 인간 같다는 증거가 아닙니다. 오히려 인간 같아 보이는 출력만으로 AI에 인간적인 속성을 부여하는 일이 얼마나 취약할 수 있는지 보여주는 장치입니다.

결론은 단순합니다. AI를 말할 때는 “무엇을 출력했는가”와 “그것이 무엇을 의미하는가”를 분리해야 합니다. 이 구분이 흐려질수록, 우리는 모델을 이해하는 것이 아니라 모델에 대한 이야기를 과장하게 됩니다.