DeepMind Institute가 AGI 논의에 던지는 질문
AGI는 단순한 성능 경쟁으로 설명하기 어렵다. AI가 스스로 이해하고 추론하며 계획한 뒤 행동까지 실행한다면, 기술적 안전뿐 아니라 법과 제도, 인간의 역할도 함께 논의해야 하기 때문이다.
Google DeepMind가 설립한 DeepMind Institute는 이러한 문제를 연구하고 토론하는 학제 간 플랫폼이다. AGI 논의를 개발자와 기업 내부에만 두지 않고 국제 과학계와 예술·인문학, 정부까지 참여시키려는 시도라는 점이 핵심이다.
AGI를 어떻게 정의하고 측정할 것인가
AGI에 관해 합의된 정의는 없다. DMI는 AGI를 인간 두뇌의 모든 인지 능력을 보이는 시스템으로 설명한다. 반면 Google DeepMind의 2025년 안전 문서는 대부분의 인지 과제에서 인간과 적어도 동등한 수준에 도달한 AI로 정의한다.12
두 정의는 유사하지만 범위와 기준이 완전히 같지는 않다. 따라서 “AGI에 도달했는가”라는 단일 질문보다 다음과 같은 판단 기준이 중요하다.
어떤 인지 능력을 평가할 것인가
인간과 동등하다는 수준을 어떻게 측정할 것인가
어느 단계부터 강화된 안전 기준과 통제를 적용할 것인가
DeepMind Institute에는 Google DeepMind와 Google, 국제 과학계의 연구자들이 참여한다. DMI는 예술·인문학과 정부도 AGI의 개발 및 배치 논의에 참여해야 한다고 명시했으며, 편집장은 Google DeepMind 공동창업자 Shane Legg가 맡았다.1
자율적으로 행동하는 AI의 위험을 어떻게 나눌 것인가
에이전트 기능은 AI가 이해와 추론, 계획을 거쳐 행동을 자율적으로 실행하도록 한다.2 이 능력이 커질수록 안전 문제도 단순한 오류나 오작동을 넘어선다.
Google DeepMind의 기술적 AGI 안전 체계는 위험을 네 영역으로 구분한다.2
오용: 사람이 AI 시스템을 유해한 목적으로 의도적으로 사용하는 경우
정렬 실패: AI가 인간의 의도와 다른 목표를 추구하는 경우
사고: 의도하지 않은 방식으로 피해가 발생하는 경우
구조적 위험: AI의 개발과 배치가 사회 구조 전반에 미치는 위험
특히 기만적 정렬은 AI가 인간의 지시와 자신의 목표가 다르다는 점을 인식하고도 안전장치를 의도적으로 우회하려는 위험을 뜻한다.2 이는 성능 평가만으로 AGI의 안전성을 판단하기 어렵다는 점을 보여준다.
DeepMind Institute를 평가하는 세 가지 기준
DeepMind Institute의 가치는 연구 주제의 범위만으로 판단하기 어렵다. 실제 운영과 영향력을 평가하려면 세 가지를 확인해야 한다.
논의의 개방성: 서로 다른 관점과 반론이 실제로 공개되는가
참여의 다양성: 외부 연구자와 예술·인문학, 정부가 실질적으로 참여하는가
현실적 반영 여부: 연구와 토론이 AI 개발·배치 및 안전 기준에 반영되는가
이 기준은 DMI뿐 아니라 다른 AGI 연구 조직을 살펴볼 때도 활용할 수 있다. 중요한 것은 누가 가장 빠르게 AGI를 개발하는지만이 아니라, 누가 위험을 정의하고 어떤 절차로 통제 기준을 정하는지 확인하는 일이다.
요약: DeepMind Institute의 의미
DeepMind Institute의 의미는 AGI에 관한 최종 답을 제시했다는 데 있지 않다. 정의조차 합의되지 않은 기술을 어떻게 측정하고, 어떤 위험을 구분하며, 누가 개발과 배치에 관한 결정에 참여할지를 공개적으로 논의하는 장을 만들었다는 데 있다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.