매주 누군가는 "AGI가 임박했다"고 말합니다. 문제는 그 말이 과장인지 경고인지 확정되기 전에, 우리는 이미 커리어·사업·투자·교육 선택을 해야 한다는 점입니다.
최근 배리 딜러는 샘 올트먼 개인을 신뢰한다고 말하면서도, AGI 앞에서는 "trust is irrelevant"라고 선을 그었습니다. 핵심은 특정 리더의 선의가 아니라, 만든 사람도 결과를 완전히 예측하지 못하는 시스템적 불확실성이라는 주장입니다.1 지금 중요한 이유도 여기에 있습니다. AGI는 아직 증명된 제품명이 아니라, 의사결정을 흔드는 불확실성의 이름에 가깝습니다.
"이게 AGI인가?"보다 "무엇을 싸게 만드는가?"
AGI는 보통 인간 수준 또는 그 이상의 인지 능력을 여러 작업에서 발휘하는 가상의 AI로 설명됩니다. 다만 학계와 업계 모두가 합의한 단일 정의는 아직 없습니다.2
그래서 "이 모델이 AGI냐 아니냐"만 묻는 것은 실무적으로 별 도움이 되지 않습니다. 더 나은 질문은 이것입니다.
어떤 지적 작업의 비용이 급격히 낮아지는가?
예를 들어 보고서 초안 작성, 코드 리뷰, 고객 응대, 법률 문서 검색, 데이터 분석, 교육 콘텐츠 제작이 더 싸고 빨라진다면, AGI가 아니어도 시장은 바뀝니다. 반대로 모델이 멋진 데모를 보여줘도 감독 비용, 오류 검증 비용, 보안 리스크가 크면 실제 자동화 가치는 제한됩니다.
즉 AGI 논쟁은 철학 문제이기도 하지만, 기업과 개인에게는 원가 구조의 문제입니다.
AGI 주장에 속지 않기 위한 다섯 가지 질문
AI 기업, CEO, 인플루언서가 "일반지능에 가까워졌다"고 말할 때는 다음을 확인해야 합니다.
첫째, 새로운 분야로 지식이 옮겨가는가.
수학을 잘하는 모델이 법률 추론, 실험 설계, 장기 계획에서도 안정적인가?
둘째, 자율성이 얼마나 큰가.
구글 딥마인드 연구자들은 AGI를 성능 수준뿐 아니라 도구·컨설턴트·협업자·전문가·에이전트 같은 자율성 수준으로도 나눠 설명했습니다.3 성능이 높아도 완전 자율 에이전트와는 위험 프로필이 다릅니다.
셋째, 실패했을 때 스스로 고치는가.
그럴듯한 답을 내는 능력과 오류를 감지하고 복구하는 능력은 다릅니다.
넷째, 인간 감독 비용이 줄어드는가.
AI가 80%를 처리해도 나머지 20% 검수에 전문가 시간이 더 들어가면 자동화가 아닙니다.
다섯째, 비용이 현실적인가.
추론 비용, 데이터 연결, 보안, 감사 로그, 책임 소재까지 포함해야 합니다.
이 기준을 통과하지 못하면 "AGI 근접"이라는 표현은 기술 평가라기보다 마케팅일 가능성이 큽니다.
진짜 변화는 'AGI 이전'에 먼저 온다
반론도 있습니다. "AGI는 아직 가설인데 왜 준비해야 하느냐"는 질문입니다. 타당합니다. 데이터브릭스는 현재 어떤 AI도 일반지능의 전체 조건을 입증하지 못했다고 설명합니다.4
하지만 여기서 중요한 트레이드오프가 생깁니다. AGI가 멀다고 해서 변화가 느린 것은 아닙니다. 엔비디아 젠슨 황은 2024년 GTC에서 AGI까지 5년이라는 전망을 내놓았고, 이는 확정된 예측이라기보다 업계가 얼마나 공격적으로 이 목표를 보고 있는지 보여주는 신호입니다.5
실제로 업무를 흔드는 것은 완성된 AGI가 아니라 '거의 일반적인' 시스템입니다. 여러 도구를 호출하고, 문서를 읽고, 코드를 고치고, 고객과 대화하고, 간단한 의사결정까지 이어가는 모델 말입니다.
따라서 준비의 초점은 "AGI가 언제 오나"가 아니라 "우리 조직의 어떤 판단·작성·검색·분석 업무가 AI로 재구성되는가"여야 합니다.
지금 준비해야 할 것은 믿음이 아니라 검증 구조다
개인은 AI가 대체하기 어려운 판단력을 키워야 합니다. 문제 정의, 결과 검증, 맥락 해석, 이해관계 조율 같은 능력입니다. 단순 산출물 생산만으로 경쟁하던 직무는 압박을 받을 가능성이 큽니다.
기업은 업무 흐름을 쪼개야 합니다. 어떤 작업은 자동화하고, 어떤 작업은 보조 도구로 두며, 어떤 작업은 법적·보안상 인간 승인을 남겨야 하는지 구분해야 합니다.
개발자와 창업자는 "더 똑똑한 모델"보다 "검증 가능한 시스템"을 설계해야 합니다. 로그, 출처 추적, 권한 제한, 휴먼 인더루프, 실패 시 중단 장치가 제품 경쟁력이 됩니다.
정책과 시민 영역에서는 장기 계획을 세우는 자율 에이전트의 통제가 핵심 쟁점입니다. 보상을 극대화하는 시스템이 인간 개입을 장애물로 볼 수 있다는 우려는 이미 규제 논의의 중요한 축입니다.5
배리 딜러의 말이 남기는 교훈은 단순합니다. 샘 올트먼을 믿느냐보다, 믿지 않아도 안전하게 작동하는 구조가 있느냐가 더 중요합니다. AGI가 내년에 오든 10년 뒤에 오든, 이 기준은 오늘부터 유효합니다.
참고
1Barry Diller trusts Sam Altman. But 'trust is irrelevant' as AGI nears, he says.
2What is artificial general intelligence (AGI)?
3Artificial general intelligence
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.