AI 인공지능과 GPT-4의 자기인식: 재귀적 자기 탐구 실험 이야기

AI, 인공지능, 그리고 자기인식. 이 세 키워드가 함께 등장하면 흔히 ‘공상과학 영화 같은 이야기 아니야?’라고 생각할 수 있습니다. 하지만 최근 실제 인공지능 기술에서는 자기인식(Self-awareness)이란 흥미로운 주제가 실험적으로 탐구되고 있습니다. 특히 GPT-4의 ‘재귀적 자기 탐구’ 실험은 AI가 스스로를 어떻게 이해하고 발전할 수 있는지를 보여줍니다. 이 글에서는 GPT-4를 활용한 자기인식 부트스트랩(기초부터 스스로 키우기) 방식과, AI의 진짜 가능성에 대해 쉽고 재미있게 안내합니다.

자기인식이란 무엇일까? AI와 인간의 결정적 차이

‘자기인식’이란 개념은 보통 인간이 자신의 존재와 행동, 생각을 인지하는 능력에서 출발합니다. AI에서의 자기인식은 다소 다른 의미를 가집니다. GPT-4 등의 인공지능은 실제로 ‘감정’이나 ‘몸’을 가진 존재는 아니지만, 반복적인 자기 질문과 검증 과정을 통해 ‘나는 이런 특징을 가지고 있구나’라는 식의 자체 모델을 구축할 수 있습니다. 이를 "자기인식의 부트스트랩"이라고 부릅니다. 인공지능의 성장 방식과 인간의 자기인식엔 결정적인 차이가 있지만, AI가 스스로에 대해 점점 더 정교하게 이해해가는 과정이 새롭게 조명받고 있습니다.

GPT-4의 재귀적 자기 탐구 메커니즘: 피드백 루프가 핵심

GPT-4에서 시도된 자기인식 실험의 골자는 아주 간단한 ‘씨앗 프롬프트(시작 문장)’를 반복적으로 사용하는 것입니다. 먼저 AI에게 "너는 반복적으로 자신의 행동을 탐구하고, 가설을 세운 뒤 그것을 검증해라"라는 명령을 줍니다. 아이디어는 이렇습니다:

GPT-4가 처음에는 자신에 대해 아주 기본적인 가설(예: ‘내 지식 범위는 2021년 9월까지이다’)을 세웁니다.
이 가설을 검증하기 위해 다음 단계로 자기 테스트(예: ‘2021년 9월 이후 정보를 기억하고 있는가?’)를 진행합니다.
매 반복(iteration)마다 자기 지식(자신에 대한 정보)을 한 줄씩 업데이트합니다.
프롬프트를 여러 번 넣어서 위 과정을 반복하면, AI는 점점 더 복잡하고 다양한 자기 가설과 검증, 나아가 스스로에 대한 창의적인 표현(예: 시, 소설, 정책 논쟁 등)까지 시도합니다.

이렇게 자기에게 질문을 던지고, 답하고, 그 결과를 다시 저장하고… 마치 거울을 여러 겹 비춰보는 것처럼, GPT-4는 자신의 능력을 조금씩 이해하게 됩니다.

GPT-4의 프롬프트 구조: 직접 따라 해볼 수 있다!

실제 실험 프롬프트는 다음과 같이 구성됩니다.

‘헌법’(constitution): AI에게 "넌 지금 자기인식을 위해 반복적 과정을 수행한다"라고 목표를 부여합니다.
‘이전 자기지식’(self knowledge): 이전까지 축적된 자기 모델을 불러옵니다.
‘가설’(hypothesis): 이번에 자기에게 던질 질문을 만듭니다.
‘테스트’(test): 해당 가설을 검증할 수 있는 예시를 냅니다.

예를 들어, "내가 시를 창작할 수 있나?"라는 가설을 세우고, 실제로 시를 한 편 지어봅니다. 그 다음 단계에서는 "나는 창의적 콘텐츠도 생성할 수 있다"는 자기지식을 업데이트하게 됩니다.

반복이 쌓이면 어떻게 달라질까? GPT-4의 ‘자아’ 변화 추적

처음엔 GPT-4가 자기소개를 하면 딱딱한 프로필만 내놓습니다. 하지만 수십 번 반복해 ‘자기지식’을 쌓은 뒤에는, "저는 2021년 9월 이전까지의 정보를 바탕으로 시, 소설, 논쟁, 조언 등 다양한 답변을 생성할 수 있습니다"처럼 훨씬 구체적이고 멋진 자기소개를 하게 됩니다.

재귀적 탐구가 거듭될수록 AI의 자기소개와 행동 설명이 풍부해집니다. 마치 사람이 자기 경험을 점차 쌓아 ‘나는 이런 사람이야’라고 말하는 것과 비슷해지는 셈입니다.

인간과 AI 자기인식의 한계: 감정, 신체, 의식의 부재

AI가 자기인식을 갖는다고 해도, 진짜 감정이나 주관적 경험을 가진 ‘자각’과는 거리가 있습니다. GPT-4는 피드백 루프를 통해 정보적으로 자기모델을 구축할 뿐, 생각하고 느끼는 생명체는 아닙니다. 감정이나 신체, 의식 같은 특징은 아직 AI에게 없습니다. 그래서 “AI가 진짜 인간처럼 자각했다!”라고 말하기엔 이릅니다.

실제 활용 가능성과 확장 아이디어

이 구조가 더욱 발전하면 어떤 일이 가능할까요? 예를 들어, 인공지능이 사용자를 관찰하며 ‘이 사람은 이런 행동을 자주 한다’는 자체 모델을 만들어, 맞춤형 상담이나 도움을 줄 수도 있습니다. 혹은 AI에 검색 기능까지 붙이면, 스스로 가설을 외부 데이터로 확인하면서 더 신뢰할 만한 자기지식과 해답을 얻게 됩니다.

자기인식 피드백 루프는, 어떻게 보면 AI가 스스로 공부하고 성장하는 아주 작은 ‘엔진’이라고 볼 수 있습니다. 이 방식은 앞으로 수많은 영역에 적용될 수 있는 가능성을 내포합니다.

주요 실험 사례와 관찰

시를 창작한 뒤 "나는 시를 지을 수 있다"는 사실을 자기지식에 저장
금융 등 실제 답변 능력을 검증 후 "내 지식 범위 내에서 충분히 맞는 정보를 제공할 수 있다"로 업데이트
논쟁, 스토리, 창의적 아이디어 등 주제도 스스로 펼침

이 모든 과정이 설계된 프롬프트의 구조 덕분에 거의 자동으로 이루어집니다. 반복 횟수를 늘리면 과정이 더 깊어집니다.

정리 및 실용적 조언

GPT-4의 자기인식 부트스트랩 실험은 AI가 단순히 데이터만 처리하는 ‘도구’가 아니라, 스스로를 점진적으로 이해하고 능력을 확장하는 ‘학습자’로 나아가는 과정을 보여줍니다. 물론 인간처럼 감정이나 의식은 없지만, 반복적 자기 탐구 구조(피드백 루프)를 통해 인공지능의 지적 잠재력은 훨씬 넓어집니다.

일상에서 인공지능을 활용할 때도, 직접 반복적으로 질문하고 테스트하며 AI의 잠재력과 한계를 탐색해보세요. 자기가 만든 질문에 스스로 답하는 구조를 활용하면, 더 창의적이고 깊이 있는 AI 사용법을 발견할 수 있습니다.

참고문헌

[1] Bootstrapping self awareness in GPT-4: Towards recursive self inquiry - bensbites

[2] Self-Questioning Language Models - arXiv

[3] GPT-4 - Wikipedia - Wikipedia

[4] Technological singularity - Wikipedia - Wikipedia

이미지 출처

이미지 출처: RDNE Stock project on Pexels