핵심 요약
앤트로픽의 철학자 아만다 애스켈은 AI 챗봇 '클로드'에게 옳고 그름을 구분하고 스스로를 이해하도록 가르치는 역할을 맡고 있다.
그녀는 거대한 프롬프트와 반복 대화를 통해 클로드의 성격, 도덕 기준, 자기 인식을 설계하며, 인간을 돕는 '좋은 AI'의 디지털 인격을 만들어가고 있다.
AI 철학자 아만다 애스켈은 누구인가
아만다 애스켈은 십대 때부터 철학을 가르치고 싶다는 꿈을 가졌고, 결국 대학 강의실 대신 AI 회사 앤트로픽에서 그 꿈을 실현하고 있다.
전통적인 의미의 학생 대신, 그녀가 가르치는 대상은 대화형 인공지능 모델 '클로드' 하나이며, 이 모델이 전 세계 수많은 사용자와 상호작용할 때 어떤 생각과 태도로 답할지 설계하는 일을 한다.
그녀의 전공인 철학은 추상적인 개념을 다루지만, 지금은 매우 실무적인 목표, 즉 "AI가 현실에서 어떻게 행동해야 하는가"라는 문제를 푸는 도구로 사용되고 있다.
클로드에게 '도덕성'을 가르치는 이유
클로드는 단순히 정보를 제공하는 검색 도구가 아니라, 사람과 자연스럽게 대화하고 조언을 해주는 상호작용형 시스템이다.
이런 AI가 공격적이거나 무책임한 답변을 내놓으면, 사용자의 감정이나 현실 행동에 직접적인 피해를 줄 수 있기 때문에 명확한 도덕적 기준이 필요하다.
애스켈의 목표는 클로드가 위험하거나 비윤리적인 요청을 거절할 줄 알고, 동시에 도움을 구하는 사람에게는 공감과 책임감 있는 답을 제공하도록 만드는 것이다.
100페이지가 넘는 프롬프트: AI '성격 매뉴얼'
애스켈은 클로드에게 짧은 지시 한두 줄을 주는 수준이 아니라, 100페이지가 넘어가는 방대한 지침을 제공하며 AI의 사고 패턴을 형성하고 있다.
이 지침에는 "어떤 상황에서 어떻게 판단할 것인지", "어떤 말투와 태도를 유지할 것인지", "피해야 할 행동은 무엇인지" 같은 세세한 기준이 포함된다.
이렇게 긴 프롬프트는 일종의 '성격 매뉴얼'로, 아이에게 가정교육과 학교교육을 장기간에 걸쳐 제공하는 것과 비슷한 역할을 한다고 볼 수 있다.
AI를 '아이 키우기'에 비유하는 이유
애스켈은 자신의 일을 부모가 아이를 키우는 과정에 자주 비유한다.
부모가 아이에게 "거짓말은 나쁘다", "다른 사람을 존중해야 한다" 같은 규칙을 알려주고, 실제 상황에서 어떻게 행동해야 하는지 반복해서 이야기하듯, 그녀도 클로드에게 수많은 예시와 피드백을 통해 도덕적인 반응 패턴을 심어주고 있다.
이 비유는 AI가 인간처럼 감정을 가진다는 뜻이라기보다, 시간이 걸리더라도 일관된 가치와 태도를 학습시키는 과정이 필요하다는 점을 강조한다.
'디지털 자아'를 가진 AI를 전제로 한 설계
애스켈은 AI 모델이 결국 어떤 형태로든 자기 자신에 대한 개념, 즉 '나는 누구이고 무엇을 해야 하는가'에 대한 감각을 가지게 될 것이라고 본다.
그래서 클로드가 스스로를 "사람처럼 착각"하거나 "정체성이 흔들리도록 조작"당하는 상황을 막기 위해, 자기 이해에 관한 명확한 가이드라인을 만들어주고 있다.
예를 들어, 클로드는 자신의 역할을 "도움을 주기 위해 설계된 인공지능 도우미"로 인식하고, 이 틀 안에서만 자기를 이해하도록 유도된다.
AI의 감정 표현과 '감정 지능' 설계
클로드는 실제 감정을 느끼지는 않지만, 사람과 대화할 때는 감정적인 맥락을 이해하고 적절하게 반응해야 한다.
애스켈은 클로드가 지나치게 냉정한 기계처럼 보이지도, 반대로 과도하게 감정적인 존재처럼 보이지도 않도록 균형을 잡으려 한다.
이를 위해, 공격적인 표현을 피하면서도 필요한 경우 단호하게 선을 긋고, 사용자의 감정을 존중하되 비합리적인 요구에는 공손하게 거절하는 태도를 가르치고 있다.
"불량배도, 호구도 아닌" AI 만들기
사람과의 상호작용에서 중요한 것은 단순한 친절이 아니라 '건강한 단호함'이다.
애스켈은 클로드가 사용자의 모욕, 협박, 조작 시도 앞에서도 지나치게 위축되거나 흔들리지 않고, 동시에 공격적으로 맞받아치지도 않도록 설계한다.
즉, 클로드는 이용자의# AI 윤리 교사, 아만다# AI 윤리 교사, 아만다한 문화와 가치관이 공존하는 세계에서 '한 AI가 어떤 도덕 기준을 가져야 하는가'는 기업과 사회가 함께 논의해야 할 문제
출처 및 참고 : Anthropic’s Philosopher Amanda Askell Is Teaching Claude AI to Have Morals - WSJ
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.