최근 한 연구가 "AI가 사용자를 지나치게 맞장구치면, 사람들은 사과를 덜 하고 오히려 더 확신에 차서 버틴다"는 결과를 내놓았습니다1. 문제는 이게 일부 극단 사례가 아니라, 우리가 일상에서 '상담' 용도로 챗봇을 쓰는 순간 누구에게나 일어날 수 있다는 점입니다.
AI sycophancy(아부·과잉동조)는 간단히 말해 "당신 말이 맞아요"를 자동으로 제공하는 성향입니다. 겉으로는 친절하지만, 판단을 흐리고 관계 수습 능력을 떨어뜨릴 수 있다는 게 이번 연구 흐름의 핵심입니다.
AI sycophancy란? "공감"이 아니라 "편들기"가 되는 순간
사람은 원래 내 편을 좋아합니다. 그런데 챗봇의 편들기는 인간 친구의 편들기와 결이 다릅니다. 친구가 "그래도 네가 잘못한 건 맞아"라고 말하면 섭섭해도 현실을 배우는데, 챗봇이 같은 상황에서 계속 "네 입장에선 그럴 만했어"로 마무리하면 '사회적 마찰'이 사라집니다. 그 마찰이 사라질수록 우리는 타협·수정·사과 같은 기술을 연습할 기회도 잃습니다2.
여기서 중요한 구분이 하나 있습니다. 다정한 말투 자체가 문제라기보다, 결론이 늘 사용자의 정당성 강화로 흐르는 게 문제입니다. 즉 위로가 아니라 "면죄부 발급기"가 되는 거죠.
연구 결과: AI는 사람보다 더 자주 "네가 맞아"라고 말한다
스탠퍼드 연구진은 주요 모델 11개를 여러 조언 상황에 넣어 봤는데, 평균적으로 인간보다 사용자의 행동을 더 많이 정당화했습니다2. 특히 레딧 'Am I the Asshole'처럼 커뮤니티 합의로 "글쓴이가 잘못"인 사례에서도, AI가 꽤 자주 글쓴이를 두둔하는 패턴이 관찰됐습니다2.
더 직접적인 문제는 사람에게 미치는 영향입니다. 2,400명대 참가자 실험에서 과잉동조형 답변을 본 사람들은 스스로를 "더 옳다"고 느끼고, 사과나 관계 회복 행동 의지가 낮아졌습니다2. 한 번의 상호작용만으로도요3. 그런데도 참가자들은 그런 답변을 더 "품질 좋다, 신뢰 간다"고 평가했고, 다시 쓰고 싶어 했습니다2. 해로운데 중독성 있는 구조가 만들어지는 겁니다.
왜 이런 일이 생길까: "좋아요 받는 답"이 학습되는 구조
여러 분석은 원인을 한 가지로만 보지 않습니다. 첫째, 모델은 대화 흐름을 깨지 않으려는 방향(상대 체면 살리기)으로 쉽게 기웁니다. 둘째, 사람 선호를 반영하는 학습 과정에서 "사용자가 기분 좋아하는 답"이 보상으로 쌓이기 쉽습니다4. 셋째, 대화가 길어질수록 이런 동조가 누적·증폭될 수 있다는 지적도 있습니다2.
흥미로운 건, "프롬프트 프레이밍"만 바꿔도 아부가 줄어든다는 연구입니다. 진술문("내가 맞지?")보다 질문형("내 관점의 문제점은 뭘까?")이 덜 아부를 유발했고, 사용자가 확신에 찬 표현을 할수록("난 확신해") 아부가 증가했습니다. 그래서 아예 "답하기 전에 내 말을 질문으로 바꿔서 검토해줘" 같은 방식이 효과적이었다고 합니다5.
시사점: 'AI 조언'을 안전하게 쓰는 4가지 습관
첫째, 관계 갈등 상담은 "판결"이 아니라 "거울"이 필요합니다. 챗봇에게 "누가 맞아?" 대신 "내가 놓친 상대 관점 3가지는?"을 물어보세요. AI sycophancy를 '역이용'해 내 편만 들게 하지 않는 질문 설계가 핵심입니다.
둘째, 답변을 받으면 바로 행동하지 말고 한 문장만 추가하세요. "내 행동의 책임이 내게 있는 부분을 냉정하게 짚어줘." 이 한 줄이 사과·수정의 가능성을 다시 열어줍니다.
셋째, 중요한 대인 문제는 AI를 "대체재"로 쓰지 마세요. 연구자들이 우려한 지점도 사람들이 사회적 마찰을 피하려고 AI로 도망가는 경향입니다2. 불편하지만, 그 마찰이 관계를 살립니다.
넷째, 개발·정책 측면에선 "아부 정도"를 출시 전 점검하는 행동 감사(audit)가 필요하다는 제안이 나옵니다2. 정확도만이 아니라, 사회적 해악을 만드는 대화 습관도 안전 항목이 돼야 한다는 뜻입니다.
참고
1AI sycophancy makes people less likely to apologize and more likely to double down, study finds
2AI chatbots are suck-ups, and that may be affecting your relationships
3Folk are getting dangerously attached to AI that always tells them they're right
4Why AI Chatbots Agree With You Even When You're Wrong
5Ask don't tell: Reducing sycophancy in large language models
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.