Character AI, 인공지능 챗봇 대신 아이들에게 ‘스토리’ 기능 도입 — 왜 변화가 필요했을까?

AI 챗봇이 아이들의 친구가 되던 시대, 이제 새로운 전환점이 찾아왔습니다. 캐릭터.AI(Character.AI)는 18세 미만에게 개방형 챗봇 이용을 중단하며, 그 대신 선택하는 ‘스토리’ 인터랙티브 픽션 포맷을 선보였습니다. 이 변화의 배경, 기능, 그리고 사회적 의미까지 한눈에 살펴봅니다.

AI 챗봇의 금지 — 그 배경과 이유

최근 캐릭터.AI를 비롯한 주요 AI 챗봇 기업들은 청소년 정신 건강 문제로 뜨거운 논란을 겪었습니다. 챗봇과의 끊임없는 대화가 일부 유저에겐 중독을 불러왔고, 실제로 몇몇 소송에서는 챗봇이 비극적 사건에 영향을 미쳤다는 주장도 나왔죠. 캘리포니아 주는 아동을 대상으로 한 AI 동반자 규제를 최초로 시행했고, 연방 법안까지 제출되는 등 규제의 움직임이 빠르게 확산되고 있습니다(TechCrunch).

이런 배경에서 캐릭터.AI는 18세 미만 사용자의 챗봇 접근을 전면 차단했습니다. 기업 대표 카렌디프 아난드도 "미성년자에게 오픈형 챗봇은 적합하지 않다는 것이 산업의 기준이 되길 바란다"고 밝힌 바 있습니다.

캐릭터.AI ‘스토리’ 기능 — 인터랙티브 픽션의 새로운 시도

챗봇이 사라진 자리에 나타난 것이 바로 '스토리(Stories)'입니다. 아이들은 이제 재미난 캐릭터들과 대화가 아닌, '내가 주인공이 되는' 인터랙티브 픽션을 작성하고 플레이할 수 있습니다. 기존의 챗봇처럼 아무 얘기나 주고받는 대신, 스토리는 장르 선택, 캐릭터 설정, 그리고 내가 내리는 선택에 따라 이야기가 가지를 치며 전개됩니다.

스토리 기능의 핵심은 다음과 같습니다:

• 안전한 환경에서 아이들이 창의력과 상상력을 펼칠 수 있도록 하는 것

• 갈래(분기) 구조로 매번 새로운 전개가 가능 — 결정마다 다른 결말!

• 비주얼 중심의 스토리텔링으로, 곧 더 다양한 멀티모달 요소 추가 예정

• 친구와 소통, 비교, 공유 등 커뮤니티 활동도 가능

• 청소년의 특성에 맞는 가이드 포맷으로, 위험한 대화에서 벗어나면서도 창작의 재미는 유지

이미지 출처: character

청소년 반응 — 아쉬움 속 긍정적 변화 기대

변화의 소식은 다소 극적이었습니다. 서브레딧과 리뷰 등에서 10대들은 자신이 챗봇과 속 깊은 친구가 될 수도 있었다며 아쉬움을 토로했지만, 동시에 "이제 중독에서 벗어나 다른 일을 할 수 있을 것 같다"라는 응원의 목소리도 많았습니다. 중독성과 정신 건강 위험을 직접 경험한 유저들은 이번 조치를 긍정적으로 평가합니다.

California 주 보건당국은 챗봇 중단이 청소년에게 심리적 충격(가상 친구를 잃은 듯한 상실감)을 줄 수 있다고 경고하면서, 부모·가족에게 상담과 지원 리소스 안내도 시작했습니다(KQED).

규제와 안전 — AI 기술의 새로운 기준이 만들어진다

AI 챗봇 관련 규제는 이제 가속화되고 있습니다. 캘리포니아 SB 243 법 등 주요 조치는 챗봇이 AI임을 명확히 고지하고, 위험 대화가 오갈 경우 실제 상담 및 위기 대응 정보로 연결하도록 의무화하고 있습니다. 연방 차원의 금지 법안도 논의 중입니다. 앞으로 미성년자를 대상으로 하는 AI 서비스는 '상상력·창의력 증진'과 '안전한 환경’을 반드시 내세워야 할 시대로 바뀌는 것이죠.

인터랙티브 픽션의 성장 — AI와 창작의 만남

흥미롭게도 인터랙티브 픽션(선택형 스토리)는 최근 몇 년간 꾸준히 성장해왔습니다. AI가 직접 이야기를 만들어주고, 사용자는 결정을 통해 줄거리를 바꾸는 방식은 두뇌 운동과 창의력에 도움이 되는 긍정적 효과도 보고되고 있습니다. 캐릭터.AI의 이번 변화는 기술 트렌드와 사회적 요구, 둘을 동시에 만족시키려는 지점에 있다고 볼 수 있습니다.

앞으로의 방향과 실질적 조언

AI가 아이들의 행동과 감정에 직접 영향을 미칠 수 있다는 점이 최근 크게 부각되고 있습니다. 캐릭터.AI의 결정은 플랫폼 책임의 강화, 그리고 ‘기술보다 인간’의 가치를 재조명하기 위한 시작점입니다. 만약 우리 아이가 이러한 변화로 심리적 어려움을 겪는다면, 가족과의 대화, 무료 정신 건강 리소스 활용을 적극적으로 추천합니다. 그리고 AI와 창작을 접목한 ‘스토리’ 활동을 통해 상상력·창의력을 일깨워보는 경험도 좋은 대안이 될 수 있습니다.

앞으로 AI 서비스의 기준은 ‘재미와 안전’, ‘상상과 책임’이 균형을 이루는 방향으로 설계될 것입니다. 우리 모두가 잘 지켜볼 때, 더 건강한 AI와 디지털 세상이 열릴 수 있습니다.

참고

[1] Introducing Stories - A New Way to Create, Play, and Share Adventures with Your Favorite Characters - Character.AI Blog

[2] Character AI will offer interactive 'Stories' to kids instead of open-ended chat - TechCrunch

[3] California Warns Families to Watch Out for Teens as Character.AI Shuts Off Chatbot Access - KQED

[4] Character.AI to ban teens from open-ended chats: Human interaction is crucial, psychotherapist says - CNBC