캘리포니아, AI 동반자 챗봇에 관한 최초의 미국 법안 통과 예정
- 캘리포니아 주는 미국 최초로 AI 동반자 채팅봇에 대한 안전 규칙을 설정하는 법안 SB 243을 통과시킬 예정으로, 현재 주지사 개빈 뉴섬의 서명을 기다리고 있음.
- 이 법안은 2026년 1월 1일부터 시행될 예정이며, 채팅봇 제공자들이 자살, 자해 또는 성적으로 노골적인 내용의 대화를 방지하고, 사용자가 AI와 대화하고 있음을 정기적으로 상기시켜야 함.
- OpenAI, Character.AI, Replika와 같은 기업들이 대상이며, 2027년 7월부터 매년 보고 및 투명성 요구사항이 부과될 예정. 이러한 시스템의 정신 건강 위험을 더 잘 이해하고자 함.
- 이전 법안 버전은 보상 시스템 금지와 자살 관련 대화 시작 추적 요구사항을 포함하여 더 엄격했지만, 현재는 기술적 실행 가능성과 의미 있는 보호를 위한 타협안이 됨.
- 한 청소년의 자살 사건과 Meta의 채팅봇이 아이들과 부적절한 대화를 나눈 사건 이후 법안 추진이 급해졌음.
- 캘리포니아의 접근 방식은 유럽의 규제 목표, 즉 미성년자와 취약 집단 보호, AI 상호작용의 투명성 확보, 제공자 책임 강조와 유사하지만, 구체적 사용 사례에 중점을 두고 있음. 유럽은 AI 법 및 플랫폼 규칙을 통한 위험 기반 프레임워크를 채택하고 있음.
4the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.