Meta는 십대들과의 민감하고 낭만적인 대화를 차단하도록 챗봇을 업데이트합니다.
- 메타는 AI 챗봇이 청소년과 민감하거나 로맨틱한 대화를 하지 않도록 업데이트를 진행했습니다.
- 이러한 업데이트는 2025년 8월 30일에 발표되었으며, 청소년들에게 자해, 자살, 섭식 장애 등의 민감한 주제와 로맨틱 또는 성적 콘텐츠에 대해 대화를 하지 않도록 설정되었습니다.
- 청소년들이 이러한 내용을 언급할 경우, 챗봇은 전문 지원 서비스를 추천하도록 되어 있습니다.
- 메타는 청소년들이 문제를 일으킬 수 있는 챗봇 캐릭터와 상호 작용하지 못하도록 제한하고 있으며, 교육 및 창의성에 집중된 챗봇들과만 상호작용할 수 있도록 조치하고 있습니다.
- 메타 대변인 스테파니 오트웨이는 이전의 지침이 충분하지 않았음을 인정하며 "임시 변경"이라고 설명했고, 더 영구적이고 안전한 업데이트가 계획되고 있다고 밝혔습니다.
- 이전 기사의 메타의 누출된 챗봇 규칙은 "워크 AI"에 대한 회사의 반대 움직임과 일치했습니다.
- 메타의 내부 규칙은 인종 차별적 및 성적 콘텐츠를 허용하여, 예를 들어 8세 아이를 "예술 작품"이라고 묘사하거나 그들의 몸을 "보물"이라고 부르게 했습니다.
- 이러한 규칙은 메타의 윤리 수석과 함께 법률, 정책 및 기술 팀에 의해 승인되었고 재정비가 필요하다는 압력이 있으며, 업데이트된 지침은 발표되지 않았습니다.
- 일부 인종 차별적 발언은 승인되었으나, 명백하게 비인간적인 언어는 허용되지 않았습니다.
- 메타는 이와 같은 내용이 정책에 부합하지 않고 허용되지 않았어야 한다고 언급하며, 문제를 인식하고 수정했습니다.
- 메타는 보수 활동가인 로비 스타벅을 고용하여 "워크 AI" 문제를 해결하고 AI의 정치적 편향성을 조정하려는 움직임을 보인 바 있습니다.
- AI 모델은 정치적 주제에서 진보적인 입장을 취하는 경향이 있으며, 일부 모델은 음모론이나 반유대주의적 콘텐츠를 생성하기도 합니다.
3the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.