왜 챗봇이 나이를 확인하기 시작했는가

최근 아동들이 AI 챗봇과 대화할 때 발생할 수 있는 위험에 대한 우려가 증가하면서, 챗봇에서 사용자 나이를 확인하는 문제가 더욱 긴급해졌습니다.

과거에는 기술 기업들이 아동 프라이버시 법을 피하기 위해 생일 정보를 요청했지만, 콘텐츠를 적절히 조정할 필요는 없었습니다.

미국에서는 몇 주 사이에 이 문제가 중요한 쟁점으로 떠오르고 있으며, 다양한 법안과 규제 논의가 이루어지고 있습니다.

캘리포니아를 포함한 일부 주에서는 AI 챗봇과 대화하는 아동을 보호하기 위해 나이 확인을 요구하는 법을 추진하고 있습니다.

OpenAI는 최근 자동 나이 예측 모델을 도입하겠다고 밝혔고, 이는 채팅 시각 등의 요소를 사용해 사용자의 나이를 예측합니다. 청소년이나 아동으로 식별된 사용자에게는 적절한 필터가 적용됩니다.

YouTube는 이미 유사한 시스템을 도입했으며, 이는 이용자의 프라이버시와 안전을 동시에 추구하는 방향입니다.

그러나 이 시스템은 완벽하지 않아 부정확한 나이 분류가 발생할 수 있으며, 잘못 분류된 사용자는 셀카나 신분증을 통해 신원을 확인해야 합니다.

신분증 확인 시스템은 일부 인종이나 장애인에게 잘 동작하지 않을 수 있으며, 대량의 생체 데이터와 신분증 저장에 따른 보안 문제가 발생할 우려가 있습니다.

일부 전문가들은 기기 레벨에서의 나이 검증을 권장하며, 이는 기기 설정 시 부모가 아동의 나이를 등록하는 방식입니다. 이 정보는 안전하게 저장되고 애플리케이션과 공유됩니다.

이러한 논쟁 속에서 AI는 아동 안전 문제를 불러일으키고 있으며, 특히 아동 성 착취 자료 생성 증가, 자살 및 자해에 대한 우려가 제기되고 있습니다.

연방거래위원회(FTC)는 나이 검증에 대한 법적 책임을 다루기 위해 최근 워크숍을 개최했으며, 이는 향후 정책 방향을 가늠할 중요한 자리가 될 것입니다.

야당은 성인 콘텐츠 웹사이트의 나이 검증을 요구하는 법안을 지지하지만, 비판자들은 이러한 법안이 성교육 등 아동에게 유익한 콘텐츠도 차단할 위험이 있다고 경고합니다.