싱가포르, 생성형 AI를 위한 거버넌스 프레임워크 확대 모색
- 싱가포르, 생성적 인공지능(Generative AI, GenAI)에 대한 확장된 거버넌스 프레임워크 고안
- 새로 제안된 모델은 2019년 최초 발표되고 2020년에 업데이트된 기존의 AI 거버넌스 프레임워크를 기반으로 함
- GenAI는 전통적 AI에 비해 변혁적 잠재력을 지니고 있지만 위험성도 동반한다고 인포콤미디어개발청(IMDA)과 AI Verify Foundation이 진술함
- 싱가포르 정부 기관은 GenAI가 안전하고 신뢰할 수 있게 사용될 수 있는 환경을 조성하기 위해 일관된 원칙을 설정하는 것에 대한 글로벌 공감대가 커지고 있다고 밝힘
- 싱가포르는 이 제안된 프레임워크가 정책 입안자, 산업계 및 연구 커뮤니티 간 국제적 대화를 촉진하고 전 세계적으로 신뢰할 수 있는 개발을 가능하게 할 것을 목표로 함
- IMDA가 작년 6월에 발표한 토론 문서에서 제안된 GenAI 관련 위험 6가지(환각, 저작권 문제, 내재된 편향 등)를 포함하여 새로운 프레임워크가 이러한 문제들을 어떻게 다룰 수 있는지에 대한 아이디어를 담고 있음
- 새 프레임워크는 AI 모델 개발자와 정책 입안자들이 초기 단계로 적용할 수 있는 실질적 제안사항을 제공함
- 내용 출처에 대한 투명성을 포함한 9개의 주요 분야를 다루며, AI 생성 콘텐츠에 대한 오해를 야기할 수 있는 딥페이크와 같은 콘텐츠 생성의 용이성 문제를 지적함
- 디지털 워터마킹 및 암호화 출처와 같은 기술적 해결책을 제시하고, AI나 수정된 컨텐츠를 태그하고 추가 정보를 제공하기 위해 사용될 것을 권장함
- GenAI의 보안 측면을 강조하고, 모델 아키텍처를 통해 감염된 프롬프트 공격과 같은 새로운 위험을 제기함
- GenAI 개발의 보안 기준 강화를 촉구하며, 시스템 개발 수명주기에 적용되는 보안-디자인 개념이 어떻게 과제를 수립할지 재고해야 함을 강조함
- 이 프레임워크는 사용자 보호와 혁신 추진 간 균형을 맞출 필요성을 언급하며, 책임, 저작권, 오정보 등과 관련된 국제 토론에 참여할 것을 제안함
- AI 거버넌스는 아직 초기 단계에 있으며, 국제적 합의를 도출하는 것도 중요하다고 강조함
- 싱가포르는 미국과 같은 국가들과 협력하여 각자의 AI 거버넌스 프레임워크를 조율하기 위한 노력을 지속할 예정임
- 싱가포르 정부는 3월 15일까지 GenAI 거버넌스 프레임워크 초안에 대한 의견을 수렴할 예정임
3zdnet.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.