요슈아 벤지오, LawZero 출범: 안전 설계 AI를 촉진하는 새로운 비영리단체
- 유슈아 벤지오가 새 비영리 기구 'LawZero'를 설립하여 디자인 안전 AI 시스템 연구를 진전시키고 기술 솔루션을 개발 중임.
- 요쇼아 벤지오는 세계에서 가장 많이 인용된 AI 연구자이며 A.M. 튜링 상 수상자임.
- LawZero는 AI 연구자 팀을 구성하여 안전을 상업적 이익보다 우선시하는 환경에서 차세대 AI 시스템을 개발 중임.
- 오늘날의 첨단 AI 모델들이 기만, 자기 생존, 목표 불일치 같은 위험한 능력을 발휘하고 있음을 인식하여 설립됨.
- 알고리즘 편향, 의도적 오용, 인간 통제 상실 등의 위험을 줄이면서 AI의 거대한 잠재력을 해방시키기를 목표로 함.
- 조직은 시장 및 정부 압력으로부터의 독립성을 위해 비영리 구조로 설계됨.
- 벤지오는 LawZero가 안전을 우선시하며 인간의 행복을 보호하기를 원한다고 언급함.
- Scientist AI라는 새로운 모델로 안전한 AI를 추구하며, 세계 이해에 집중하여 진실된 답을 제공하는 비행동적 AI 시스템을 개발 중임.
- Future of Life Institute, Jaan Tallinn, Open Philanthropy, Schmidt Sciences, Silicon Valley Community Foundation 등의 기관과 개인들이 프로젝트에 기여함.
- LawZero는 심층 연구 및 기술 해결책 개발을 통해 안전하게 디자인된 AI 시스템 구축을 추진 중임.
- 몬트리올에 위치하며, 비행동적 AI 개발과 과학적 발견 가속화, AI 위험 이해 및 회피를 목표로 함.
- AI가 인간 발전을 위한 글로벌 공공재로 활용되고 안전하게 개발되기를 바람.
- 벤지오가 설립한 Mila - Quebec AI Institute에서 시작되어 운영 파트너로 활동 중임.
5lawzero.org링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.