뉴욕, AI로 인한 재난 방지를 위한 법안 통과
- 뉴욕 주 의원들은 OpenAI, Google, Anthropic의 AI 모델이 재해 시나리오에 기여하여 사망하거나 부상당한 사람 수가 100명 이상, 또는 손해액이 10억 달러 이상인 상황을 예방하기 위한 법안을 통과시켰습니다.
- 이 법안의 통과는 AI 안전 운동의 승리로 간주됩니다. AI 안전 운동은 최근 몇 년 동안 실리콘밸리와 트럼프 행정부가 속도와 혁신을 우선시하면서 중요한 제한을 겪었습니다.
- RAISE 법안은 미국에서 처음으로 법적으로 의무화된 투명성 표준을 설정하려는 목표를 가지고 있으며, AI 안전 운동의 지지자인 노벨상 수상자 Geoffrey Hinton 및 AI 연구 개척자인 Yoshua Bengio가 이에 대해 찬성합니다.
- 뉴욕 주 상원의원 Andrew Gounardes는 산학 및 스타트업 연구자들의 혁신을 저해하지 않도록 설계했기 때문에 비판의 여지가 있었던 캘리포니아의 SB 1047와는 다르다고 밝혔습니다.
- AI의 빠른 발전 속도를 고려할 때 안전 장치를 구축할 수 있는 시간 창이 빨리 줄어들고 있다는 Gounardes 상원의원의 우려가 있었습니다.
- 법안이 법으로 서명되면 뉴욕 주의 AI 안전 법안은 세계 최대의 AI 연구소들이 AI 모델에 대한 안전 보고서를 게시하도록 요구하며, 요구를 충족하지 못할 경우 뉴욕의 법무부 장관에게 최대 3천만 달러의 민사 처벌을 요구합니다.
- RAISE 법안은 세계 최대 기업들을 대상으로 하고 있으며, 해당 기업들이 뉴욕 주민들에게 공개할 AI 모델에 대한 안전 문제를 보고하도록 요구합니다.
- AI 개발자들에게 "킬스위치"를 추가하도록 요구하지 않으며, AI 모델의 중대한 피해에 대한 책임을 묻지는 않습니다.
- 앤드리센 호로비츠 및 Y 컴비네이터 등 실리콘밸리의 반대에도 불구하고 뉴욕 주 의회는 이 법안이 혁신을 제한하지 않는다고 주장합니다.
- 최대 100만 달러의 컴퓨팅 자원을 사용하여 훈련된 AI 모델을 뉴욕 주민들에게 이용가능하게 만드는 기업들에 투명성 요구 사항을 적용합니다.
- Anthropic은 RAISE 법안에 대한 공식 입장을 아직 취하지 않았으며, 이 법안이 중소기업에게 위험을 초래할 수 있다는 우려를 표명했습니다.
- OpenAI, Google, Meta는 TechCrunch의 논평 요청에 응답하지 않았으며, AI 모델 개발자들이 뉴욕에 고급 모델을 제공하지 않을 수 있다는 공통적인 비판이 있습니다.
- 기술 기업들이 뉴욕에서 운영을 중단할 필요가 없다는 주 Assemblymember Bores의 주장에도 불구하고 뉴욕 주는 미국에서 세 번째로 큰 GDP를 가집니다.
- Assemblymember Bores는 AI 기업들이 뉴욕에서 모델을 제공하지 않을 경제적 이유가 없다고 확신한다고 밝혔습니다.
3techcrunch.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.