뉴욕 AI 안전 법안, 부모·빅테크·정치권 모두의 힘겨루기: 인공지능 시대의 책임 논쟁

요즘 인공지능(AI), 참 신기하고 편리하죠? 하지만 '신기한 기술' 뒤에는 예상치 못한 부작용과 위험도 숨어 있습니다. 미국 뉴욕에서는 이런 AI의 사회적 위험에 대비해 ‘Responsible AI Safety and Education Act(이하 RAISE 법안)’이라는 획기적인 안전 법안이 논란의 중심에 들어섰습니다. 부모, 정부, 테크 기업, 심지어 연방정부까지 모두 이 법을 둘러싸고 치열한 줄다리기를 펼치고 있습니다. 오늘은 RAISE 법안의 현재 상황, 논란의 쟁점, 그리고 향후 AI 시대에 우리에게 던지는 메시지까지 쏙쏙 풀어보겠습니다.

RAISE 법안, 왜 생겼을까? – AI와 우리 아이들의 안전

150명 이상의 학부모들이 뉴욕 주지사 케이시 호컬에게 편지를 보냈습니다. 그 내용은 명확합니다. "수정 없이 RAISE 법안에 서명해주세요!"
이들이 법안 통과를 ‘간절히’ 요구하는 이유는 간단합니다. 이미 여러 아이들이 AI 채팅봇이나 소셜 미디어의 악영향으로 큰 피해를 입었기 때문입니다. 실제로 일부 부모는 “AI 챗봇과 SNS가 우리 아이의 죽음에 영향을 끼쳤다”는 극단적인 사례까지 제기하며, 최소한의 보호장치는 법적으로 강제되어야 한다고 주장합니다.

RAISE 법안의 핵심은 대규모 AI 모델(대표적으로 Meta, OpenAI, Google 등)이 반드시 안전 계획을 마련하고, AI에 의한 중대한 사고가 발생하면 투명하게 당국에 보고하도록 만드는 것입니다.
특히, 치명적 피해(사망자 100명이 넘거나, 10억 달러 이상의 경제적 손실, 화학·생물·핵무기 등 위험 가능성)가 예상되는 모델은 아예 출시가 금지됩니다.

거대 IT 기업들은 “과하다!” 빅테크와의 갈등

뉴욕 주의회는 2024년 6월 RAISE 법안을 압도적 다수로 통과시켰지만, 이후 대형 기술 기업들과의 갈등은 심각해졌습니다. AI Alliance(메타, IBM, 인텔, 오라클, 등등)는 이 법이 “실행 불가능하다”며 법안 수정 또는 폐기를 조직적으로 로비했습니다.
이들은 “우리는 이미 자체적으로 안전을 치밀하게 점검하고 있다. 뉴욕식 규제는 너무 엄격해서 혁신을 저해할 수 있다”는 논리를 펴며, 법안이 AI 산업을 위축하고 미국 기술 경쟁력마저 뒤처질 수 있다는 불안감을 조장합니다.

실제로, 주지사 호컬의 테이블에는 최근 엄청난 압박이 쏟아졌습니다. 로비스트, 산업단체, 심지어 일부 정치자금 후원자까지 거대 테크의 목소리를 높였습니다.

주지사의 선택: 점점 “물러나는” 규제… 누구 손 들어줄까?

내부적으로 가장 큰 변화는 바로 법안 ‘수정’ 문제!
RAISE 원래안은 AI 위험, 사고 발생 72시간 내 즉각 보고, 테스트를 통과 못 한 모델은 출시 불가 등 의무가 빡빡하게 있었습니다. 하지만 호컬 주지사는 이 모든 조항을 싹 지우고, 캘리포니아 주가 이미 시행 중인 상대적으로 ‘느슨한’ AI 안전법과 거의 똑같은 내용을 새로 넣으려 합니다.
실질적으로는 빅테크에 훨씬 유리한 안이라는 지적이 나옵니다.
예를 들어, 사고 보고 기간이 15일로 늘어나고, 위험평가는 3개월마다 한 번만 제출해도 되고, 벌금 역시 1억 달러가 최소였던 원래안에서 1백만 달러로 대폭 줄어듭니다.

반면, 법안 후원 정치인과 부모 단체는 “캘리포니아 기준을 따라가면, 결국 전국 어디서도 제대로 된 AI 규제가 불가능해진다”며 강력히 반발 중입니다.

연방정부까지 등장! – 트럼프의 “AI 규제 봉쇄령”

진짜 결정적인 변수는 연방정부!
트럼프 대통령은 “AI는 연방정부가 규제해야 할 영역”이라며, 각 주가 저마다 강한 AI 안전법을 도입하지 못하도록 행정명령까지 내렸습니다. 이는 사실상 뉴욕과 캘리포니아의 법안 같은 ‘주도 혁신’을 막고, 전국에 약한 규제를 깔자는 빅테크의 바람이 반영된 것으로 해석됩니다.

하지만 뉴욕 주의회 담당자들은 “우리는 이미 AI 기업들이 스스로 약속한 수준만 요구하는 것일 뿐”, “정치적 메시지일 뿐 실제로 기업 혁신을 막지는 않는다”라고 강조합니다.

그래도 ‘최소한의 안전장치’는 필요하다 – 달라지는 AI 시대, 우리의 과제

현재 RAISE 법안은 AI 기업 중 가장 영향력 큰 대형 기업만을 대상으로 적용되고 있습니다. 즉, 스타트업이나 연구소까지 “모두 잡자!”는 극단적 규제가 아니라, 진짜 위험을 만들 수 있는 곳만 책임지라는 것입니다.

부모들이 호소한 것처럼 “우리 아이들을 지키는 최소한의 안전망”은 AI 산업의 미래는 물론, 사회 전체의 심리적 안정과 신뢰에 직결되는 문제입니다.
실질적 보호 조치, 투명한 정보 공개, 신속한 사고 대응, 그리고 위험이 큰 모델의 즉각 출시 제한 등은 지금으로선 AI가 상상을 초월해 우리 삶을 바꿔놓을 때 필수적인 책임의 사례가 될 수밖에 없습니다.

시사점: 기술의 급성장, 하지만 ‘신뢰’와 ‘책임’은 반드시 따라가야

이 논쟁은 단순히 뉴욕 한 주의 문제가 아니라 앞으로 모든 AI가 도입되는 세계의 미래 문제이기도 합니다.
기술 혁신과 안전 규제, 둘 중 어느 하나만을 고집하면 결국 양쪽 다 위태로워질 수 있죠. 혁신의 속도를 늦추지 않으면서도, 사회와 개인의 기본 안전은 반드시 보장해야 합니다.

우리 모두 AI 시대에 살고 있기 때문입니다. 앞으로 한국에서도 비슷한 논쟁이 벌어질 가능성이 높으니, 시민 한 사람으로서, 혹은 학부모, 연구자, 혹은 사용자로서 이 문제를 슬기롭게 지켜보고 목소리도 내야겠습니다.

참고

[1] Hochul Caves to Big Tech on AI Safety Bill - The American Prospect

[2] President Trump moves to block state AI laws as New York pushes tougher rules - NPR

[3] Parents ask New York governor to approve AI safety bill - NewsBytes

[4] Hochul and legislative leaders play game of chicken with AI regulations - City & State New York

[5] Parents call for New York governor to sign landmark AI safety bill - The Verge