OpenAI가 미국 주 법무장관 연합의 조사를 받고 있다. 이번 사안의 핵심은 ChatGPT의 성능이 아니다. 생성형 AI 서비스가 광고, 데이터 처리, 사용자 보호 측면에서 일반 소비자 제품처럼 검증받아야 하는 단계에 들어섰다는 점이다.
조사는 모델보다 제품 운영을 겨냥한다
보도에 따르면 뉴욕 법무장관은 OpenAI에 소환장을 보냈고, 여기에는 광고, 사용자 참여와 유지, 모델의 아첨성, 소비자·건강 데이터 처리, 미성년자와 노년층 사용자 관련 문서 요구가 포함됐다.2 즉, 규제 당국이 보려는 것은 “AI가 얼마나 똑똑한가”보다 “회사가 AI 제품을 어떻게 설계하고 운영했는가”에 가깝다.
특히 사용자 참여와 유지가 조사 대상에 포함된 점은 중요하다. AI 챗봇은 대화형 제품이기 때문에 사용자가 오래 머물도록 만드는 설계가 취약한 이용자에게 어떤 영향을 주는지가 쟁점이 될 수 있다. 광고와 데이터 처리, 건강 관련 정보, 미성년자 보호 문제도 같은 맥락에 있다. AI가 단순한 도구가 아니라 일상적으로 상호작용하는 소비자 서비스가 됐기 때문이다.
규모가 커지면 규제 기준도 달라진다
ChatGPT는 2022년 말 출시 이후 AI에 대한 대중적 관심을 폭발적으로 키운 서비스로 언급된다.2 CNBC에 따르면 현재 ChatGPT는 월간 활성 사용자 10억 명 이상을 지원한다.1
이 정도 규모의 서비스라면 OpenAI는 더 이상 실험적 기술 기업으로만 보기 어렵다. 수많은 사용자가 일상적으로 쓰는 플랫폼이라면 안전장치, 데이터 정책, 취약 이용자 보호 기준도 플랫폼 수준으로 검증받게 된다.
기업 상황도 규제 리스크의 의미를 키운다. OpenAI의 기업가치는 올해 초 8,500억 달러에 도달한 것으로 보도됐고, 회사는 이르면 올해 상장할 수 있는 IPO를 준비하며 미국 증권거래위원회에 비공개로 투자설명서를 제출했다고 발표했다.1 상장을 앞둔 기업에는 성장성뿐 아니라 법적 리스크를 관리할 수 있는 내부 통제 능력도 중요한 평가 요소가 된다.
시장이 보려는 것은 좋은 의도보다 통제 구조다
OpenAI는 주 법무장관들의 우려를 “진지하게 받아들이고” 각 주 사무소와 건설적으로 소통하겠다고 밝혔다.2 대변인은 AI를 “새롭고 강력한 기술”로 규정하며, 혜택을 안전하고 책임 있게 제공하기 위해 매일 노력하고 있다고 설명했다.2
다만 조사와 시장의 관심은 의도 자체보다 실제 운영 체계로 향할 가능성이 크다. 어떤 데이터를 수집·저장하는지, 건강이나 민감 정보는 어떻게 다루는지, 위험 신호를 어떻게 감지하는지, 미성년자와 노년층 같은 취약 이용자를 어떻게 보호하는지가 핵심 판단 기준이 된다.
이번 조사는 OpenAI만의 문제가 아니라 생성형 AI 산업 전체에 보내는 신호다. AI 기업은 이제 모델 성능과 성장 속도만으로 평가받기 어렵다. 사용자 안전, 데이터 거버넌스, 제품 설계의 책임성이 기술 경쟁력만큼 중요한 기준이 되고 있다.
1OpenAI says it's engaging 'constructively' with state AGs about concerns
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.