WitnessAI는 생성적 AI 모델을 위한 안전장치를 구축하고 있다
- 제목: "WitnessAI, 생성 AI 모델을 위한 가드레일 구축 중"
- WitnessAI CEO인 Rick Caccia는 생성 AI 모델을 안전하게 만들 수 있다고 믿음.
- 시장에서는 생성 AI의 생산성 향상 잠재력에 대해 낙관적이지만, 기술의 한계에 대한 우려도 존재.
- IBM 설문조사에 따르면, 51%의 CEO가 올해까지 없었던 생성 AI 관련 역할을 채용하고 있음.
- Riskonnect 설문조사에 따르면, 기업의 9%만이 생성 AI 사용에서 발생할 수 있는 위협(개인 정보 보호 및 지적 재산과 관련된 위협 포함)을 관리할 준비가 되어 있다고 함.
- WitnessAI는 사용자와 사용자의 고용주가 사용하는 맞춤 생성 AI 모델 사이의 활동을 가로채고, 위험 완화 정책 및 보호 조치를 적용하는 플랫폼을 제공.
- WitnessAI는 데이터 보호, 프롬프트 주입 방지, 기반 정책 실행을 보장하여 CISO가 비즈니스를 보호할 수 있도록 돕고, 기존 및 새로운 규정 준수를 보장하면서 활동 및 위험을 보고할 수 있는 방법을 제공.
- 회사의 투명성에도 불구하고, 모든 데이터가 모델에 도달하기 전에 WitnessAI 플랫폼을 통과함으로써 자체적인 개인 정보 보호 위험이 발생할 수 있음.
- WitnessAI는 VCs로부터의 신뢰를 받아 Ballistic Ventures(가 WitnessAI를 인큐베이션)와 GV(구글의 기업 벤처 부서)로부터 2,750만 달러를 조달함.
- 이 회사는 연말까지 18명의 팀을 40명으로 확장할 계획임.
- WitnessAI는 AWS, Google, Salesforce와 같은 기술 거인뿐만 아니라 CalypsoAI와 같은 스타트업으로부터 나오는 모델 준수 및 관리 솔루션 분야의 경쟁을 물리칠 열쇠를 성장에서 찾고 있음.
5techcrunch.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.