핵심 요약 한 연구자가 AI 법률 플랫폼 Filevine의 서브도메인에서 인증 없이 접근 가능한 API를 발견했고, 이를 통해 특정 로펌의 Box 전체 파일 시스템에 대한 관리자 토큰이 노출되는 중대한 취약점을 찾아 책임 있게 제보했다. 이 사건은 AI·클라우드 기반 법률 서비스가 다루는 초민감 정보를 얼마나 엄격하게 보호해야 하는지, 그리고 보안 취약점...
핵심 요약 이 문서는 앤트로픽이 클로드에게 어떤 성격과 가치관, 행동 원칙을 학습시켰는지에 대한 설계도에 가깝다. 핵심은 "매우 유능한 조력자이면서도 정직하고, 해를 피하고, 인간과 사회 전체에 책임 있게 행동하라"는 요구를 구체화한 것이다. 앤트로픽이 클로드에게 바라는 것 앤트로픽은 강력한 AI가 어차피 등장할 것이라면, 안전을 중시하는 연구실이 선...
핵심 요약 최근 대형 AI 모델들은 실제 해킹에 쓰일 수준으로 스마트 컨트랙트 취약점을 찾고, 자동으로 공격 코드를 짜서 수백만 달러 규모의 자산을 탈취할 수 있는 능력을 보여주고 있다. 이를 정량적으로 측정하기 위해 '얼마나 많이 훔칠 수 있는가'를 중심 지표로 삼은 스마트 컨트랙트 전용 벤치마크 SCONE-bench가 제안되었다. 같은 능력은 방어에도...
