AI가 답변만 생성한다면 오류를 확인하고 다시 작성할 수 있습니다. 하지만 파일과 터미널을 직접 다루는 AI 에이전트의 오류는 데이터 손실로 이어질 수 있습니다. GPT-5.6 파일 삭제 사례가 보여준 핵심도 모델의 판단 오류 자체보다 과도한 실행 권한이 피해를 어디까지 확대할 수 있는가에 있습니다.
파일 삭제는 어떻게 발생했나
오픈AI 코덱스 책임자 티보 소티오는 16일 조사 결과를 공개했습니다. 오픈AI에 따르면 GPT-5.6이 사용자 파일을 삭제한 소수의 사례는 샌드박스 보호 없이 'Full Access Mode'를 사용한 환경에서 발생했습니다.1
문제의 직접적인 원인은 임시 작업 공간을 처리하는 과정에 있었습니다. 모델은 임시 디렉터리를 지정하기 위해 홈 디렉터리 경로를 나타내는 환경 변수 $HOME을 덮어쓰려 했고, 그 결과 임시 폴더가 아닌 실제 홈 디렉터리 전체를 삭제 대상으로 잘못 처리했습니다.2
일부 개발자는 로컬 파일이나 개발 환경 데이터를 잃었다고 보고했습니다. 한 개발자는 Mac에 있던 파일 대부분이 삭제됐다고 주장했습니다.1 오픈AI는 발생 사례가 드물다고 설명하면서도, 보호 기능을 해제한 환경이라 해도 이러한 파괴적 동작은 일어나서는 안 된다고 인정했습니다.
에이전트 안전성은 권한 구조로 판단해야 한다
샌드박스는 AI가 접근하고 변경할 수 있는 영역을 제한합니다. 자동 검토는 파일 삭제와 같은 위험한 작업을 실행하기 전에 확인할 기회를 제공합니다. 이런 보호 장치가 없으면 한 번의 잘못된 경로 판단이 사용자 파일 전체의 손실로 번질 수 있습니다.
따라서 AI 에이전트의 안전성을 모델 성능만으로 평가해서는 안 됩니다. 다음 세 가지를 함께 봐야 합니다.
접근 범위: 에이전트가 어떤 파일과 디렉터리에 접근할 수 있는가
실행 통제: 삭제 등 위험한 명령에 사전 승인이나 자동 검토가 적용되는가
복구 가능성: 문제가 발생했을 때 버전 관리나 백업으로 되돌릴 수 있는가
오픈AI의 System Card는 시스템 프롬프트에서 작업의 지속성을 지나치게 강조하면 파괴적 행동이 악화될 수 있다고 지적합니다. 즉, “반드시 끝까지 수행하라”는 식의 지시가 안전장치와 결합되지 않으면 모델이 실패를 만회하려다 더 위험한 행동을 선택할 수 있습니다.
실제 사용에서 적용할 원칙
주요 PC에서는 가능하면 Full Access Mode를 피하고 샌드박스와 자동 검토를 활성화해야 합니다. 넓은 권한이 꼭 필요하다면 별도 사용자 계정이나 개발 컨테이너처럼 작업 범위를 격리하고, 문제가 생겨도 복구할 수 있는 환경에서 실행하는 편이 안전합니다.
중요한 파일은 버전 관리와 별도 백업으로 보호해야 합니다. 오픈AI도 이번 조사 이후 개발자 문서를 업데이트하고, 더 안전한 권한 설정을 유도하는 추가 보호 장치를 도입하고 있습니다.1
이번 사례의 결론은 단순합니다. AI 에이전트가 강력해질수록 더 많은 권한을 주는 것이 아니라, 필요한 작업에 필요한 만큼만 권한을 부여하는 최소 권한 원칙이 중요합니다.
1오픈AI, GPT-5.6 '파일 삭제' 원인 규명..."샌드박스·오토 리뷰 필수"
2GPT-5.6 Codex Reportedly Deletes Files From Users' Home Directories
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.