Private Safety Processing: 데이터 보존 없이 세션을 넘는 악용을 탐지하는 방식

기업용 AI 안전 시스템은 상충하는 요구를 해결해야 한다. 악용 패턴을 탐지하려면 여러 상호작용의 맥락이 필요하지만, 민감한 고객 데이터를 오래 보관해서는 안 된다. OpenAI의 Private Safety Processing은 분석 범위를 넓히면서도 데이터 보존과 노출을 최소화하려는 안전 시스템이다.

세션 단위 검사에서 장기 패턴 탐지로

기존 ZDR 안전 감시는 OpenAI API 내 에이전트가 각 세션의 악용 가능성을 검사하는 방식이다. ZDR은 처리 후 고객 데이터를 보관하지 않는 제로 데이터 보존 방식이다.

Private Safety Processing은 이를 여러 대화의 입력과 출력에 걸친 장기 모니터링으로 확장한다. 개별 세션에서는 드러나지 않는 행동도 관련 상호작용이 반복되면 하나의 악용 패턴으로 식별할 수 있다. 위험한 작업을 여러 요청으로 나누는 방식까지 탐지 범위에 포함할 수 있다는 점이 핵심이다.

현재 Private Safety Processing은 일부 고객에게 우선 제공되는 프리뷰 서비스다.¹

데이터 대신 제한된 안전 신호를 전달한다

Private Safety Processing은 고객 데이터를 안전 분석에 사용하지만, 처리 후에는 보관하지 않는다. 고객 데이터의 암호화 키도 고객이 보유한다.

위험이 감지되면 OpenAI에는 활동의 유형과 심각도 같은 제한된 안전 신호가 전달된다. OpenAI는 이 신호를 바탕으로 조치 필요성을 판단하고, 추가 맥락이 필요하면 고객에게 연락할 수 있다. 이 경우 고객이 관련 데이터를 직접 제공할 수 있다.¹

따라서 ZDR을 “아무것도 분석하지 않는 방식”으로 이해해서는 안 된다. 중요한 차이는 분석 여부가 아니라 처리 후 데이터가 보관되는지, 어떤 안전 신호가 전달되는지, 원문 데이터에 누가 접근할 수 있는지에 있다.

도입 전 확인해야 할 기준

Private Safety Processing을 평가할 때는 단순히 “무저장”이라는 표현만 확인해서는 부족하다. 기업은 다음 기준을 함께 살펴봐야 한다.

• 여러 세션에 걸친 악용 패턴을 어떤 범위에서 탐지하는가

• 처리된 고객 데이터가 실제로 보관되지 않는가

• OpenAI에 전달되는 안전 신호에는 무엇이 포함되는가

• 고객이 암호화 키와 추가 데이터 제공 여부를 통제하는가

• 오탐이나 후속 조치에 대응할 절차가 마련돼 있는가

아직 프리뷰 단계인 만큼, 실제 도입 전에는 적용 범위와 운영 절차를 구체적으로 확인해야 한다. 핵심은 탐지력과 프라이버시 가운데 하나를 포기하는 것이 아니라, 필요한 분석은 수행하면서 데이터 보존과 노출을 제한하는 데 있다.

요약: Private Safety Processing은 기존의 세션 단위 ZDR 감시를 여러 대화에 걸친 악용 패턴 탐지로 확장한다. 동시에 처리 후 데이터를 보관하지 않고 고객이 암호화 키를 보유하도록 해, 기업이 안전성과 프라이버시를 함께 관리할 수 있도록 설계된 접근이다.

¹OpenAI seeks to one-up Anthropic with new customer privacy protections