OpenAI는 ChatGPT로 작성된 글을 감지할 수 있는 도구를 출시하는 데 있어 '신중한 접근 방식'을 취하고 있다고 말합니다.
- OpenAI는 ChatGPT를 이용하여 과제를 작성하는 학생을 잡아낼 수 있는 도구를 개발했지만, 이를 실제로 출시할지 고민 중이다.
- OpenAI 대변인은 텍스트 워터마킹 방법을 연구 중이며, 복잡성 및 OpenAI 외부에 미칠 영향 때문에 신중한 접근을 취하고 있다고 밝혔다.
- 텍스트 워터마킹 방법은 기술적으로 유망하지만, 악의적인 행위자에 의해 우회될 가능성과 비영어권 사용자에게 불리하게 작용할 위험이 있다.
- 이 방법은 이전의 AI 생성 텍스트 감지 시도와는 다르며, ChatGPT에서 생성된 텍스트만을 대상으로 한다.
- 워터마킹 방법은 ChatGPT가 단어를 선택하는 방식에 작은 변화를 주어 보이지 않는 워터마크를 생성하며, 이를 감지할 수 있는 별도의 도구로 감지 가능하다.
- OpenAI는 월스트리트 저널의 기사 후, AI 콘텐츠 감지 연구에 대한 블로그 게시물을 업데이트했다.
- 텍스트 워터마킹은 현지화된 변조(예: 패러프레이징)에 대해서는 효과가 있지만, 번역 시스템 사용, 다른 생성 모델로 재작성, 단어 사이에 특수 문자를 삽입 후 이를 삭제하는 등의 글로벌 변조에 대해선 덜 강력하다.
- 이 방법은 악의적인 행위자에 의해 쉽게 우회될 수 있다.
- 워터마킹은 비영어권 사용자가 AI를 유용한 작문 도구로 사용하는 것을 낙인찍을 수 있다는 우려가 있다.
5techcrunch.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.