GPT-4의 시각 또는 GPT-4V에 대한 OpenAI 논문은 모델의 편향, 결점, 잠재적인 악의적인 사용 사례와 회사의 안전 조치를 보여줍니다
- OpenAI의 GPT-4 모델은 이미지를 이해할 수 있는 능력을 갖춘 다중모달 기능을 가지고 있다.
- GPT-4V는 이미지 분석 기능을 가지고 있지만 악용과 개인 정보 보호 문제 때문에 처음에는 보류되었다.
- OpenAI는 GPT-4V의 문제점을 완화하기 위해 기술 논문을 공개했다.
- Be My Eyes 앱 사용자를 포함한 몇 천 명 정도에게만 현재 GPT-4V를 사용해봤다고 한다.
- "레드 팀"은 GPT-4V의 의도치 않은 행동을 조사하기 위해 모델을 분석했다.
- OpenAI는 GPT-4V가 악용되지 않도록 여러 가지 보호 기능을 적용했다.
- 그러나 AI 모델들과 마찬가지로, GPT-4V도 한계가 있다. 그리고 때로는 맞춤법을 틀리거나 명확한 객체를 인식하지 못하는 등의 문제가 있다.
- GPT-4V는 위험물질이나 화학물질을 인식하는 데에는 사용되어서는 안 된다고 경고했다.
- 의료 영상 분야에서도 GPT-4V는 일관된 응답을 제공하지 못하는 경우가 있다.
- GPT-4V는 특정 혐오 상징과 성별 및 체형에 편견을 가진다. 단, OpenAI의 보호 기능을 끄면 해당 편견은 나타나지 않는다.
- GPT-4V는 여전히 개발 중이며, OpenAI는 모델의 능력을 안전하게 확장하기 위해 노력하고 있다.
5techcrunch.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.