GPT-4o mini 출시! - 작고 저렴한 멀티모달 모델로 가격에 혁신을 일으키다.

GPT-4o mini

OpenAI에서 GPT-4o mini 를 출시했습니다. MMLU에서 82%를 기록했고 LMSYS 리더보드에서 GPT-4 보다 높은 채팅 선호도를 보였다고 합니다. 가격은 인풋은 백만 토큰 당 15센트이며, 아웃풋 토큰은 백만 토큰당 60센트입니다. (!) GPT-3.5 Turbo보다 60% 저렴한 가격입니다. (백만 토큰은 일반적인 영어 책에서 약 2500 페이지의 양이라고 합니다.)

오늘부터 텍스트와 비전 기능이 API를 통해 제공됩니다. 멀티 모달 능력인 텍스트, 이미지, 비디오, 오디오의 종합적인 인풋과 아웃풋은 차후 제공할 예정이라고 합니다. 모델은 128K의 컨텍스트 윈도우를 가졌고 요청 당 16K의 아웃풋 토큰을 지원합니다. 훈련 지식은 2023년 10월입니다. GPT-4o의 향상된 토크나이저 덕분에 비영어 언어도 비용 효율적입니다.

서비스에서도 무료, 유료 사용자 모두에게 ChatGPT 서비스에서 사용할 수 있습니다. 모델 선택 또는 채팅 결과에서 미니로 변환하면 사용할 수 있습니다.

성능

GPT-4o mini는 학술적인 벤치마크 등에서 GPT-3.5 터보를 능가합니다. 또한 함수 호출 기능에서도 좋은 성능을 보입니다. 따라서 개발자들이 외부의 시스템에서 데이터를 가져오거나 액션을 취하는 앱을 만들기에 좋습니다.

벤치마크 성능은 Gemini Flash, Claude Haiku, GPT-3.5 turbo 보다 좋은 성능을 보입니다.

생각

GPT-4o 미니가 가격에 있어 혁신을 일으켰네요. 이제 터보 대신에 미니를 써야할 것 같습니다. 이렇게 작은 모델은 중요한 이유는 복잡하지 않은 결정은 작은 모델에게 빠르게 맡길 수 있기 때문입니다. 지시사항이 여러 개가 복잡하게 들어가 있는건 GPT-4o 에게 맡기겠지만, 1~2개의 지시 사항이라면 오히려 작은 모델로 빠르게 수행하는게 좋더라구요. 게다가 멀티모달이니 활용성은 더 올라갈 것 같습니다.