openai o1 api 공개 (티어 1~5 개발자에게도 공개)

o1-preview 과 o1-mini 가 스트리밍을 지원하면서 티어 1~5 개발자에게도 공개되었습니다.

현재 플레이그라운드에서도 확인할 수 있습니다.

API 활용 예시

import OpenAI from "openai";
const openai = new OpenAI();
 
const completion = await openai.chat.completions.create({
  model: "o1-preview",
  messages: [
    {
      role: "user", 
      content: "Write a bash script that takes a matrix represented as a string with format '[1,2],[3,4],[5,6]' and prints the transpose in the same format."
    }
  ]
});

console.log(completion.choices[0].message.content);

현재 베타 제한사항

이미지 입력 기능 미지원

시스템 메시지 미지원

함수 호출 및 도구 사용 기능 미지원

응답 시간이 기존 모델보다 더 길 수 있음

컨텍스트 윈도우 관리

o1-preview와 o1-mini 모델은 128,000 토큰의 컨텍스트 윈도우를 제공합니다. 컨텍스트 윈도우는 모델이 한 번에 처리할 수 있는 토큰의 수를 의미합니다.

출력 토큰의 최대 한도

각 완료에는 출력 토큰의 최대 한도가 있습니다. 이는 보이지 않는 추론 토큰과 보이는 완료 토큰을 모두 포함합니다.

o1-preview의 최대 출력 토큰 한도

o1-preview 모델은 최대 32,768 토큰까지 출력할 수 있습니다.

o1-mini의 최대 출력 토큰 한도

o1-mini 모델은 최대 65,536 토큰까지 출력할 수 있습니다.