OpenAI의 ChatGPT API 업데이트 소식

OpenAI에서 기본 ChatGPT API에 대해서 흥미로운 업데이트를 진행했습니다.

함수 호출 (Function calling)

채팅 모델에 함수를 호출할 수 있는 기능이 추가되었습니다. ChatGPT 플러그인과 비슷한 방식으로 호출 할 때 JSON 형식으로 함수를 보낼 수 있습니다. 이 함수는 사용자의 외부 백엔드 API나 외부 API, 함수 등이 될 수 있습니다. 문맥에서 해당 함수를 실행해야 하면 자동으로 실행을 하는 형식입니다.

자세한 내용은 추가된 개발자 문서를 확인해 보세요. OpenAI API function calling

파이썬 예시

    response = openai.ChatCompletion.create(
        model="gpt-3.5-turbo-0613",
        messages=[{"role": "user", "content": "What's the weather like in Boston?"}],
        functions=[
            {
                "name": "get_current_weather",
                "description": "Get the current weather in a given location",
                "parameters": {
                    "type": "object",
                    "properties": {
                        "location": {
                            "type": "string",
                            "description": "The city and state, e.g. San Francisco, CA",
                        },
                        "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
                    },
                    "required": ["location"],
                },
            }
        ],
        function_call="auto",
    )

또 role에 function 이 생겨 아예 명시적으로 함수를 호출할 수 도 있습니다.

"model": "gpt-3.5-turbo-0613",
"messages": [
  {"role": "user", "content": "What is the weather like in Boston?"},
  {"role": "assistant", "content": null, "function_call": {"name": "get_current_weather", "arguments": "{ \"location\": \"Boston, MA\"}"}},
  {"role": "function", "name": "get_current_weather", "content": "{\"temperature\": "22", \"unit\": \"celsius\", \"description\": \"Sunny\"}"}
],

전에 명시적인 컴퓨팅 함수가 들어가면 LLM의 활용도가 높아질거라고 예측한 적이 있었습니다. 이렇게 한 걸보니 OpenAI가 정말 API에 진심인것 같습니다.

새로운 모델들

gpt-3.5-turbo-0613 모델이 도입되었습니다. gpt-3.5-turbo-16k는 Context 길이가 4배나 늘어났네요.

gpt-4-0613 버전이 도입되었고 대기자 리스트를 확장할 예정이라고 합니다.

낮아진 가격

임베딩 모델

text-embedding-ada-002 버전이 75%의 비용 절감 되었습니다. 많이 쓰는 저한테는 희소식이네요. 이제 1000 토큰 당 0.0001달러입니다.

GPT-3.5 Turbo

입력 토큰의 가격이 25% 절감되었습니다. 이제 입력은 1000토큰 당 0.0015 달러, 출력은 1k 당 0.002 달러입니다.

gpt-3.5-turbo-16k는 가격이 두 배라고 하네요. 그래서 input 은 1k 당 0.003 달러, output은 0.004 달러입니다.

여러모로 좋은 소식인것 같습니다!

출처 : Function calling and other API updates