OpenAI DevDay - 개발자 컨퍼런스 노트 정리
새벽 3시에 일어나서 OpenAI 개발자 컨퍼런스를 봤다. (실화인가...) 샘 올트먼과 OpenAI 직원들이 생각보다 놀라운 소식들을 전해주었다. 새로운 아이폰 모먼트를 보고 있는 느낌이다. 참고로 주간 활성 사용자가 1억명이라고 한다.
GPT-4 Turbo
GPT4의 새로운 모델. (OpenAI의 모델 스펙 : 현재 모델명은
gpt-4-1106-preview로 사용 가능합니다. 속도 엄청 빠름...)128,000 토큰 컨텍스트. (드디어 OpenAI 도 10만 토큰의 벽을 깼다! 표준 책으로 300페이지 분량을 그냥 입력할 수 있다.)
JSON 모드 : 출력을 json 으로만 할 수 있다. 아웃풋을 콘트롤 하기 위해서 이게 필요했다...
더 나은 펑션 콜링. (여러 함수를 한꺼번에 처리할 수 있음. 명동 콜링 아님...)
Reproducible output : 시드 파라미터를 전달하면 동일한 결과를 전해줌.
데이터 학습이 2021년 9월에서 2023년 4월까지로 최신 데이터 반영.
새로운 모달리티 : GPT-4 Turbo with vision, 달리3, TTS 등 모두 API 로 사용 가능!
오픈소스 모델인 Whisper V3 API로 제공 예정.
GPT-3.5 파인튜닝 16k 버전 오픈. GPT-4 파인튜닝은 일부 실험 접근 허용.
커스텀 모델 : 모델의 훈련과정에 관여해서 특정 도메인 학습을 시킬 수 있는 모델. 리소스가 많이 들어가는 모델이라 소규모 기업 오픈.
Copyright shield : 엔터프라이즈와 API 사용자들에게 저작권 분쟁 시 보호.
GPT-4 가격 인하 : 인풋 토큰은 3배 저렴. 아웃풋 토큰은 2배 저렴. 약 2.75배의 가격 인하 효과를 보일 것. (1000 인풋 토큰 당 1센트, 1000 아웃풋 토큰 당 3센트)
Rate limit 분 당 토큰 수 2배 생성 가능.
GPT-3.5 터보 16K 가격 인하. GPT-3.5 터보 4K, 16K 파인튜닝 가격 인하.
GPTs
GPT를 사용해서 커스텀 챗봇을 만들 수 있는 플랫폼.
지시사항(instructions)이나 데이터 파일을 업로드해서 커스텀 챗봇을 만들 수 있다. (Character.ai 랑 비슷한 느낌이다.)
Knowledge에 파일을 직접 올릴 수 있고 웹브라우징, 달리 이미지, 코드 인터프리터 등의 능력이 가능하다.
링크로 공유할 수 도 있다. 그리고 GPT Store라는게 생긴다고 한다. (11월 말에 오픈할 예정) 수익 쉐어도 가능하다고 하는데 이에 대한 자세한 정보는 나중에 공개할 것 같다.
GPT store의 모습
사용은 여기에서 할 수 있다. https://chat.openai.com/gpts/editor
Assistants API
API 개발을 더 쉽게 만들어 주는 도구.
Threading (긴 대화 이력을 지속적으로 저장하고 관리하는 기법.), Retrieval (관련 맥락 검색), Code interpreter (파이썬 실행환경), function calling (GPT가 함수 호출 가능) 을 잘 활용할 수 있게 만들어 놓음. 이 4가지 스킬을 잘 조합해서 사용할 수 있다.
playground의 Assistant 모드
앱의 위의 4가지 기능을 조합해서 맵을 조종하는 등 다양한 작업을 하는 모습.
code interpreter가 실행된 모습. UI는 샘플로 보여준 것.
실제 코드를 보면 이런식으로 /api/openai/threads/${threadID}/messages 에 보내는 방식으로 assistant를 사용한다.
Whisper, TTS API를 통해서 음성으로 명령을 하고 함수 호출 기능으로 컨퍼런스 참석자 모두에게 OpenAI 크레딧을 쏘는 장면...
Assistants API는 https://platform.openai.com/assistants 에서 사용할 수 있다.
소감
컨퍼런스를 통해 새로운 기술이 나왔다기 보다는 현재 나온 기술들을 잘 조합해서 만들어 낼 수 있는 것이 굉장히 많다는 것을 알게 되었다. 아마 창의력과 상상력의 새로운 세계를 연 것이 아닌가 싶다. 사실 GPT가 나오기 전에는 컴퓨터나 인터넷이 재미가 없어졌다고 생각했는데 여기에 새로운 공학적 상상력의 문이 열리지 않았나 싶다. ChatGPT에는 제 2의 아이폰이라고 이름을 붙여도 손색이 없을 것 같다.
자세한 정보는 다음 링크에서 찾아볼 수 있다.
유튜브는 한시간 좀 안되는 분량입니다.
솔직히 정말 엄청나네요...이 도구들을 바탕으로 정말 다양한 것들이 만들어 질 것 같습니다.
마지막으로 데브데이의 transcript를 기반으로 어떤 일들이 있었는지 이야기 해주는 챗봇을 만들어 봤습니다. (5~10분 걸렸네요.) https://chat.openai.com/g/g-WNmeP07xZ-devday-chatbot
챗봇은 사용을 해보니 현재는 유료 계정에만 gpts가 풀린거 같습니다. 유료 계정은 이번 주 안으로 배포가 완료된다고 합니다. 무료 계정의 경우 풀리는 시기에 대해 언급은 없지만 OpenAI에서 서버 상황 등을 보고 결정할 것 같습니다.
gpts 설정 모습.
PS : 이메일 구독을 하시면 매주 토요일 인공지능에 대해 엄선한 소식들을 전달해 드립니다. 놓치지 마세요~
