GPT-4o모델 싱글턴 방식 대화 파이썬 API 코딩--(1)

UCA수퍼컴아카데미2024-05-14 20:09

파이썬 소스코드는 ulsancoding.com 블로그 하단에 다운로드링크가 있습니다.

hello

gpt-4o모델이 출시되서 밤을 못이루는 분들이 많았다.

분석이나 정리는 다른 분들이 잘하니 그걸 보도록 하자. 아이패드라던가 아이폰 앱에는 GPT-4o가 이미 적용이 된 분들도 많고, 오디오 비디오 연동등은 PLUS 유저부터 순차적인 롤아웃이 몇 주간 이뤄질거다.

필자는 API 코딩 개발만 다루기 땜에 포커스도 거기에 맞추고 있다.

신규 출시된 모델은 코딩에서

gpt-4o나 gpt-4o-2024-05-13으로 호출한다.

일단 학습 데이터가 2023년 10월까지이다. GPT-4 모델은 시기적으로 더 빨리 출시되었지만, 2023년 12월까지 학습이 되어있다. 학습된 데이터 양이 다르다.

gpt-4o-learn_data

데이터가 10월까지인 이유에는 아래처럼 유추할만한 내용이 있다.

나무위키에서 계속 루머가 돌았던 GPT-5 모델을 목표로 훈련이 되고있던 모델로 추측이 되기때문이다.

gpt-40-issue

루머대로라면 지난 23년 10월 18일이후 3개월간 훈련비용 25억달러와 GPU 50만대를 투입해 진행한 모델이 5월 14일자 이번 결과물이다.

인공지능 모델들의 개발 속도가 너무빨라서 생기는 아이러니중 하나가 책이나 인터넷 동영상 강좌가 그 속도를 못 따라간다는 점이다. 3개월만 지나면 전부 옛날 일이 되고만다.

아래 책은 23년 12월 27일 GPT-4 출간본이다. 그런데 일주일 뒤, 24년 1월 4일자로 openAI의 completion 모듈과 embedding 부분이 전부 싹 개편되었다. 상단의 이전게시물 링크를 읽어보면 알겠지만, 이미 6개월 전에 openAi가 미리 유지보수나 개발을 중지할거라고 다 알려준 사항이다. 원서가 출간되고, 번역이 되고, 한국어 출판 교정까지 하면서 실제로 출판물은 속도를 못 따라가고있다.

book_2

출판사 자료실에서 주는 소스코드는 반 이상이 돌아가지 않아서 다 고쳐서 써야한다. 대체용인 chat.completion 모듈을 고치는 방식이나 다룰 줄 안다면 금방 수정하겠지만, 초보자가 개발방법을 몰라서 배우려고 개발 서적을 산건데 그런걸 손쉽게 할 수 있을리가 없다.

특히

pip install openal ==0.28

처럼 옛날 SDK버전의 패키지로 강제로 바꾸는 방법을 쓰면 코드 이용이 가능하긴 하지만, 이미 개발및 유지보수를 중지해 deprecated된 기술을 배워서 뭣에 쓸것인가.

동영상 강좌들도 5월14일 오늘 이후로는 죄다 새로 녹화를 떠야할거다.

싱글턴 대화 구현

구글 제미나이 예제중 싱글턴 부문 들고와서 GPT-4o로 싹 바꾼 예제이다. 업스테이지 솔라꺼 싱글턴 예제 들고와서 바꿔도 된다.

while True: 로 무한 반복문을 돌리면서 유저에게 질문을 받아서 응답하는 간단한 코드다. max_tokens=4096, 인데 넘어서는 값을 집어넣으면 오버플로 같은 에러가 나니 주의하자.

학습 기간이 2023년 10월까지이다 보니 뉴진스에 대해서 이제 매우 잘알고 정확하게 답변한다.

GPT-4o의 답변 :

뉴진스(NewJeans)는 대한민국의 걸그룹으로, 2022년에 데뷔하였다. 이 그룹은 ADOR(어도어)라는 하이브의 독립 레이블 소속이며, 민희진이 이끄는 팀이다. 뉴진스는 그들의 독특한 음악 스타일과 패션, 그리고 독창적인 컨셉으로 주목받고 있다.

그들의 데뷔 앨범 "New Jeans"는 발매되자마자 큰 인기를 끌었으며, 타이틀 곡 "Attention"과 "Hype Boy" 등은 다양한 음악 차트에서 상위권을 차지했다. 뉴진스는 그들의 음악과 퍼포먼스를 통해 빠르게 팬층을 확보하였고, K-pop 씬에서 주목받는 신인 그룹으로 자리매김했다.

뉴진스의 멤버들은 각기 다른 개성과 매력을 지니고 있으며, 그룹 내에서 다양한 역 할을 맡고 있다. 그들의 무대 퍼포먼스와 뮤직비디오는 항상 화제가 되며, 팬들과의 소통도 활발히 이루어지고 있다.

뉴진스는 앞으로도 다양한 음악적 시도와 활동을 통해 더 많은 팬들에게 사랑받을 것으로 기대된다. 이 그룹의 성장은 K-pop의 글로벌 인기에 큰 기여를 할 것으로 보인다.

GPT-4o모델의 학습시기가 시기적으로 23년 10월까지인데, BTS 정국의 미국 팝 솔로 진출곡들 중 <golden> 앨범 수록곡인 <3D>나 <Standing Next to You>에 대해선 학습하지않아서 알지 못하지만 그 이전에 발매된 <seven>이란 곡에 대해선 학습을 했다.

GPT-4o의 답변 :

"BTS 멤버 정국의 최신 솔로곡은 2023년에 발매된 "Seven"입니다. 이 곡은 정국의 첫 솔로 싱글로, 많은 팬들에게 사랑받고 있습니다. "Seven"은 감미로운 멜로디와 정국의 매력적인 보컬이 돋보이는 곡으로, 발매 직후 큰 인기를 끌었습니다."

르세라핌 노래중에 제목에 이브.. 들어가는게 뭐지?

란 물음에 대해선

GPT-4o의 답변 :

르세라핌의 노래 중 "이브"가 들어가는 제목은 "이브, 프시케 그리고 푸른 수염의 아내"입니다.

학습데이터가 아주 잘 정제되어있고, 마구잡이 데이터를 먹인게 아닌 뭔가 굉장히 잘 알고 있다는 느낌이다.

GPT-4O에게 물어볼 메시지를 입력하세요: > 뉴진스에 대해서 이야기해줘

 GPT-4O의 답변입니다. 

뉴진스(NewJeans)는 대한민국의 걸그룹으로, 2022년에 데뷔하였다. 이 그룹은 ADOR(
어도어)라는 하이브의 독립 레이블 소속이며, 민희진이 이끄는 팀이다. 뉴진스는 그
들의 독특한 음악 스타일과 패션, 그리고 독창적인 컨셉으로 주목받고 있다.

그들의 데뷔 앨범 "New Jeans"는 발매되자마자 큰 인기를 끌었으며, 타이틀 곡 "Attention"과 "Hype Boy" 등은 다양한 음악 차트에서 상위권을 차지했다. 뉴진스는 그들
의 음악과 퍼포먼스를 통해 빠르게 팬층을 확보하였고, K-pop 씬에서 주목받는 신인 그룹으로 자리매김했다.

뉴진스의 멤버들은 각기 다른 개성과 매력을 지니고 있으며, 그룹 내에서 다양한 역 할을 맡고 있다. 그들의 무대 퍼포먼스와 뮤직비디오는 항상 화제가 되며, 팬들과의 소통도 활발히 이루어지고 있다.

뉴진스는 앞으로도 다양한 음악적 시도와 활동을 통해 더 많은 팬들에게 사랑받을 것으로 기대된다. 이 그룹의 성장은 K-pop의 글로벌 인기에 큰 기여를 할 것으로 보인 다.

 GPT-4O에게 물어볼 메시지를 입력하세요: > 르세라핌의 perfect night 알아?

 GPT-4O의 답변입니다.

네, 르세라핌(LE SSERAFIM)은 대한민국의 걸그룹으로, 다양한 곡들을 발표하고 있습 니다. 하지만 "Perfect Night"이라는 곡은 현재 제가 가지고 있는 정보로는 확인되지 않습니다. 혹시 더 구체적인 정보를 제공해 주실 수 있나요? 아니면 다른 질문이 있으신가요?

 GPT-4O에게 물어볼 메시지를 입력하세요: > 르세라핌의 이브 가 들어가는 노래제목은?

 GPT-4O의 답변입니다.
르세라핌의 노래 중 "이브"가 들어가는 제목은 "이브, 프시케 그리고 푸른 수염의 아내"입니다.

 GPT-4O에게 물어볼 메시지를 입력하세요: > BTS노래 최신곡은 뭐가 있을까 특히 jungkook의 곡으로 
 알려 줘

 GPT-4O의 답변입니다.

BTS 멤버 정국의 최신 솔로곡은 2023년에 발매된 "Seven"입니다. 이 곡은 정국의 첫 솔로 싱글로, 
많은 팬들에게 사랑받고 있습니다. "Seven"은 감미로운 멜로디와 정국의 매력적인 보컬이 돋보이는 
곡으로, 발매 직후 큰 인기를 끌었습니다.

 GPT-4O에게 물어볼 메시지를 입력하세요: > exit

아래는 위의 파이썬 소스코드에서 쓰인 질문-답변 턴방식 대화를 그대로 녹화한 내용이다. 응답을 찍으면서 텔레그램 메신저로 전달하는데, 응답속도가 그록 Groq 못지않게 빠르다. 분명 서버 하드웨어 AI 가속기칩을 뭔가 다른거 달았다고본다.