1. ChatGPT, 구글 바드 같은 서비스를 통해 사용 : 가장 대중적인 방법으로 안전한 AI를 사용할 수 있습니다.

2. API를 통해 활용 : 서비스에서 제공하는 API를 통해 프로그래밍을 활용해서 외부에서 활용. 자바스크립트, 파이썬, 웹 서비스 같은 환경에서 사용. 커스터마이징된 AI를 활용할 수 있는 좋은 방법. API를 활용해서 업무 자동화 등을 할 수 있습니다. 예 : 사용자가 글을 올렸을 때 서비스 정책에 맞는지 확인해 주는 작업 흐름 (workflow)

3. 로컬에서 활용 : 오픈소스 LLM, 작은 LLM 등을 컴퓨터나 스마트폰과 같은 디바이스 자체에서 활용. On device에서 LLM이나 특정 목적에 맞춤화된 모델 등을 활용.

API(Application Programming Interface) 란?

내가 만든 서비스의 일부를 외부에서 사용할 수 있게 공개한 것을 말합니다. 서로 정해 놓은 규칙에 따라 HTTP 요청을 하면 데이터나 기능 들을 활용할 수 있습니다.

예 : 네이버에서 지도 서비스의 일부를 외부에서 api를 통해 사용할 수 있도록 공개.

ChatGPT도 OpenAI에 공개한 API를 통해 활용 가능합니다. API를 통해 ChatGPT와 같은 LLM을 이해하고 활용하는 방법을 알아봅시다.

예시

curl https://api.openai.com/v1/chat/completions
  -H "Content-Type: application/json"
  -H "Authorization: Bearer $OPENAI_API_KEY"
  -d '{
     "model": "gpt-3.5-turbo",
     "messages": [{"role": "user", "content": "Say this is a test!"}],
     "temperature": 0.7
   }'

실제 ChatGPT 에서 활용하는 API도 HTTP 요청 중 POST 방법을 사용해서 보내는 요청임을 알 수 있습니다.