ChatGPT 활용팁 - 추론 활용하기 (프롬프트는 새로운 프로그래밍 언어)

추론 (inference)

ChatGPT 등 LLM은 추론을 할 수 있습니다. 여기서 추론이란 알고 있는 또는 확인된 정보로부터 논리적 결론을 도출하는 행위 또는 과정입니다.

어떤 정보를 주면 이를 바탕으로 논리적 추론이 가능하다는 뜻이죠. 아마 알게 모르게 여러분은 이 개념을 많이 활용하고 있을 것입니다.

감정 분류하기

대표적인 예시로 감정을 분류해 봅시다. 가장 넓게는 긍정과 부정이 있겠네요. 먼저 텍스트를 주고 이 텍스트가 부정적인지 긍정적인지 테스트해 보겠습니다.

프롬프트 1

다음 텍스트가 '긍정'적인 감정인지 '부정'적인 감정인지 판단해줘.

"""
어제 밤에 잠이 안왔다. 왜 이렇게 잠이 안왔지? 잠이 안온 다음날은 몸이 찌뿌둥하니 편하지가 않다.
"""

ChatGPT : 주어진 텍스트는 '부정'적인 감정을 나타냅니다.

프롬프트 2

다음 텍스트가 '긍정'적인 감정인지 '부정'적인 감정인지 판단해줘.
  
"""
아침에 일어났을 때 기분이 좋다. 다시 나에게 새로운 기회가 주어졌구나. 살아있음에 감사하다.
"""

ChatGPT : 주어진 텍스트는 '긍정'적인 감정을 나타냅니다.

이런식으로 지시 사항 (instruction) + 문맥을 주고 논리적인 결론을 얻어낼 수 있습니다. 이런 개념이 중요한 이유는 이를 바탕으로 자동화 시스템 등을 만들 수 있기 때문입니다. 예를 들어 리뷰 데이터를 받아서 부정적인 경우 보고해주는 시스템을 만들 수 있겠네요.

태그 추출하기

다음은 텍스트를 받고 여기에서 태그를 추출하는 예시를 해보겠습니다. 내용은 제가 예전에 썼던 딥마인드의 robocat - 로봇 팔을 이용해 다양한 종류의 작업을 수행하는 AI 모델 을 사용하겠습니다.

프롬프트

다음 텍스트를 읽고 태그를 5개 추천해줘.

"""텍스트
Google의 DeepMind에서 RoboCat이라는 AI 모델을 개발했다고 합니다. 이 모델은 로봇 팔을 통해 다양한 종류의 작업을 수행할 수 있습니다.

하나의 모델로 다양한 일을 수행할 수 있는 DeepMind의 AI 모델인 Gato를 기반으로 하고 있습니다.

Robocat은 시뮬레이션과 실제 생활에서 수집된 이미지와 행동데이터로 훈련되었습니다.

훈련을 위해서 먼저 인간이 제어하는 로봇 팔을 사용해서 특정 작업에 대한 데모를 100개~1000개 수집합니다. 이 작업에 대해 파인 튜닝을 합니다. 그리고 평균 10,000번의 연습을 거친 특수화된 모델이 나온다고 합니다.

총 253개의 작업에 대해 훈련되었으며, 이런 작업들의 141개의 변형에 대해 벤치마크를 수행했다고 합니다.

딥마인드의 주장에 따르면 1000개의 인간이 조종한 예시들을 통해 Robocat이 다양한 로봇팔을 운영하는 것을 배울 수 있다고 합니다.

1000개의 데모 데이터가 포함된 경우 수행 성공률은 13%~99%에 이르렀다고 합니다

하지만 어떤 경우에는 100개의 데모만으로도 새로운 작업을 배울 수 있다고 DeepMind는 이야기 합니다.

앞으로 연구팀은 RoboCat이 새로운 작업을 완수하는데 필요한 데모의 수를 10개 미만으로 줄이는 것을 목표로 하고 있다고 합니다.

출처 : DeepMind's RoboCat learns to perform a range of robotics tasks

적은 수의 데모 데이터만으로 특정 작업을 인공지능이 수행하는 것이 주요한 트렌드가 될 것 같습니다. 그런데 이 RoboCat은 특정 작업도 수행하지만 좀 더 일반적인 일들도 포함해서 수행하는 것을 목표로 하는 것 같습니다. 
"""

ChatGPT 3.5

추천된 태그:

인공지능

로봇 팔

DeepMind

RoboCat

작업 자동화

ChatGPT 4

1. #DeepMind
2. #RoboCat
3. #AI
4. #로봇팔
5. #머신러닝

이런식으로 글을 읽고 태그를 추출해줍니다. 여기서 추출된 태그를 바탕으로 어떤 액션을 취할지 만들어 주면 자동화를 시킬 수 있습니다. 예를 들어 AI에 대한 정보가 있을 때 블로그에 정리해서 포스팅하는 방법을 취할 수 있겠네요.

추론은 어렵지 않습니다. 정보 + 논리적인 요청을 하면 ChatGPT 등 LLM이 필요한 일을 잘 수행할 수 있습니다. 이런 개념을 알고 계신다면 유용하게 활용할 수 있을 뿐만 아니라 왜 프롬프트가 새로운 프로그래밍 언어라고 하는지 이해하실 수 있으실거에요.

그럼 오늘도 좋은 하루 되시길 바랍니다.