검색
검색
공개 노트 검색
회원가입로그인

Vicuna : llama를 사용자 대화로 파인튜닝한 오픈 소스 챗봇

비쿠냐

비투냐가 뭔가 해서 찾아봤더니 낙타과의 동물이라고 한다.

Vicuna : llama를 사용자 대화로 파인튜닝한 오픈 소스 챗봇 image 1

GPU로 돌리면 28GB (경량화 시 18GB) 정도가 필요하다. CPU로 돌리면 60GB의 CPU 메모리가 필요하다고 한다.

훈련을 시킬 때는 80GB A100 8대로 가능하다고 한다.

Vicuna : llama를 사용자 대화로 파인튜닝한 오픈 소스 챗봇 image 2

온라인 데모를 사용해 봤다. 한글은 데이터가 없어서 그런지 좀 어색하다.

llama를 chatgpt의 사용자 대화로 파인튜닝한 모델인 셈이다.

출처 : Vicuna: An Open-Source Chatbot Impressing GPT-4 with 90%* ChatGPT Quality

조회수 : 6273
공유하기
카카오로 공유하기
페이스북 공유하기
트위터로 공유하기
url 복사하기