Meta Llama 2 공개 - 연구, 상업 목적 모두 무료로 사용가능한 인공지능 모델

메타에서 Llama 2를 공개했네요. 연구와 상업 목적으로 모두 무료라고 합니다. 홈페이지에서 모델 사용 신청을 하면 허가 후 다운로드를 받을 수 있습니다.

또한 마이크로소프트와 파트너십을 맺어 라마 2를 확장한다고 합니다. 현재 Azure에서 지원이 되고 윈도우 로컬에서도 돌리는게 지원이 될거 같네요. 물론 AWS, Hugging Face 등에서도 가능하다고 합니다.

공식 홈페이지 : Llama 2 - Meta AI

llama2 paper : Llama 2: Open Foundation and Fine-Tuned Chat Models | Meta AI Research

모델은 7B, 13B, 70B가 있습니다. 컨텍스트 길이는 라마 1보다 2배 늘어난 4096 이네요. Supervised fine-tuning이 10만 건, Human Preferences 100만건으로 파인튜닝 되었네요. 역시 기업급입니다.

성능은 MMLU만 보면 Llama-2 70B 가 68.9이네요. GPT-3.5 175B가 MMLU 70인 것을 보면 비교해 보실 수 있을 것 같습니다.

데모는 https://www.llama2.ai 에서 사용해 보실 수 있습니다. 한글로 물어보면 이해는 하는데 영어로 대답해 줍니다. 지금은 학습 데이터의 대부분이 영어라고 합니다.

perflexity 에서 라마 챗이라는 것을 만들었네요. 빨라서 좋습니다. 70B 모델까지 사용할 수 있어요. https://labs.perplexity.ai