Llama 등 오픈소스 모델을 웹에서 사용하기 가장 좋은 방법 - 허깅챗
Llama를 사용하기 가장 좋은 플랫폼은 어디일까? 내 생각에는 허깅챗인것 같다. HuggingChat (huggingface.co)
허깅챗에서는 라마 70b 뿐만 아니라 다양한 모델을 지원한다.
지원하는 모델들은 다음과 같다.
mistral/Mixtral-8x7B-Instruct-v0.1 - Mistral AI의 최신 MoE 모델로 벤치마크에서 Llama 2 70B를 능가합니다.
google/gemma-7b-it - 구글에서 Gemini 모델 생성을 위한 연구와 기술을 바탕으로 구축한 경량 모델입니다.
meta-llama/Llama-2-70b-chat-hf - 메타(Meta)의 최신이자 가장 큰 모델로 대화용으로 미세 조정되었습니다.
NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO - Mixtral 8x7B MoE LLM에서 훈련된 Nous Research의 신규 플래그십 모델입니다.
codellama/CodeLlama-70b-Instruct-hf - 메타의 최첨단 코드 모델로 현재 70B 규모입니다.
mistral/Mistral-7B-Instruct-v0.2 - Mistral AI에서 출시한 새로운 Apache 2.0 모델로 Llama2 13B보다 우수한 성능을 보입니다.
openchat/openchat-3.5-0106 - MT-Bench에서 1위를 차지한 모델로 파라미터 수가 7B에 불과합니다.
(이미지 OCR은 클로드를 활용)
코드 라마 등 다양한 모델을 활용할 수 있다. 오픈 소스 모델은 한글 지원이 안되는게 많은게 단점이기는 하지만 언어에 구애받지 않는다면 추천!
