로컬 AI는 미친 듯이 똑똑해졌으며 LLM을 생각하는 것은 8B에 불과합니다!
- 로컬에서 실행 가능한 최고의 추론 모델 중 하나로 평가됨
- 모델 이름은 'Deep Hermes 3'이며, News Research에서 개발
- 8억 개의 매개변수를 가지고 있음
- 긴 사고 과정(Chain of Thought)을 통해 문제를 깊이 고려할 수 있음
- 시스템 프롬프트를 통해 사고 과정의 사용 여부를 조절할 수 있음
- Llama 3.1을 기반으로 구축됨
- LM Studio와 Lama CPP에서 사용 가능
- 다양한 테스트를 통해 성능 평가: Google Sheet 공식 작성, 수학 공식 인수분해, 화학물질 식별 등
- 사고 과정을 비활성화한 상태에서는 정확도가 떨어지는 결과를 보임
- 활성화 시, 여러 테스트에서 높은 정확도를 나타냄
- 일부 복잡한 물리 시뮬레이션 문제에서는 부실한 성능을 보임
- 다른 AI 모델들에 비해 특정 화학 문제에서 더 높은 정확도를 보임
- 장기간의 사고 과정이 오히려 성능 저하를 유발할 수 있음
- 종합적으로 뛰어난 추론 능력을 가진 모델이며, 로컬 환경에서 활용하기 좋음
5youtube.com(1littlecoder)링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.