Gemma3 – 현재 단일 GPU에 적합한 가장 강력한 모델

• 제목: "Gemma3 – 단일 GPU에 적합한 현재 가장 강력한 모델"
• Gemma3 모델은 Google이 개발한 경량화된 모델로 Gemini 기술을 기반으로 함.
• 멀티모달 모델로 텍스트와 이미지를 처리하며, 128K 컨텍스트 윈도우와 140개 이상의 언어를 지원.
• 1B, 4B, 12B, 27B 파라미터 크기로 제공되며, 질문 응답, 요약, 논리적 사고 등의 작업에 뛰어남.
• Gemma3 모델은 Ollama 0.6 이상의 버전이 필요.

모델 종류

• 텍스트 전용 모델
  • 1B 파라미터 모델 (32k 컨텍스트 윈도우)
• 멀티모달 모델 (비전 포함)
  • 4B 파라미터 모델 (128k 컨텍스트 윈도우)
  • 12B 파라미터 모델 (128k 컨텍스트 윈도우)
  • 27B 파라미터 모델 (128k 컨텍스트 윈도우)

성능 평가

• 다양한 데이터셋과 메트릭을 통해 평가됨.

주요 평가 결과

• 질의 응답, 논리, 코딩 능력에서 우수한 성과

  • HellaSwag, BoolQ, PIQA, SocialIQA 등 주요 벤치마크에서 좋은 성적.

• 다국어 지원 능력

  • MGSM, Global-MMLU-Lite 등 다국어 벤치마크에서 높은 점수.

• 멀티모달 지원 능력

  • COCOcap, DocVQA, InfoVQA 등에서 다중 모달리티 처리 능력 확인.

• 전체적으로, 다양한 측면에서 뛰어난 성능을 보이며 자원 제약이 있는 장치에도 배포 가능.