메타 Llama: 오픈 생성 AI 모델에 대한 모든 것
- 메타는 자체적으로 개방형 생성 AI 모델인 라마(Llama)를 운영하고 있음.
- 다른 주요 모델들과는 달리, 라마는 개발자들이 자유롭게 다운로드 및 사용할 수 있음.
- 메타는 AWS, 구글 클라우드, 마이크로소프트 애저와 같은 클라우드 제공업체와 협력하여 라마의 클라우드 호스팅 버전을 제공함.
- 라마는 다양한 기능을 가진 모델 군으로 구성됨:
- Llama 8B, Llama 70B, Llama 405B
- 최신 버전은 Llama 3.1 8B, Llama 3.1 70B, Llama 3.1 405B로, 2024년 7월 출시됨.
- Llama 3.1 8B와 Llama 3.1 70B는 소형 및 중형 모델로, 노트북이나 서버에서 실행 가능하며 빠름.
- Llama 3.1 405B는 대규모 모델로 데이터 센터 하드웨어가 필요함.
- 모든 라마 모델들은 128,000개의 토큰 컨텍스트 윈도우를 가짐.
- 라마는 문서 요약, 기본 수학 질문 응답, 텍스트 분석 등의 작업을 수행할 수 있으며 8개 언어를 지원함.
- 라마 모델들은 타사 앱 및 툴을 사용할 수 있게 구성 가능함.
- 라마는 메타 AI 챗봇으로 페이스북 메신저, 왓츠앱, 인스타그램 등에서 사용 가능.
- 개발자들은 라마를 다운로드, 사용 또는 클라우드 플랫폼에서 미세 조정할 수 있음.
- 메타는 라마의 “안전한” 사용을 돕기 위해 여러 도구도 제공함:
- Llama Guard: 문제성 콘텐츠 감지
- Prompt Guard: 프롬프트 주입 공격 방지
- CyberSecEval: 사이버 보안 위험 평가
- 라마의 한계와 위험 요소:
- 저작권 문제로 인해 법적 문제 발생 가능성 있음.
- 생성된 코드의 버그나 보안 문제 발생 가능성 있음.
- 항상 인간 전문가가 AI가 생성한 코드를 검토하는 것이 필요함.
4techcrunch.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.