Code Llama - Llama2에 기반한 코드 생성 AI 모델 공개 (feat: Meta)

코드 라마

메타에서 소문으로 이야기 되던 Code Llama를 공개했습니다. Llama 2를 코드에 특화한 모델입니다.

코드라마는 기본 모델, instruct model (CODE LLAMA-INSTRUCT), 파이썬 특화 모델 (CODE LLAMA-PYTHON)이 있습니다. 각 모델마다 7B, 13B, 34B 파라미터가 존재합니다.

성능은 다음과 같습니다.

일반 Code Llama 34B가 48.8로 GPT-3.5와 비슷하네요. MBPP는 instruct 버전이 제일 높습니다. MBPP는 Mostly Basic Python Programming 의 뜻으로 설명에 근거해서 코드를 작성하는 모델의 능력을 측정하는 테스트입니다.

다른 오픈소스 모델에 비해서는 제일 높은 성능을 보여주는 군요.

역시 오픈 접근 방식으로 코드와 모델을 공개했습니다. 아마 코드 라마를 사용한 제품들이 곧 많이 나올 것 같습니다.

메타의 플렉스는 참 놀랍네요. AI나 인재에 투자 진짜 많이 했을 텐데 이런 식으로 풀어버리다니... 과연 메타의 오픈 전략이 어떻게 될지 지켜보고 싶네요.

참고 : Introducing Code Llama, a state-of-the-art large language model for coding (메타 블로그)