Altar-1: 민감한 보안 데이터를 내부에 두는 오픈 웨이트 AI
보안 AI를 선택할 때는 성능뿐 아니라 데이터가 어디에서 처리되는지도 중요하다. 소스 코드와 취약점 정보는 외부 AI 서비스로 보내기 어려운 핵심 자산이기 때문이다.
Aikido Security가 공개한 Altar-1은 이러한 제약을 고려한 오픈 웨이트 보안 모델이다. 온프레미스와 에어갭 네트워크에서 작동하는 자율 침투 테스트 장비 Aikido Machine에 사용되며, 가중치는 Hugging Face에 공개돼 vLLM에서 실행할 수 있다.1
7,530억 파라미터 모델을 어떻게 줄였나
Altar-1은 처음부터 새로 학습한 모델이 아니라 Z.AI의 GLM-5.3을 압축한 결과물이다. GLM-5.3은 7,530억 파라미터 규모의 혼합 전문가(MoE) 모델이다.2
MoE는 여러 전문 신경망 가운데 입력 처리에 필요한 일부만 활성화하는 구조다. GLM-5.3의 각 전문가 계층에는 256개의 라우팅 전문가가 있지만, 라우터는 토큰마다 8개만 선택한다.1
Altar-1은 각 계층에서 기존 전문가 256개 중 168개를 유지했다. 계층마다 88개, 비율로는 34.4%를 제거한 것이다. 다만 축소된 전문가 풀에서도 토큰당 8개를 선택하는 방식은 그대로 유지했다.1
여기에 4비트 양자화를 적용해 저장 크기를 BF16 기준 1.51TB에서 328GB로 낮췄다.1 즉, Altar-1의 핵심은 모든 계산 방식을 바꾸는 것이 아니라 보안 작업에 필요한 전문가를 선별하고 가중치 표현을 줄여 배치 부담을 낮춘 데 있다.
중요한 것은 얼마나 줄였느냐보다 무엇을 남겼느냐
MoE 모델에서 전문가를 제거할 때는 개수보다 선택 기준이 중요하다. 잘못된 전문가를 제거하면 코딩 능력은 유지되더라도 특정 언어 이해나 도구 사용 능력이 크게 떨어질 수 있다.
Aikido Security는 내부 침투 테스트 기록과 다국어 자료를 활용해 각 전문가의 기여도를 평가했다.1 이는 새로운 보안 지식을 추가로 학습했다기보다, 기존 GLM-5.3이 가진 능력 가운데 보안 업무에 유용한 부분을 선별한 과정으로 이해할 수 있다.
내부 벤치마크에서 Altar-1의 평균 재현율은 60.4%였고, 양자화만 적용한 GLM-5.3은 61.5%였다. 두 모델 모두 알려진 취약점 32개 가운데 23개를 한 번 이상 발견했다.1
다만 이 결과는 알려진 취약점을 다시 탐지하는 시험에 한정된다. 전체 코드베이스 탐색이나 실제 공격 검증 능력까지 입증한 것으로 확대 해석해서는 안 된다.2 도입을 검토할 때는 평균 점수뿐 아니라 조직이 실제로 수행하려는 보안 작업과 유사한 조건에서 검증해야 한다.
온프레미스 보안 AI를 평가하는 기준
Altar-1의 의미는 단순히 대형 모델의 크기를 줄였다는 데 있지 않다. 민감한 데이터를 외부로 보내지 않으면서 보안 AI를 운영할 수 있도록 배치 가능성과 업무별 성능 보존을 함께 고려했다는 점이 중요하다.
실제 도입 판단에서는 다음 항목을 우선 확인할 필요가 있다.
모델이 조직의 온프레미스 또는 에어갭 환경에서 실행되는가
필요한 GPU와 저장 공간을 감당할 수 있는가
대상 언어, 코드베이스, 도구 사용 능력이 유지되는가
벤치마크가 실제 수행할 보안 업무를 반영하는가
가중치와 실행 환경을 조직이 직접 통제할 수 있는가
Altar-1의 권장 구성은 Nvidia H200 GPU 4장이므로, 모델 크기가 줄었다는 사실만으로 운영 비용이 낮다고 단정해서는 안 된다.1 하드웨어 요구량과 실제 업무 성능을 함께 평가해야 한다.
요약: Altar-1이 보여주는 선택 기준
Altar-1은 범용 최고 성능보다 데이터 통제, 내부 배치 가능성, 보안 업무에 필요한 능력의 보존을 우선한 모델이다. 온프레미스 AI를 검토하는 조직이라면 전체 파라미터 수보다 실제 장비 요구량, 데이터 경계, 대상 업무에서의 검증 결과를 먼저 확인해야 한다.
1Introducing Aikido Altar: the model that makes sovereign security intelligence possible
2Aikido ships Altar-1, a 328 GB GLM-5.3 prune for on-prem pentesting
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.