Google AI, SQLite에서 제로데이 취약점 발견

구글의 첫 AI 기반 제로데이 취약점 발견

배경

2024년 10월, 구글은 인공지능(AI) 기반의 새로운 도구인 Big Sleep을 통해 SQLite 오픈 소스 데이터베이스 엔진에서 제로데이 취약점을 발견했다고 발표했습니다. 이번 발견은 AI 에이전트가 널리 사용되는 실제 소프트웨어에서 아직 알려지지 않은 exploitable 메모리 안전 취약점을 처음으로 찾아낸 사례로 기록되었습니다.

Big Sleep 프로젝트

Big Sleep은 구글의 Project Zero와 Google DeepMind가 협력하여 개발한 대규모 언어 모델(LLM) 지원 프레임워크입니다. 이 프로젝트는 2024년 6월에 발표된 Project Naptime의 발전형으로, AI를 활용하여 보안 취약점을 자동으로 탐지하는 것이 목표입니다.

발견된 취약점

이번에 발견된 취약점은 SQLite에서 발견된 스택 버퍼 언더플로우(stack buffer underflow)로, 메모리 버퍼의 시작 이전 위치를 참조할 때 발생하는 문제입니다. 이로 인해 소프트웨어가 충돌하거나 임의 코드 실행이 가능합니다.

해결 과정

Big Sleep 팀은 SQLite의 개발 분기에서 이 취약점을 발견하고, 즉시 SQLite 개발팀에 보고하여 같은 날 수정되었습니다. 이로 인해 사용자들에게 잠재적인 위험이 미치기 전에 문제를 해결할 수 있었습니다.

AI 기반 취약점 탐지의 가능성

구글은 Big Sleep의 작업이 큰 방어적 잠재력을 가지고 있다고 강조합니다. 이 작업은 소프트웨어가 공식 출시되기 전에 취약점을 발견할 수 있는 가능성을 보여주며, 이를 통해 공격자들이 취약점을 악용할 기회를 차단할 수 있습니다. AI 에이전트를 활용한 이런 접근 방식은 기존의 퍼징(fuzzing) 기법이 놓치는 복잡한 취약점을 찾아내는 데 도움이 될 수 있습니다.

연구 단계와 향후 계획

Big Sleep 프로젝트는 여전히 연구 단계에 있으며, 현재로서는 소규모 프로그램에 대해 테스트를 진행하고 있습니다. 구글은 향후 AI가 수동 분석보다 더 효율적으로 취약점을 찾아내고, 높은 품질의 원인 분석과 문제 수정이 가능하도록 발전할 것이라고 기대하고 있습니다.

결론

이번 구글의 발표는 AI가 보안 연구에서 어떤 역할을 할 수 있는지를 보여주는 중요한 사례입니다. AI를 활용한 취약점 탐지는 소프트웨어 개발 및 보안 분야에서 새로운 지평을 열 것으로 기대됩니다. 앞으로도 AI와 같은 첨단 기술의 발전을 통해 더욱 안전한 디지털 환경이 조성되길 바랍니다.