Skip to main content
공개 노트

크롬의 Gemini Nano, 끄기 전에 알아야 할 로컬 AI의 손익계산서

Views 280약 6분생성형 AI 활용
Summary

크롬의 Gemini Nano, 끄기 전에 알아야 할 로컬 AI의 손익계산서

크롬이 요약하고, 글을 고치고, 번역하고, 간단한 추론까지 브라우저 안에서 처리한다면 편할까요, 부담스러울까요? 이제 질문은 "크롬이 AI를 할 수 있나"가 아니라 "내 브라우저가 AI 실행 환경이 되어도 괜찮은가"에 가깝습니다.

최근 논란의 핵심은 Chrome이 Gemini Nano 기반 온디바이스 AI 모델을 내려받아 일부 기능에 활용한다는 점입니다. 이 모델은 weights.bin 같은 대용량 파일로 저장될 수 있고, 사용자는 이를 켤지 끌지, 개발자는 이 위에 기능을 만들지 판단해야 합니다.

Gemini Nano는 '챗봇'보다 로컬 컴퓨팅 계층에 가깝다

Gemini Nano in Chrome은 Gemini 웹앱과 다릅니다. Gemini 웹앱이나 Chrome의 Gemini 어시스턴트는 페이지 맥락을 활용해 질문에 답하는 사용자-facing 기능에 가깝고, 상당 부분은 Google의 클라우드 서비스와 연결됩니다.1

반면 Gemini Nano는 브라우저가 관리하는 로컬 모델입니다. Chrome 개발자 문서는 웹앱이 브라우저 내장 AI API를 통해 번역, 요약, 작성, 재작성 같은 작업을 수행할 수 있다고 설명합니다.2 Hugging Face의 실험 예제처럼 Chrome Dev/Canary에서 Prompt API for Gemini Nano와 optimization-guide-on-device-model 플래그를 켜고 ai.createTextSession() 같은 API로 로컬 추론을 호출할 수도 있습니다.3

이 차이는 실무적으로 큽니다. Gemini Nano는 "더 작은 ChatGPT"라기보다 브라우저 안에 들어온 경량 AI 런타임입니다. 간단한 요약, 폼 문장 다듬기, 오프라인 보조, 민감한 텍스트의 로컬 처리처럼 빠르고 짧은 작업에는 맞습니다. 하지만 복잡한 분석, 최신 정보 검색, 긴 문서 추론, 고품질 코드 생성은 여전히 클라우드 모델이 유리합니다.

로컬 AI, 확장 프로그램, 클라우드 API 중 무엇을 써야 하나

선택 기준은 의외로 단순합니다.

개인정보가 가장 중요하고 작업이 짧다면 로컬 Gemini Nano가 유리합니다. 입력을 서버로 보내지 않고 처리할 수 있기 때문입니다. 다만 모델 품질과 기능은 제한적이고, 사용자의 기기 성능과 Chrome 지원 여부에 의존합니다.

빠른 사용자 경험과 배포 편의가 중요하다면 Chrome 내장 AI API가 매력적입니다. 웹앱이 별도 모델을 번들링하지 않아도 브라우저 제공 모델을 호출할 수 있기 때문입니다. 하지만 API는 아직 실험적 성격이 강하고, 버전·플래그·지역·기기 조건에 따라 동작이 달라질 수 있습니다.

확장 프로그램은 브라우저 UI에 깊게 붙일 수 있지만, 권한과 신뢰 문제가 따라옵니다. Chrome 웹스토어에는 Gemini Nano와 연동하는 확장 프로그램도 있으며, 일부는 오프라인 접근을 장점으로 내세웁니다.4 그러나 확장 프로그램은 개발자 신뢰도, 권한 범위, 업데이트 정책을 별도로 검토해야 합니다.

클라우드 API는 품질과 제어권이 가장 큽니다. 대신 비용, 지연시간, 개인정보 처리 계약, 네트워크 의존성이 따라옵니다. 제품팀이라면 "모든 AI를 로컬로"가 아니라 "로컬로 충분한 작업만 로컬로"가 현실적인 기준입니다.

숨은 비용은 저장공간과 '자동 관리'에 있다

논란이 커진 이유는 모델 자체보다 설치 방식입니다. 여러 매체와 연구자 보고에 따르면 Chrome 프로필 내부의 OptGuideOnDeviceModel 폴더에 약 4GB 안팎의 weights.bin 파일이 저장될 수 있습니다.5 일부 사용자는 명확한 사전 안내 없이 대용량 모델이 내려받아졌다고 문제를 제기했습니다.

Google 측 설명에 따르면 Gemini Nano는 2024년부터 Chrome에 제공된 온디바이스 모델이며, 사기 탐지 같은 보안 기능과 개발자 API를 클라우드 전송 없이 지원하기 위한 것입니다. 또한 리소스가 부족하면 모델이 제거될 수 있고, 2월부터 설정에서 끄고 제거하는 기능을 순차 제공했다고 밝혔습니다.6

여기서 균형 있게 봐야 합니다. 로컬 AI는 개인정보 측면에서 클라우드보다 나을 수 있습니다. 하지만 4GB 모델을 브라우저가 백그라운드에서 관리한다면, 사용자는 저장공간·네트워크·배터리·업데이트 정책까지 함께 감수합니다. 브라우저가 문서 뷰어에서 AI 런타임으로 바뀌면, "기능 추가"가 아니라 "내 컴퓨터 자원 사용 방식의 변화"가 됩니다.

Gemini Nano를 끄는 방법: 먼저 토글, 없으면 플래그

끄고 싶다면 가장 쉬운 경로는 Chrome 설정입니다.

Chrome에서 설정 > 시스템으로 이동해 On-device AI 옵션을 끄면 됩니다. 이 옵션을 끄면 관련 모델 다운로드와 업데이트가 중단되고, 설치된 모델도 제거될 수 있습니다.7 다만 이 토글이 모든 사용자에게 보이는 것은 아니라는 보고가 있습니다.

토글이 없다면 chrome://flags에서 다음 항목을 찾아 비활성화한 뒤 Chrome을 재시작합니다.

  • #optimization-guide-on-device-model

  • #prompt-api-for-gemini-nano

그다음 Chrome을 완전히 종료하고 OptGuideOnDeviceModel 폴더를 삭제하면 저장공간을 회수할 수 있습니다. Windows에서는 보통 %LOCALAPPDATA%GoogleChromeUser Data 아래, macOS에서는 ~/Library/Application Support/Google/Chrome/ 아래에서 찾습니다.7

주의할 점은 단순히 파일만 지우면 다시 내려받아질 수 있다는 것입니다. 먼저 기능을 끄고, 그다음 폴더를 삭제하는 순서가 안전합니다.

지금 써야 할 사람, 기다려야 할 사람

일반 사용자는 저장공간이 넉넉하고 Chrome의 글쓰기 보조·사기 탐지·요약 기능을 원한다면 켜둬도 됩니다. 반대로 128GB·256GB 노트북을 쓰거나, 브라우저가 대용량 모델을 자동 관리하는 것이 불편하다면 꺼두는 편이 합리적입니다. Wired가 이 이슈를 "Chrome에서 Gemini를 비활성화하는 방법"으로 다룬 것도, 기술 논쟁이 결국 사용자 선택권 문제로 이어졌기 때문입니다.8

개발자는 지금 실험할 가치는 있습니다. 다만 제품 핵심 기능을 Gemini Nano에 전적으로 의존하기에는 아직 조건부 요소가 많습니다. Prompt API, 모델 제공 여부, 브라우저 버전, 사용자의 설정 상태가 모두 변수입니다.

결론은 간단합니다. Gemini Nano는 무조건 위험한 파일도, 무조건 써야 할 혁신도 아닙니다. 브라우저 안에 들어온 새로운 로컬 AI 계층입니다. 판단 기준은 "AI가 있으면 멋진가"가 아니라 "이 작업이 로컬에서 처리될 때 개인정보, 속도, 비용, 품질의 균형이 실제로 좋아지는가"여야 합니다.

참고

1Chrome의 Gemini - 브라우저에서 바로 사용할 수 있는 AI 어시스턴트

2Chrome의 인공지능  |  AI on Chrome  |  Chrome for Developers

3How to run Gemini Nano locally in your browser

4Gemini Chrome Extension - Chrome 웹 스토어

5Google Chrome silently installs 4GB Gemini Nano AI model on user devices

6Chrome is quietly downloading a 4GB AI file without telling you, says researcher

7How to remove Gemini Nano from Chrome (and free up 4GB of storage)

8How to Disable Google's Gemini in Chrome

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기