Skip to main content
공개 노트

구글 Gemma 4, 아이폰에서 오프라인 AI가 현실이 됐다

Views 9약 4분생성형 AI 활용
Summary

구글 Gemma 4, 아이폰에서 오프라인 AI가 현실이 됐다

구글 Gemma 4가 이제 아이폰에서 네이티브로 돌아간다는 소식이 나왔습니다. 핵심은 간단합니다. 인터넷 없이도, 클라우드에 데이터를 보내지 않고도, 아이폰 안에서 직접 AI 추론이 가능해졌다는 점입니다.1 이번 변화는 "모바일 AI는 결국 서버가 필요하다"는 고정관념을 흔듭니다.

예전엔 로컬 LLM을 쓰려면 노트북, GPU, 복잡한 설정이 필요했습니다. 그런데 이제는 아이폰과 안드로이드에서 Google AI Edge Gallery 앱으로 Gemma 4 E2B, E4B 같은 경량 모델을 내려받아 바로 실행할 수 있습니다.23 한마디로, AI가 드디어 포켓 속으로 들어온 셈이죠.

아이폰 오프라인 AI가 중요한 이유

가장 큰 변화는 프라이버시입니다. 클라우드형 AI는 질문, 메모, 이미지가 서버를 거쳐야 하는 경우가 많습니다. 반면 Gemma 4는 기기 안에서 처리되기 때문에 민감한 정보가 밖으로 나가지 않습니다.3 병원, 교육, 기업 문서처럼 조심해야 하는 환경에서 특히 매력적입니다.

오프라인 사용성도 큽니다. 비행기 안, 지하, 해외 로밍이 애매한 곳에서도 AI 채팅, 이미지 이해, 일부 음성 기능을 계속 쓸 수 있습니다.24 "AI는 인터넷이 있어야 한다"는 전제가 약해지는 순간입니다.

비용 구조도 달라집니다. 한 번 모델을 내려받으면 추론 자체는 추가 API 비용 없이 계속 돌릴 수 있습니다. 자주 쓰는 사용자에게는 꽤 현실적인 장점입니다.

Gemma 4가 아이폰에서 돌아가는 방식

Gemma 4는 구글의 오픈 모델 계열로, 클라우드의 Gemini와 달리 로컬 실행을 염두에 두고 설계됐습니다. 특히 E2B와 E4B는 모바일용으로 최적화된 버전입니다.5 구글은 이 모델들이 140개 이상의 언어를 지원하고, 텍스트뿐 아니라 이미지와 오디오까지 다루도록 설계했다고 밝혔습니다.25

실행 경로도 제법 명확합니다. 지금은 Google AI Edge Gallery가 iOS와 안드로이드 모두에서 공식 실험 앱 역할을 합니다.2 개발자라면 LiteRT-LM을 통해 앱 안에 직접 넣는 방향이 더 본격적인 선택지입니다.24

흥미로운 점은 "온디바이스 AI"라고 해서 무조건 NPU만 쓰는 건 아니라는 사실입니다. 실제 LLM 추론은 GPU와 메모리 구조의 영향을 크게 받습니다. 그래서 최신 아이폰일수록 더 안정적으로 돌아가고, 특히 iPhone 15 Pro 이상이 권장되는 이유도 여기에 있습니다.36

아이폰에서 실제로 어디까지 쓸 수 있을까

기대치는 현실적으로 잡는 게 좋습니다. 작은 모델은 꽤 유용합니다. 짧은 글 요약, 아이디어 정리, 이미지 설명, 간단한 질의응답, 제한된 자동화 같은 작업은 충분히 소화할 수 있습니다.26

여기서 재미있는 포인트가 하나 있습니다. Gemma 4는 단순 채팅을 넘어서 '에이전트 스킬'도 보여줍니다. 예를 들어 위키피디아 조회, 지도 연동, 플래시카드 생성, 간단한 시각화 같은 흐름을 기기 중심으로 실행할 수 있습니다.27 모바일 AI가 "대답만 하는 챗봇"에서 "작업을 이어서 처리하는 도구"로 넘어가고 있는 셈이죠.

물론 한계도 분명합니다. 긴 PDF, 깊은 추론, 대용량 문맥, 최고 수준의 정확도가 필요한 작업은 여전히 클라우드 AI가 유리합니다. 로컬 AI는 빠르고 사적인 대신, 아직은 범위가 좁은 "작은 비서"에 더 가깝습니다.3

시사점

이번 Gemma 4 아이폰 지원은 단순한 앱 업데이트가 아닙니다. AI가 서버에서만 사는 시대에서, 스마트폰 안으로 내려오는 전환점에 가깝습니다. 특히 프라이버시, 오프라인 사용, 비용 절감이라는 세 가지 키워드가 분명합니다.

실제로 써보고 싶다면 욕심내지 말고 작은 모델부터 시작하는 게 좋습니다. E2B나 E4B처럼 모바일용 모델로 짧은 프롬프트를 테스트해 보세요. "내 폰에서 AI가 얼마나 쓸 만한가?"를 확인하는 가장 빠른 방법입니다. 앞으로의 승부는 모델 크기보다, 얼마나 자연스럽게 기기 안에서 잘 돌아가느냐에 달려 있을지도 모릅니다.

참고

1Google Gemma 4 Runs Natively on iPhone with Full Offline AI Inference

2Bring state-of-the-art agentic skills to the edge with Gemma 4

3Running Gemma 4 on Your iPhone

4Run Gemma 4 on Mobile

5Gemma 4: Byte for byte, the most capable open models

6How to use Gemma 4 on iPhone and Android using Google AI Edge Gallery app: Step-by-step guide, things you can do and more

7Google's Gemma 4 puts free agentic AI on your phone and no data ever leaves the device

이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.

틸노트는 사용자가 AI를 활용해 노트를 쉽게 작성하거나 편집할 수 있는 서비스입니다.

AI 스퀘어 단톡방에 함께해요

AI 활용과 틸노트 사용 팁을 나누는 오픈채팅방입니다. 입장 비밀번호는 tilnote입니다.

참여하기