Gemma 4 iPhone에서 실행하기

• 완전한 프라이버시 — 데이터가 기기 밖으로 나가지 않음
• 완전 오프라인 작동, 인터넷 불필요
• API 비용 제로 — 다운로드 후 무료 실행
• A17 Pro / A18 칩에서 1초 미만 응답

E2B 모델이 iPhone의 최우선 추천입니다. 다운로드 크기 약 4.6GB로 iPhone 저장공간에 여유롭게 들어가며, 4비트 양자화 후 활성 RAM이 약 2.5GB — iPhone 15/16 시리즈의 메모리 예산 내에 충분히 들어옵니다.

공식 방법. Google AI Edge는 Metal GPU 가속으로 Gemma 4를 실행하는 네이티브 Swift 패키지를 제공합니다.

• Xcode 프로젝트에 Google AI Edge Swift 패키지 추가
• TensorFlow Lite / LiteRT 형식의 E2B 모델 가중치 다운로드
• 세션을 초기화하고 generate() 호출

Package.swift

// Package.swift
dependencies: [
    .package(
        url: "https://github.com/google/generative-ai-swift",
        from: "0.5.0"
    )
]

Swift Inference

import GoogleAIEdge

// Load E2B model (place .task file in app bundle)
let modelPath = Bundle.main.path(forResource: "gemma4-e2b-it-q4", ofType: "task")!
let session = try LlmInference(modelPath: modelPath)

// Generate response
let response = try await session.generateResponse(
    inputText: "Explain quantum computing in simple terms."
)
print(response)

기성 iOS 앱을 선호하는 사용자를 위한 방법. App Store의 LLM Farm과 Offline Chat은 모두 llama.cpp를 기반으로 하며 Gemma GGUF 모델을 지원합니다. Hugging Face에서 Q4_K_M 양자화 GGUF를 다운로드하여 앱에서 가져오면 바로 채팅 시작. 코드 불필요.

이미 Mac에서 Ollama를 실행 중이신가요? 로컬 네트워크에 API를 노출하고 OpenAI 호환 앱(Enchanted, OllamaChat 등)으로 iPhone에서 연결하세요. Mac에서 OLLAMA_HOST=0.0.0.0을 설정한 후 앱을 http://Mac-IP:11434로 지정하면 됩니다.

# On your Mac — allow LAN access
export OLLAMA_HOST=0.0.0.0
ollama serve

# Pull Gemma 4 E2B if not already done
ollama pull gemma4:e2b

# iPhone app settings:
# Base URL: http://192.168.x.x:11434  (your Mac's local IP)
# Model: gemma4:e2b

구형 iPhone도 CPU 추론으로 E2B 모델을 실행할 수 있지만 속도가 느립니다(초당 2–4 토큰). A17 Pro 칩이 탑재된 iPhone 15 Pro 이상은 Metal GPU 가속이 활성화되어 실용적인 실시간 속도를 제공합니다.

Gemma 4 E2B Q4_K_M, 512 토큰 프롬프트, Metal GPU 사용 시 토큰/초. CPU 전용 폴백은 3–5배 느립니다.

• Q4_K_M 양자화 사용 — 모바일에서 최고의 품질/속도 균형
• 추론 전에 다른 앱을 닫아 RAM 확보
• 가장 빠른 응답을 위해 프롬프트를 2K 토큰 이내로 유지
• 장시간 사용 시 충전기 연결 — 추론은 GPU를 집중적으로 사용

• Gemma 4 설치 가이드 — 데스크탑/서버 설치
• Gemma 4 Android 버전 — 전체 Android 가이드
• Gemma 4 로컬 배포 — 고급 옵션