Gemma 4 iPhone で動かす

• 完全なプライバシー — データはデバイスの外に出ない
• 完全オフライン動作、インターネット不要
• API費用ゼロ — ダウンロード後は無料で実行
• A17 Pro / A18チップで1秒未満のレスポンス

E2BモデルがiPhoneの最有力候補です。ダウンロードサイズ約4.6GBでiPhoneストレージに余裕で収まり、4ビット量化後のアクティブRAMは約2.5GB — iPhone 15/16シリーズのメモリ予算内に十分収まります。

公式の方法。Google AI EdgeはMetal GPUアクセラレーションでGemma 4を動かすネイティブSwiftパッケージを提供しています。

• XcodeプロジェクトにGoogle AI Edge Swiftパッケージを追加
• TensorFlow Lite / LiteRT形式のE2Bモデルウェイトをダウンロード
• セッションを初期化してgenerate()を呼び出す

Package.swift

// Package.swift
dependencies: [
    .package(
        url: "https://github.com/google/generative-ai-swift",
        from: "0.5.0"
    )
]

Swift Inference

import GoogleAIEdge

// Load E2B model (place .task file in app bundle)
let modelPath = Bundle.main.path(forResource: "gemma4-e2b-it-q4", ofType: "task")!
let session = try LlmInference(modelPath: modelPath)

// Generate response
let response = try await session.generateResponse(
    inputText: "Explain quantum computing in simple terms."
)
print(response)

既製のiOSアプリを好むユーザー向け。App StoreのLLM FarmとOffline Chatはどちらもllama.cppをベースにしており、Gemma GGUFモデルをサポートしています。Hugging FaceからQ4_K_M量化GGUFをダウンロードし、アプリにインポートするだけでチャット開始。コード不要。

すでにMacでOllamaを動かしていますか？ローカルネットワークにAPIを公開し、OpenAI互換アプリ（EnchantedやOllamaChatなど）からiPhoneで接続できます。MacでOLLAMA_HOST=0.0.0.0を設定し、アプリをhttp://あなたのMacのIP:11434に向けてください。

# On your Mac — allow LAN access
export OLLAMA_HOST=0.0.0.0
ollama serve

# Pull Gemma 4 E2B if not already done
ollama pull gemma4:e2b

# iPhone app settings:
# Base URL: http://192.168.x.x:11434  (your Mac's local IP)
# Model: gemma4:e2b

旧型iPhoneでもCPU推論でE2Bモデルを動かせますが速度は遅い（毎秒2〜4トークン）。iPhone 15 Pro以降でA17 Proチップを搭載したモデルはMetal GPUアクセラレーションが有効になり、実用的なリアルタイム速度を実現します。

Gemma 4 E2B Q4_K_M、512トークンプロンプト、Metal GPU使用時のトークン/秒。CPU専用フォールバックは3〜5倍遅くなります。

• Q4_K_M量化を使用 — モバイルで最高の品質/速度バランス
• 推論前に他のアプリを閉じてRAMを解放
• 最速レスポンスのためプロンプトを2Kトークン以内に収める
• 長時間使用時は充電器を接続 — 推論はGPUを多用

• Gemma 4 インストールガイド — デスクトップ/サーバー設定
• Gemma 4 Android版 — 完全Androidガイド
• Gemma 4 ローカルデプロイ — 高度なオプション