Android 本地 LLM 應用程式：Tavern Studio 與 LiteRT
Android 本地 LLM 應用程式必須說清限制。端側 AI 對隱私和離線可用性有價值，但手機性能受模型大小、記憶體、加速支援和電量影響很大。
Tavern Studio 的 Android 本地路線面向 LiteRT 方向，同時保留角色卡、世界書、預設和聊天工作流。
適合誰
- 想在手機上做私有 AI 聊天的用戶。
- 在 Android 上導入和管理角色卡的人。
- 希望離開電腦後繼續輕量聊天的創作者。
- 想比較本地模型和雲端 API 的用戶。
核心內容
Google 將 LiteRT 定位為高性能端側 AI 框架。對 Tavern Studio 來說，實際意義是：Android 不只是雲端 API 客戶端，也可以擁有本地模型路線。
這不代表所有桌面模型都能在手機上流暢運行。應選擇更小的模型，控制上下文，並接受雲端 API 在大任務上仍然有用。
Tavern Studio 如何處理
Tavern Studio 儘量保持 Android 與桌面的一致：本地資料、角色卡、世界書、預設和聊天都在同一個應用程式裡。行動裝置可以通過系統分享/導入入口處理支援的角色卡文件。
本地模型路線是模型設置的一部分，而不是另一個產品。
操作步驟
- 在 Android 上安裝 Tavern Studio。
- 導入或選擇支援的本地模型路線。
- 選擇輕量預設。
- 打開或導入角色卡。
- 從短回復和較小上下文開始。
- 設備穩定後再逐步提高設置。
- 需要大模型時切雲端 API。
常見問題
Tavern Studio 支援 Android 本地 LLM 嗎？
支援。Android 本地模型是 Tavern Studio 的產品方向之一。
所有 GGUF 都能在 Android 上跑嗎？
不能。移動硬體和運行時格式限制很重要。
手機本地聊天更私有嗎？
本地推理可以讓模型處理留在設備上，但云端 API、備份和導入來源仍取決於你的設置。
Android 能用角色卡嗎？
可以。Tavern Studio 支援 Android 角色卡工作流。
Android 還需要雲 API 嗎？
需要時仍然有價值，尤其是大模型或複雜任務。
下一步
- 查看私有 AI 聊天客戶端。
- 對比Windows 本地 LLM。
- 管理角色卡。