私有 AI 聊天客户端:本地优先的 Tavern Studio
私有 AI 聊天客户端应当让您对对话的存储位置、所使用的模型路由以及聊天数据的管理方式拥有更多控制。Tavern Studio 专为追求数据隐私而又不愿牺牲模型灵活性的用户打造,是一个本地优先的 AI 聊天工作台。
无论您是运行本地模型、连接云端 API、管理角色卡、开启多个聊天标签页、进行多分支对话,还是维护备份,Tavern Studio 都为您提供了一套专为隐私设计的结构化框架。虽然该系统针对高级工作流进行了优化,但您并不需要是角色扮演爱好者也能从这种架构中受益。
注意:Tavern Studio 是 SillyTavern 的独立替代品,与 SillyTavern 官方项目没有任何关联、认可或合作关系。
适用人群
- 隐私导向型用户:希望拥有私有 AI 对话并对本地优先数据拥有更多控制的用户。
- 开发者与测试人员:经常对比本地 LLM 应用与云端 API 聊天客户端性能及体验的用户。
- 作家与研究人员:需要同时维护和组织多个并行对话分支的专业人员。
- 重度用户:需要可靠的备份、恢复和数据迁移工作流的用户。
- 模型中立者:需要角色卡支持但不想被绑定在单一模型服务商的用户。
核心内容
AI 聊天客户端的“隐私性”不应只是一个营销口号——它取决于您的数据实际保存在哪里、模型如何路由以及备份如何管理。虽然运行本地模型有助于保护隐私,但云端 API 对于更大型的模型或特定任务来说依然非常有用。
Tavern Studio 支持这两条路径:
- 本地优先工作区:聊天记录、资产和配置保存在您的本地设备上。
- 原生本地推理:在支持的平台上直接运行 GGUF 模型。
- 云端服务商支持:通过 OpenAI-compatible API 和主流云端提供商连接。
- 高效对话管理:通过多标签页布局和多分支对话来整理您的思路。
- 丰富的资产管理:管理角色卡、世界设定/世界书 (Lorebooks) 和预设 (Presets)。
- 数据可移植性:支持备份、恢复,以及针对 SillyTavern 兼容资产的内置迁移导入器。
这为您带来了更多的选择权。您可以将敏感的草稿创作保留在离线的本地模型中,在需要时切换到云端 API,从而避免将聊天记录零散地遗留在各个不同的网页端工具中。
Tavern Studio 如何解决这一痛点
Tavern Studio 将您的聊天数据、模型和资产统一集成到一个连贯的工作区中。同一个对话可以轻松在本地 GGUF 模型、OpenAI-compatible API 端点或云端模型之间切换。此外,您的角色卡和提示词预设也可以在这些不同的模型路由之间复用。
多分支对话解决了在对话过程中丢失灵感的问题。当您想尝试不同的对话走向时,您无需删除或覆盖已有的回复,而是可以直接为聊天创建分支,尝试不同的提示词、修改消息,并对比不同模型的响应。
数据管理需要可靠的管理机制。Tavern Studio 提供了本地数据管理、备份与恢复机制。对于从 SillyTavern 迁移过来的用户,Tavern Studio 提供了内置导入器以辅助迁移:
- 如何导入:选择您的 SillyTavern 项目根目录(即包含
data文件夹的目录)。 - 扫描与预览:导入器会扫描该目录并显示可导入资产的预览,允许您选择要导入的用户和数据范围。
- 只读操作:导入过程是安全的只读操作,不会对您原有的 SillyTavern 文件夹中的任何文件进行修改、删除或移动。
- 支持导入的资产:支持导入角色卡 (Character Cards)、世界设定/世界书 (World Info / Lorebooks)、OpenAI 兼容的预设 (OpenAI-compatible presets)、API 密钥与配置,以及标准的 JSONL 聊天文件。
- API 映射:导入器会自动为支持的云端服务映射 API 配置,包括 OpenAI、Groq、Mistral、Perplexity、Cohere 和 xAI。
- 需手动设置的配置:部分配置在导入后需要手动设置,包括自定义端点、本地服务、反向代理、Azure OpenAI、Cloudflare Workers AI、自定义代理地址、账号 ID、缺失的 base URL 或缺失的默认模型。
- 局限性:群组聊天 (Group chats) 尚未完全支持,部分不支持的内容可能会在导入时被跳过。
- 导入后验证:导入完成后,建议手动检查角色列表、聊天记录、世界设定书、API 配置、头像和背景。如果导入的资源未立即显示,只需刷新页面或重启应用即可。
与通用 AI 聊天客户端的区别
通用的 AI 聊天客户端通常只关注简单的服务商切换和基础的聊天记录管理。Tavern Studio 则整合了原生本地模型支持、角色卡资产、世界书 (Lorebooks)、自定义预设以及支持分支的对话控制。
如果您只需要一个极简的界面来进行偶尔的云端 API 调用,那么普通的聊天客户端就足够了。但如果您需要私有的本地聊天、可复用的提示词资产、角色驱动的工作流以及灵活的模型路由,Tavern Studio 将是您的选择之一。
操作步骤
- 选择您的模型路线:决定当前对话是使用本地 GGUF 模型,还是连接云端 API。
- 配置本地模型:导入或下载您喜欢的 GGUF 模型以进行原生本地推理。
- 设置 API 连接:添加您的 API 密钥,配置 OpenAI-compatible API 端点。
- 使用标签页分类:为每个任务、角色、测试或写作线程新建一个聊天标签页。
- 应用预设:使用预设来保持一致的提示词行为和系统指令。
- 创建对话分支:在想要探索不同对话走向时创建分支,无需放弃当前的对话路径。
- 数据迁移:如果从 SillyTavern 迁移,请前往
Settings -> Data Management -> Import from SillyTavern。 - 数据保护:在进行设备更换、重大迁移或大规模数据导入前,备份您当前的工作区。
常见问题解答
什么是私有 AI 聊天客户端?
私有 AI 聊天客户端是一种赋予用户对聊天数据、模型路由和存储更多控制权的应用程序。Tavern Studio 通过本地优先设计、离线本地模型支持和手动备份功能实现了这一目标。
私有客户端支持云端 API 吗?
支持。隐私的核心在于拥有选择权。私有客户端允许您在需要完全保密时运行本地模型,同时在需要更强模型能力时,依然保留连接到 OpenAI、Claude、Gemini 或 OpenRouter 等云端服务商的选择。
Tavern Studio 可以离线运行吗?
可以。在支持的硬件平台上,Tavern Studio 支持通过 GGUF 模型进行原生本地 LLM 推理,让您在无需互联网连接的情况下与 AI 进行对话。
如果我不使用角色卡,Tavern Studio 还有用吗?
有用。虽然它完整支持角色卡,但 Tavern Studio 本质上可以作为一个通用的私有 AI 聊天客户端。您可以将其用于标准的文本对话、多标签页任务管理、分支对话以及本地数据备份。
多分支对话如何帮助提升隐私和工作流?
多分支对话允许您在不删除或覆盖历史记录的情况下探索多个对话走向。这对于创意写作、提示词工程(Prompt Engineering)以及对比不同模型对同一问题的回答非常实用。
我可以迁移我的 SillyTavern 数据吗?
可以。Tavern Studio 提供了内置的导入功能。您只需在导入界面中选择您的 SillyTavern 项目根目录,即可导入角色、世界书、预设、API 密钥和标准的 JSONL 聊天文件。该过程是只读的,不会修改您原有的 SillyTavern 文件。
下一步
- 了解关于 本地 LLM 应用 路径。
- 配置云端或本地端点,请参考 OpenAI-compatible API 设置。
- 查看 多分支 AI 对话 如何工作。
- 探索 本地优先数据。
- 如果您使用角色卡,请查看 酒馆替代品 页面。