SillyTavern (酒馆)
SillyTavern(简称 ST,中文俗称酒馆)是一个本地安装的用户界面,可让你与文本生成 LLM、图像生成引擎和 TTS 语音模型进行交互。我们的目标是让用户尽可能地发挥实用性并控制他们的 LLM 提示,让陡峭的学习曲线成为乐趣的一部分。
SillyTavern 是一个由 LLM 爱好者组成的热情项目,它将永远免费和开源。从 2023 年 2 月开始,SillyTavern 作为 TavernAI 1.2.8 的一个分支,现在拥有 100 多名贡献者和 2 年的独立开发经验,并继续作为精明的 AI 爱好者的领先软件。
为何要使用酒馆?
简而言之
SillyTavern 相比 ChatGPT/Claude/Gemini 等 LLM 服务的网页或 App 聊天界面,能够提供更高的灵活性。
ChatGPT 等现代人工智能语言模型已经变得非常强大,其中一些模型现在可以令人信服地模拟你创建的角色,以及你可以与之聊天、一起写小说等的角色。 例如,你可以告诉人工智能假装是来自中世纪日本的围棋教练 Jubei,它会采取相应的行动和反应。你可以与 Jubei 进行长时间的聊天,一起去酒吧,决定与武士打架,无论你能想象到什么,人工智能都会参与其中并围绕这些内容进行写作/反应,充当你的陪衬和地下城主。
SillyTavern 是一款可实现以下用途的应用程序:
- 它是一个处理与 AI 语言模型通信的用户界面。
- 它可以让你创建新的角色卡(提示),并轻松地在它们之间切换。
- 它允许你导入其他人创建的角色。
- 它将保留你与角色的聊天记录,允许你随时恢复、开始新聊天、查看旧聊天等。
- 在后台,它会为你准备 AI 提示。具体来说,它会发送系统提示(给 AI 的指令),让 AI 遵循某些规则,以提高响应准确性。
我可以在手机上使用酒馆吗?
-
iOS/iPadOS 设备因为缺少必要的 Node.js 环境无法运行整个 SillyTavern 应用程序,但由于它只是一个 Web 界面,你可以在家庭 Wi-Fi 上的另一台计算机上运行它,然后在移动浏览器中访问它。
-
对于 Android 用户,除了上述方法之外,你还可以使用 Termux 应用程序直接在手机上运行整个 SillyTavern,而无需使用 PC。(注意:Termux 安装不受官方支持,我们不能保证它会正常工作。)
Important
记得把下面各个部分的子页面看完。
安装
Quote
你也可以参考官方文档的说明。
杂鱼用伪一键部署脚本
连接到 LLM
SillyTavern 可以与两种类型的 AI 交互:
免费或付费的 Web 服务
例如 OpenAI、Claude 和 Gemini。
自行托管运行模型
Bug
因为文档作者财力不足,暂时没有和本地运行模型相关的建议。
取得角色卡/世界书
角色是您可以创建和管理的 AI 身份,用于塑造 AI 在对话中的角色。每个角色都有名字、个性和对话历史。您可以创建任意数量的角色,并随时在它们之间切换。
角色可用于单独聊天,或将多个角色添加到群聊中以让他们相互互动。
取得对话补全预设
“破限”有时也是指对话补全预设
大多数提供 LLM 的服务商为了安全起见,会在训练模型时让它们回避某些话题,或是过滤包含这些内容的输出。 但很多时候它们往往矫枉过正了。
有的时候,一个设计良好的对话补全预设可以缓解这些防御措施在聊天过程中带来的不便。 出于历史原因,有些人会把包含这部分内容的对话补全预设叫做“破限”。
但本文档中依然跟随酒馆官方的称呼,称它们为“对话补全预设”。
取得其它资源
例如附加世界书,正则表达式和快速回复脚本等等。