随手收集的一些资料、信息、图文等。

本地部署LM Studio+酒馆免API教程,100%成功

步骤1:安装 LM Studio(模型运行端)

  • 官网:https://lmstudio.ai/
  • 下载最新版(选Windows版,.exe安装包)
  • 安装完成后打开


如果你的对话有回应了,恭喜你,你最难的一步已经完成了,剩下的更简单。
步骤2:安装SillyTavernLauncher1.2.10懒人包

  • 夸克:[color=rgba(6, 10, 38, 0.9)][backcolor=rgba(255, 255, 255, 0.5)]链接:https://pan.quark.cn/s/b042bcae4901?pwd=qdzn    提取码:qdzn
  • 解压到本地,不要有中文的目录
  • 安装完成后打开SillyTavernLauncher.exe


先安装,后启动。

当你看到这个界面,恭喜你,你的酒馆也成功运行了。
现在开始调用本地API。回到LM Studio。

复制你的API地址,让我们回到酒馆。

点开酒馆上面图标类似插头的那个。
API链接配置-默认,不需要改变
API-选择聊天补全
聊天补全来源-自定义(兼容OpenAI)
自定义端点(基础 URL)-粘贴你的LM本地地址
自定义 API 密钥 -不填
输入模型名和可用模型-会自动识别你加载的模型
当下面的那个红点变成绿色,说明你已经链接上了本地API,可以正常玩耍了。

安装插件【酒馆助手】:https://gitlab.com/novi028/JS-Slash-Runner.git

安装插件【提示词模版】:https://codeberg.org/zonde306/ST-Prompt-Template.git

赞(1)
个人小站,文章收集不易,转载请注明来源~!感谢!收集的一些乱七八糟的资料 » 本地部署LM Studio+酒馆免API教程,100%成功
分享到