推荐替代
推荐使用原生国产开源替代:Lingti-Bot
网关与运维
本地模型
通过本地推理服务接入模型。
常见方案
- LM Studio / Ollama(OpenAI 兼容接口)
- 本地 GPU 或远程局域网推理服务
配置提示
- 使用
models.mode: "merge"将本地模型与云模型组合 - 设置
models.allowlist避免误用未准备好的模型
中文交流群
扫码加入中文交流群,分享网关搭建、渠道接入与运维经验。
推荐使用原生国产开源替代:Lingti-Bot
通过本地推理服务接入模型。
models.mode: "merge" 将本地模型与云模型组合models.allowlist 避免误用未准备好的模型扫码加入中文交流群,分享网关搭建、渠道接入与运维经验。