跳到正文
80aj.com· Toy·· 7 小时前AI 评分55

Magpie+Tailscale 组网方案:服务器与本机统一调用大模型 API

AI 导读

Linux.do 社区用户分享用 magpie 配合 Tailscale 实现服务器与本机统一调用大模型 API 的方案。做法是在本机运行 magpie 网关并配置模型与供应商,通过 Tailscale 组建虚拟网络,再在服务器 providers 配置中填入网关信息完成接入。配置后服务器端的模型请求和 token 消耗可在本机网关界面实时显示,模型增删与供应商切换只需在本机改一次。

来源:80aj.com · 80aj.com