OmniProxy 手册

接入第三方 AI 工具

只要你使用的聊天、编程或 Agent 工具支持自定义服务地址与兼容协议,就可以接入 OmniProxy。接入前请先确认两点:第一,工具允许修改服务地址(Base URL),而不只是允许改模型名字;第二,你已经在 OmniProxy 内完成了目标来源与模型的调用测试。

1. 找到工具中的三项核心配置

不同工具的设置界面叫法略有差异,通常需要填写以下三个字段:

工具中的常见字段名从哪里获取及填写要求
Base URL / Endpoint / 服务地址从 OmniProxy 监控台复制网关地址。根据工具官方文档说明,决定是否保留末尾的 /v1。
API Key / 认证密钥填写 OmniProxy 监控台生成的代理密钥(切勿填入上游云端供应商的 API Key)。
Model / Model ID / 模型名称从模型列表点击复制按钮获取的名称(modelRef),或已在模型映射中启用的固定名称(如 chat)。

提示:工具具体在哪里修改这些字段、地址是否自动追加 /v1、以及是否支持 OpenAI Responses 或工具调用等扩展协议,请以该工具当前版本的官方文档为准。若多个远程来源存在同名模型(例如裸名称均为 qwen3 或 gemma3),直接填写裸名会产生歧义;建议先在用固定名称映射模型中明确绑定来源与模型,再让工具统一请求 chat。

2. 在同机完成首次接入验证

当 AI 工具与 OmniProxy 运行在同一台电脑上时,按以下步骤验证:

  1. 打开第三方工具的自定义模型服务设置页。
  2. 选择与 OmniProxy 目标入口相匹配的协议(如 OpenAI 兼容或 Anthropic 兼容),填入网关地址、代理密钥和模型名称并保存。
  3. 选中刚才配置的文本聊天模型,发送一句简短提问。不要把客户端提示“设置已保存”当作连接成功。
  4. 切回 OmniProxy 监控台,在最近调用记录中找到这条请求,确认实际执行的模型、返回内容与状态是否符合预期。
  5. 文本对话跑通后,再继续测试你实际工作流所需的扩展能力(如图片识别、工具调用或结构化输出)——简单文本问答成功不代表复杂的 Agent 链路也已全部兼容。

3. 局域网跨设备与容器环境接入

127.0.0.1 永远指向运行工具的那台设备或容器自身:在另一台电脑或手机上填 127.0.0.1 找不到你的 Mac,在容器内部填 127.0.0.1 通常也访问不到宿主机。跨环境接入受本地路由与防火墙规则影响,请先在网关所在的 Mac 本机跑通最小测试请求,确认网关正常后再配置跨网络访问;切勿为了排错而关闭认证。

从局域网内的另一台设备访问

  1. 开启全网监听与密钥:在网关 Mac 的监控台中,先确认已生成代理密钥;然后打开监听范围,切换为所有网络,确认状态生效并记下实际监听端口。
  2. 查看网关 Mac 的局域网 IP:打开 Mac 的系统设置 → 网络,查看当前连接网络的局域网 IP 地址。
  3. 拼接并在另一台设备上填写地址:假设查到的 Mac 局域网 IP 为 192.168.1.20,监控台显示的实际端口为 8080,则在另一台设备的工具中将 Base URL 填为 http://192.168.1.20:8080/v1(请务必将 IP 和端口替换为你自己的实际值,末尾是否保留 /v1 仍按工具要求决定)。
  4. 测试与核对:确保两台设备处于可互相访问的同一局域网内。在工具中填入代理密钥并发送短消息,随后回网关 Mac 的监控台查看记录。若无法连接,请排查 IP、端口、路由器客户端隔离设置及系统防火墙规则,不要试图通过清空密钥来绕过问题。
  5. 用完收拢权限:不再需要跨设备调用时,请及时回到监控台将监听范围改回仅本机。

从同一台 Mac 上的容器内访问

如果 AI 工具运行在同一台 Mac 的 Docker Desktop 容器中,可按照 Docker 官方宿主机网络文档 使用专用域名 host.docker.internal 访问宿主机上的网关:

4. 换模型时免去修改工具配置

工具首次跑通后,建议前往用固定名称映射模型,将工具里的模型名称固定为 chat 等用途入口或虚拟模型名。

以后想更换底层模型时,只需先在 OmniProxy 中测试好新模型,再修改映射目标并重新开启该行映射即可。外部工具无需改动任何配置,但切换后请发起一次小任务测试,并留意本地模型与外部云端服务之间的计费及数据脱敏边界变化。

关于外部工具教程的说明:OmniProxy 官网的工具目录可帮助你查找常见客户端的接入位置;若某篇外部工具教程标明“未实测”,仅作为配置位置参考,不代表 OmniProxy 官方已承诺该工具的所有版本均验证兼容。