OmniProxy 用户手册
OmniProxy 是运行在你电脑上的 AI 网关。它把云端 API、本地模型、网络搜索和远程工具统一收拢在一处管理;你平时习惯的聊天、编程或 Agent 软件无需更换,只要客户端支持对应的模型协议与能力,并将服务地址指向 OmniProxy,即可通过网关进行调用。
第一次接触 OmniProxy,请从开始使用读起:先准备一个可用模型,再把常用工具连上网关。日常使用中遇到配置、排错或命令查询需求,可按下方目录直接跳转到对应章节。
开始使用
- 快速上手:走通第一条模型请求:完成首次向导,测试模型可用性,并在工具中走通第一次调用。
- 接入第三方 AI 工具:在客户端填对网关地址、代理密钥和模型名称,涵盖同机、局域网与容器环境。
配置模型与服务
- 添加云端模型服务:在“远程模型”中添加供应商 API,验证模型列表与实际生成能力。
- 下载与管理本地模型:在电脑上下载、测试本地模型,或挂载已有模型目录。
- 用固定名称映射模型:配置按用途映射、模型虚拟名称与自动匹配,换模型时免去逐个修改工具的麻烦。
- 配置网络搜索与网页读取:接入关键词搜索引擎与网页正文读取服务,并在桌面端或命令行调用。
- 接入远程 MCP 工具服务:连接远程 HTTP MCP 服务,通过本机代理地址提供给 AI 工具使用。
日常使用
- 查看调用记录与管理网关:在监控台启停代理、管理代理密钥,并从最近调用记录排查请求与响应详情。
- 看懂用量与缓存统计:按实际执行模型核对 Token 消耗、搜索次数与缓存节省口径。
- 管理词表与使用翻译工作区:在“词表”中维护术语译法,并在“翻译”工作区或命令行执行带词表的翻译。
- 设置发送前文本脱敏:按来源开启敏感文本替换规则,通过本地预览与真实调用核验脱敏及恢复效果。
设置与自动化
- 系统设置、模型存储与日志:调整界面与自启行为、迁移模型下载目录、设置日志上限及开启实验功能。
- 使用命令行与终端管理台:使用独立
omniproxyCLI 与交互式 TUI 查询状态、修改配置及管理服务。 - 让 AI 工具帮你操作 OmniProxy:指导具备命令执行能力的 AI Agent 安全查询、修改并核对独立 CLI 实例配置。
参考与故障排查
- 核心概念辨析:厘清工具与网关、两种密钥、模型名称与用途、运行实例及验证阶段的区别。
- 看懂本地模型的参数量与格式:了解参数规模、量化精度、运行格式与设备兼容性对选型的影响。
- 命令帮助与网关 API 参考:查阅常用模型协议端点、
curl调用示例与独立搜索接口规格。 - 启动与连接故障排查:按启动、网关、来源、模型四层定位故障,查看端口占用并生成诊断报告。
- 常见问题解答:解答工具兼容、数据隐私边界、跨实例差异与卸载清理等高频疑问。
阅读前须知
- 分清两把密钥:上游供应商的 API Key 保存在 OmniProxy 的来源配置里,用于向厂商发起请求;OmniProxy 生成的代理密钥填在你的第三方 AI 工具里,用于访问本机网关。请注意,远程模型服务由对应供应商按 API 用量计费,网页端聊天会员通常不包含 API 调用权限。
- 明确数据流向:使用本地模型时,推理在你的电脑上完成;一旦选择远程模型、网络搜索、远程翻译或远程 MCP 服务,请求内容就会发送给对应的外部服务商。发送前文本脱敏需按来源单独开启且存在规则识别边界,不能保证拦截所有敏感内容。调用记录中可能留存你的提问原文与回答,截图或导出分享前请先检查脱敏。
- 版本与配图说明:本手册适用于 0.1.0 开发版,界面以 macOS 为例;基于 2026-10-25 版本编写。若其他平台或安装包暂未提供某项界面入口,请以当前版本的实际界面和
--help帮助输出为准。手册配图均采自隔离测试环境:展示配置步骤、空列表或故障状态的原生 App 截图仅用于指示入口位置;标有“浏览器阅读视图”的配图来自 CLI 真实返回字段的可视化展示,并非原生 App 界面;单次调用成功的截图仅代表该条测试输入通过,不代表模型的所有扩展能力均已兼容。