FEATURED · 精选文章

OmniRoute 功能全景:从 Combo 智能路由到全栈 Dashboard 控制台实战指南

发布时间 / 2026/9/11 21:13:56
来源 / 创域科博编辑部
栏目 / 资讯中心
OmniRoute 功能全景:从 Combo 智能路由到全栈 Dashboard 控制台实战指南 OmniRoute 功能全景从 Combo 智能路由到全栈 Dashboard 控制台实战指南【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRouteOmniRoute 是一款开源 MIT 协议的 AI 网关核心价值在于一个端点接入数百家提供商、上千个模型而其 Dashboard 控制台则是管理与观察这一切的中枢。本文基于仓库官方文档 docs/i18n/fr/docs/guides/FEATURES.md与英文原版 docs/guides/FEATURES.md 同步整理而成系统讲解 Dashboard 的每一块功能面板Providers、Combos、Analytics、System Health、Settings、CLI Tools、Context Relay、安全加固等并结合仓库源码揭示底层实现原理。读完本文你将能快速掌握 OmniRoute 控制台的完整功能地图理解关键功能的实现机制并能在自己的部署环境中逐一上手验证。一图看懂 Dashboard功能总览OmniRoute Dashboard 是一个覆盖接入 → 路由 → 观测 → 加固全链路的控制台主要板块包括接入层Providers提供商管理、API Key 管理、Media文生图/视频/音乐、CLI Tools / CLI AgentsAI 编程工具一键配置与代理发现路由层Combos模型路由组合多策略 自动回退、Context Relay会话上下文接力、Model Playground模型即测即用观测层Analytics用量分析、System Health系统健康、Request Logs请求日志、Audit Log审计日志配置层Settings七大选项卡、Themes主题、Translator Playground翻译器调试安全与运维Proxy Hardening、SSRF 防护、Compliance Audit、OAuth Env Repair、Uninstall 脚本提供商管理OAuth、API Key 与免费提供商Providers 面板用于管理各类 AI 提供商连接覆盖三种形态OAuth 提供商如 Claude Code、Codex通过浏览器 OAuth 登录换取长期令牌API Key 提供商如 Groq、DeepSeek、OpenRouter直接填写密钥免费提供商如 Qoder、Kiro其中 Kiro 账号会跟踪剩余积分、总配额与续费日期可在 Dashboard → Usage 中查看。一个值得一提的细节OpenRouter 连接可在 Advanced Settings 中为每条连接保存preset。设置后OmniRoute 会将其作为 OpenRouter 请求的顶层字段发送例如preset: email-copywriter除非客户端请求本身已携带自己的preset。Combo 智能路由策略矩阵与结构化编排Combos 是 OmniRoute 路由能力的核心。你可以将多个模型串联成一条组合链配合自动回退与就绪检查。官方文档当前列出了19 种公开策略覆盖确定性路由与启发式路由两大类类别策略说明确定性priority/weighted/round-robin优先级、加权、轮询负载感知least-used/headroom/reset-aware/reset-window最少使用、剩余容量、配额窗口重置时间感知成本导向cost-optimized按成本最优选择质量/上下文context-optimized/cache-optimized/lkgp上下文长度、缓存、Last-Known-Good-Provider随机random/strict-random/p2c随机、严格随机、Power-of-Two Choices会话延续context-relay账号轮换时保持会话上下文详见下文并行合成fusion扇出到多个模型并行推理再由 judge 模型合成一个答案流水线pipeline多模型按阶段串联执行全自动auto由打分引擎自动决策近期的 Combo 增强结构化组合构建器每一跳可精确选择提供商 模型 具体账号/连接三元组重复提供商支持只要(provider, model, connection)三元组唯一同一提供商可在一条 combo 中复用多次Combo 目标健康度分析与健康面板按单个 combo 目标/步骤区分展示不再把一切压平成模型字符串复合层级排序defaultTier - fallbackTier现在会影响顶层 combo 步骤的运行时执行/回退顺序系统提示词模板combo 的system_message支持服务端占位符{{MODEL_ID}}、{{PROVIDER_ID}}、{{ACCOUNT}}、{{FINGERPRINT}}在实际路由目标确定后才展开。占位符采用白名单机制、非递归未知占位符保持字面量、空值展开为空且绝不改写客户端系统提示词。{{FINGERPRINT}}仅对基于指纹的免费提供商生效在其他场景下展开为空。Context Relay账号轮换时的会话连续性v3.5.5当对话中途发生账号轮换时会话上下文容易断裂。Context Relay正是为此设计在活跃账号配额耗尽之前OmniRoute 在后台生成一份结构化交接摘要当下一请求解析到另一个账号时该摘要以系统消息形式注入让新账号无缝接力。可在 combo 级或全局设置中配置Handoff Threshold触发摘要生成的配额使用率阈值默认 85%Max Messages For Summary参与压缩的最近历史消息数量Summary Model生成交接摘要的可选覆盖模型。目前 Context Relay 支持 Codex 账号轮换场景进一步背景可参考 docs/architecture/ARCHITECTURE.md。源码佐证交接摘要的持久化由 src/lib/db/contextHandoffs.ts 承担其HandoffPayload结构包含sessionId、comboName、fromAccount、summary、keyDecisions、taskProgress、activeEntities、messageCount、warningThresholdPct、expiresAt等字段——摘要不是简单的文本缓存而是结构化的决策/进展/活跃实体快照。upsertHandoff()src/lib/db/contextHandoffs.ts#L81-L120按(session_id, combo_name)冲突更新getHandoff()仅取未过期的最近记录cleanupExpiredHandoffs()以 30 分钟节流执行过期清理。同文件还提供了recordSessionModelUsage()等函数配合session_model_history表跟踪会话历史模型支撑会话级上下文缓存锚定。观测面板Analytics、System Health 与 Request LogsAnalytics用量分析提供全面的用量分析Token 消耗、成本估算、活跃度热力图、按周分布图表、按提供商细分的用量构成。System Health系统健康实时监控指标包括运行时长、内存、版本、延迟百分位p50/p95/p99、缓存统计、提供商熔断器circuit breaker状态、受配额监控的活跃会话数以及 Combo 目标健康度。Request Logs请求日志实时请求日志可按提供商、模型、账号、API Key 过滤展示状态码、Token 用量、延迟与响应细节。调试工具Translator Playground 与 Model PlaygroundTranslator Playground面向 API 翻译层的四模式调试工具Playground格式转换器Chat Tester实时请求测试Test Bench批量测试Live Monitor实时流观测。Model Playgroundv2.0.9无需离开 Dashboard 即可直接测试任意模型选择提供商、模型与端点使用 Monaco Editor 编写提示词实时流式查看响应可中途中止并展示计时指标。Settings 设置中心七大选项卡设置面板以选项卡组织英文原版为 7 个选项卡法语版为 6 个以下按最新原版展开General系统存储、备份管理数据库导出/导入Appearance主题选择深色/浅色/跟随系统、7 种预设色、自定义颜色、健康日志可见性、侧边栏项目与分组分隔符可见性、Endpoint 隧道可见性AIAI 助手功能、默认路由预设Auto Comboauto/coding、auto/fast、auto/cheap、auto/smart、推理回放缓存、技能/记忆开关SecurityAPI 端点保护、自定义提供商拦截、IP 过滤、会话信息Routing模型别名、后台任务降级、Manifest 感知层级路由W1–W4、fallbackDelayMs、每会话粘性路由Resilience限流持久化、熔断器调优、自动禁用被封账号、提供商过期监控、Context Relay 交接阈值与摘要模型配置、按提供商的 429 分类与useUpstream429BreakerHints开关、模型冷却Advanced配置覆盖、配置审计轨迹、回退降级模式、Responses API 的后台模式降级。Themes 主题v2.0.5整个 Dashboard 支持自定义配色主题7 种预设色Coral、Blue、Red、Green、Violet、Orange、Cyan也可任选 hex 颜色创建自定义主题支持浅色、深色与系统跟随模式。生态集成CLI Tools、CLI Agents 与桌面应用CLI Tools面向 AI 编程工具的一键配置Claude Code、Codex CLI、OpenClaw、Kilo Code、Antigravity、Cline、Continue、Cursor、Factory Droid。支持自动化配置应用/重置、连接配置文件与模型映射。CLI Agentsv2.0.11发现与管理 CLI 代理的网格视图内置 17 个代理Codex、Claude、Goose、OpenClaw、Aider、OpenCode、Cline、Qwen Code、ForgeCode、Amazon Q、Open Interpreter、Cursor CLI、Warp、Windsurf、Devin CLI、Kimi Coding、Command Code安装状态已安装/未找到 版本探测协议徽章stdio、HTTP 等自定义代理通过表单注册任意 CLI 工具名称、二进制、版本命令、spawn 参数CLI 指纹匹配按提供商开关匹配原生 CLI 请求签名以降低封号风险同时保留代理 IP。Desktop 桌面应用基于 Electron 的原生桌面应用覆盖 Windows、macOS、Linux支持系统托盘、离线、自动更新与一键安装。关键特性包括服务器就绪轮询冷启动不白屏、系统托盘端口管理、Content Security Policy、单实例锁、重启自动更新、按平台区分的 UImacOS 交通灯按钮、Windows/Linux 默认标题栏。加固方面v2.5.5 在打包前检测并拒绝独立包中的符号链接node_modules避免对构建机的运行时依赖v3.6.2 在 Electronbefore-quit时优雅关闭 Next.js防止 SQLite WAL 数据库锁。完整文档见 electron/README.md。连接与扩展API Endpoint、V1 WebSocket Bridge 与 Sync Tokens统一 API Endpoint单一端点按能力拆分展示Chat Completions、Responses API、Embeddings、Image Generation、Reranking、Audio Transcription、Text-to-Speech、Moderations以及已注册的 API Key。支持 Cloudflare Quick Tunnel、Tailscale Funnel、ngrok Tunnel 与云代理实现远程访问。V1 WebSocket Bridgev3.6.6支持 OpenAI 兼容的 WebSocket 客户端升级端点为/v1/ws。自定义服务器scripts/dev/v1-ws-bridge.mjs包装 Next.js将 WS 连接升级为全双工双向流式会话认证复用 HTTP 的 API Key 与会话 Cookie。关键行为WS 升级在连接建立前由 src/lib/ws/handshake.ts 校验会话关闭或上游出错时流被干净终止可与既有 HTTPSSE 流路径并行共存。源码佐证authorizeWebSocketHandshake()src/lib/ws/handshake.ts#L84-L129依次校验查询参数/Authorization 头中的 API Keyapi_key/token/access_token与Bearer前缀、签名auth_token会话 Cookie最终返回authorized/authenticated/authType三元判定是否强制鉴权由设置项wsAuth控制。Sync Tokens 与配置包v3.6.6面向多设备与外部运维人员的受限同步令牌POST /api/sync/tokens签发新的受限、可选过期时间的同步令牌DELETE /api/sync/tokens/:id吊销令牌GET /api/sync/bundle下载全部非敏感设置的版本化 JSON 快照密码已脱敏。配置包由 src/lib/sync/bundle.ts 构建消费方通过比较ETag响应头检测变更无需重复下载完整载荷。安全与加固从 SSRF 防护到合规审计Proxy Hardeningv3.5.5贯穿整个请求管道的代理配置强化Token Health Check后台 OAuth 刷新现在按连接解析代理配置避免代理必需环境下的失败API Key 校验提供商密钥校验POST /api/providers/validate经由runWithProxyContext路由遵守提供商级与全局代理设置undici Dispatcher 修复代理 dispatcher 改用 undici 自身的 fetch 实现而非 Node 内置 fetch解决 Node.js 22 上的invalid onRequestStart method报错Node.js 版本探测登录页主动探测不兼容的 Node.js24并显示警告横幅提示使用 Node 22 LTS。Email Privacy Maskingv3.5.6OAuth 账号邮箱在面板中默认掩码显示如di*****g****.com避免截图分享或录制演示时泄露完整邮箱可通过悬停 tooltiptitle属性查看也可在 Settings → Appearance → Account email visibility 中全局切换。Model Visibility Togglev3.5.6提供商页面的模型列表新增实时搜索/过滤栏单模型可见性开关 图标隐藏的模型置灰并从/v1/models目录中排除N/M active活跃计数徽章。OAuth Env Repairv3.6.1针对 OAuth 提供商的一键Repair env操作入口为Dashboard → Providers → [OAuth Provider] → Repair env自动检测并修复缺失的 OAuth 客户端凭据、损坏的 env 文件条目、备份路径净化。Safe Outbound Fetch 与 SSRF 防护v3.6.6所有提供商校验与模型发现调用现在都经过两层出站防护URL 守卫src/shared/network/outboundUrlGuard.ts在 socket 打开前拦截私有/回环/link-local IP 范围。源码中CLOUD_METADATA_HOSTNAMES集合src/shared/network/outboundUrlGuard.ts#L56-L67将 AWS/GCP/Azure/Oracle 的169.254.169.254、GCP 的metadata.google.internal/metadata.goog、阿里云的100.100.100.100等云元数据端点无条件封禁——这些是 SSRF→IAM 凭据窃取的经典跳板即便用户显式放行私有地址也绝不放松同时处理了 IPv4 映射 IPv6 地址::ffff:前缀绕过检测的问题安全 fetch 包装src/shared/network/safeOutboundFetch.ts应用 URL 守卫、归一化超时、以指数退避重试瞬时错误。守卫违规以 HTTP 422URL_GUARD_BLOCKED呈现并通过providerAudit.ts写入合规审计日志。Cooldown-Aware Retriesv3.6.6当上游提供商返回模型级冷却时聊天请求自动重试。可通过REQUEST_RETRY默认 2与MAX_RETRY_INTERVAL_SEC默认 30 秒配置。限流头学习覆盖x-ratelimit-reset-requests、x-ratelimit-reset-tokens与Retry-After模型级冷却状态在 Resilience 面板中可视化。Compliance Audit v2v3.6.6审计日志扩展游标分页、请求上下文丰富请求 ID、User-Agent、IP、结构化认证事件、带 diff 上下文的提供商 CRUD 事件、SSRF 拦截校验日志。新事件由 src/lib/compliance/providerAudit.ts 发出。媒体生成、密钥与审计Mediav2.0.3Dashboard 直接生成图像、视频与音乐支持 OpenAI、xAI、Together、Hyperbolic、SD WebUI、ComfyUI、AnimateDiff、Stable Audio Open、MusicGenAPI Key 管理创建、限定范围、吊销 API Key。每个 Key 可限制到特定模型/提供商支持完全访问或只读权限并提供带用量追踪的可视化管理Audit Log管理操作追踪按动作类型、执行者、目标、IP 地址与时间戳过滤形成完整安全事件历史。卸载与运维提供覆盖所有安装方式的干净移除脚本命令行为npm run uninstall移除系统应用但保留~/.omniroute中的数据库与配置npm run uninstall:full移除应用并永久擦除全部配置、密钥与数据库这两个脚本在 package.json 中分别映射为node scripts/build/uninstall.mjs与node scripts/build/uninstall.mjs --full。版本亮点速览v3.8.0 周期结合英文原版文档v3.7.x → v3.8.0 周期的核心增量包括Auto Combo / 零配置自动路由前缀auto/coding、auto/fast、auto/cheap、auto/offline、auto/smart、auto/lkgp、auto/chaos由 16 因子打分引擎与 6 个精选 mode packsship-fast、cost-saver、quality-first、offline-friendly、reliability-first、chaos-mode驱动Prompt Compressionv3.7.9Context Cache 下新增 Caveman语言感知规则包、RTK面向 shell/git/test/build/Docker/infra/JSON/stack-trace 的命令感知压缩与 Compression Combos如rtk - caveman命名流水线双引擎叠加时平均约 89%、合格上下文节约 78–95%详见 docs/compression/COMPRESSION_GUIDE.md新提供商Command Code、Z.AI、LLM7、Lepton、UncloseAI、BazaarLink、Completions、Enally、FreeTheAi 等 8 个新免费提供商以及 GitLab Duo OAuthReset-aware 路由策略combo 优先选择配额窗口最先重置的账号fallbackDelayMs与动态工具数量探测更精细的回退时机与按提供商的工具数量上限每会话粘性路由Codex 会话在回合间固定到同一账号CLI 增强套件20 命令包括omniroute providers、omniroute combos、omniroute doctor、omniroute setupAPI Keys 的managescope支持通过 API 编程化执行管理操作。继续阅读功能总览英文原版docs/guides/FEATURES.md架构与 Context Relay 背景docs/architecture/ARCHITECTURE.md压缩体系docs/compression/COMPRESSION_GUIDE.md、docs/compression/RTK_COMPRESSION.md、docs/compression/COMPRESSION_ENGINES.md桌面应用electron/README.md快速上手docs/getting-started/QUICK-START.md该文档同时提供 40 种语言的翻译版本如 中文简体、日文可直接对照阅读。【免费下载链接】OmniRouteNever stop coding. Free MIT AI gateway: one endpoint, 352 providers (150 free), 1200 models Kimi, Claude, GPT, Gemini, GLM, DeepSeek, MiniMax. Works with Claude Code, Codex, Cursor, OpenCode, Cline Copilot. Quota-aware auto-fallback, RTKCaveman compression saves 15-95% tokens, MCP/A2A, Desktop/PWA. Built by 550 contributors项目地址: https://gitcode.com/GitHub_Trending/om/OmniRoute创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED — 相关阅读

相关资讯

LATEST — 最新资讯

最新发布

TODAY — 本日精选

新闻

WEEKLY — 本周精选

新闻

MONTHLY — 本月精选

新闻