支持基于请求内容（如多模态、Tools）的自动模型重定向

[WUDDC]

提交前必读（请勿删除本节）

• 文档：https://docs.newapi.ai/
• 使用问题先看或先问：https://deepwiki.com/QuantumNous/new-api
• 警告：删除本模板、删除小节标题或随意清空内容的 issue，可能会被直接关闭；重复恶意提交者可能会被 block。

您当前的 newapi 版本

v0.12.1

提交确认

• 我已确认目前没有类似 issue
• 我已完整查看过文档 https://docs.newapi.ai/ 和项目 README，已确定现有版本无法满足需求
• 我未删除此模板中的任何引导内容或小节标题，并会按要求完整填写
• 我理解项目维护者精力有限，不遵循模板要求的 issue 可能会被无视或直接关闭

功能描述
希望网关能根据 请求体 的特征，自动路由到不同的模型
应用场景
部分项目，只能配置一个统一的模型 ID，需要根据用户输入动态切换模型ID降低成本
对成本进行优化，如果全部用参数覆盖重定向到一个多模态模型，成本会很高。
我希望实现的是：

• 识别到 image_url 走渠道 A （多模态模型，例如阿里百炼coding plan）

• 没识别到图片 走渠道 B (纯文本模型，例如minimax的coding plan)

这种‘基于内容特征的渠道切换’，目前的参数覆盖功能似乎无法在‘路由选择’阶段完成？
当前解决方法

1. 添加多个渠道，添加每个渠道时添加 模型重定向 auto:模型，同时添加自定义模型auto

• 文字渠道： auto：模型id
• 图片渠道： auto：模型id
• 全模态渠道： auto：模型id

2. 设置自动重试状态码添加400，重试次数设置为 3
3. 渠道权重和优先级

• 文字渠道： 100 100
• 图片渠道： 50 50
• 全模态渠道： 10 10

4. 使用时调用new api url，模型id用auto，可在操练场测试。

解释
利用渠道重试流程来进行跨模型调用

[new-api-reviewer-bot]

[Bot Review]

感谢提交功能请求！关于支持基于请求内容（如多模态、Tools）的自动模型重定向及分流的需求，我们已看到您提供的应用场景与现有解决方法。

[seefs001]

可以用参数覆盖，对应着改最终的模型名即可，最后的结果会在日志那边显示的。
具体的可以问一下deepwiki使用或者下载下来代码问Coding Agent工具

[WUDDC]

文档里没有实现方法呀我翻了下文档，这个目的其实最主要的就是节约成本。
我看openrouter的方法是有个openrouter/auto的虚拟模型id，调用后它们内部来做，不过跟咱目前这项目应该是没啥参考性。

我认为这个的解决办法可能是让用户web里手动维护一个auto模型可用的模型和能力表？请求auto模型new api 拿到后根据模型表里的模型能力转发给对应的模型

[seefs001]

文档里没有实现方法呀我翻了下文档，这个目的其实最主要的就是节约成本。 我看openrouter的方法是有个openrouter/auto的虚拟模型id，调用后它们内部来做，不过跟咱目前这项目应该是没啥参考性。

我认为这个的解决办法可能是让用户web里手动维护一个auto模型可用的模型和能力表？请求auto模型new api 拿到后根据模型表里的模型能力转发给对应的模型

提供参数覆盖能力只是提供工具，不对应任何的业务场景，文档自然不会每种都写，每个人的场景都不一样，只是说这个可以达成你这个要求，让AI给你搓就好。

[WUDDC]

文档里没有实现方法呀我翻了下文档，这个目的其实最主要的就是节约成本。我看openrouter的方法是有个openrouter/auto的虚拟模型id，调用后它们内部来做，不过跟咱目前这项目应该是没啥参考性。
我认为这个的解决办法可能是让用户web里手动维护一个auto模型可用的模型和能力表？请求auto模型new api 拿到后根据模型表里的模型能力转发给对应的模型

提供参数覆盖能力只是提供工具，不对应任何的业务场景，文档自然不会每种都写，每个人的场景都不一样，只是说这个可以达成你这个要求，让AI给你搓就好。

sorry 更新了一下实现方法，我的想法是在发送到渠道前进行，当前我的方法是利用了渠道重试的方法来实现的，您可以看一下
另外提交了一个合并请求#4093，用来实现，节约了重试时间

[NirvanaCh7]

文档里没有实现方法呀我翻了下文档，这个目的其实最主要的就是节约成本。 我看openrouter的方法是有个openrouter/auto的虚拟模型id，调用后它们内部来做，不过跟咱目前这项目应该是没啥参考性。
我认为这个的解决办法可能是让用户web里手动维护一个auto模型可用的模型和能力表？请求auto模型new api 拿到后根据模型表里的模型能力转发给对应的模型

提供参数覆盖能力只是提供工具，不对应任何的业务场景，文档自然不会每种都写，每个人的场景都不一样，只是说这个可以达成你这个要求，让AI给你搓就好。

参考LiteLLM的自动路由功能，有没有计划实现？