[上游候选 Issue] 在 /v1/models 暴露模型上下文窗口

[faithleysath]

上游来源

• Issue：配置和通过v1/models返回模型上下文窗口 QuantumNous/new-api#5847
• 标题：配置和通过v1/models返回模型上下文窗口
• 状态：Open / enhancement

补充实现参考

• Fork commit：JacksonsY@397af61
• 提交：397af615f5a0426efd00a0513d9037050b79e5e6
• 范围：4 files，+64/-0
• 前置实现：JacksonsY@24c8ff3

该提交提供了一个可复用的最小实现方向：

• 从模型元数据的 context_length 读取上下文窗口；
• 随 pricing cache 一起构建 model -> context length 映射；
• 在 /v1/models 同时输出 context_length 和 vLLM/部分客户端兼容字段 max_model_len；
• 未配置或非启用模型通过 omitempty 不输出字段；
• 增加 GetModelContextLength 的 metadata/cache 回归测试。

轻量审查

• 有用价值：高。 让 coding agent 和其他客户端在调用前获知上下文上限，可辅助自动压缩、参数校验和模型选择；同时输出两个常见字段比只选一个私有扩展更实用。
• 合理程度：中高（作为实现参考）。 改动集中、附加字段不破坏现有 OpenAI model object、缓存复用现有锁和刷新流程，并有确定性测试。
• 当前建议：作为后续实现基线，不直接 cherry-pick。 该 commit 依赖 fork 先前加入的 Model.ContextLength、数据库字段、管理端输入和 /api/pricing 链路；当前 nexus 尚无这些前置代码。

引入前关注点

• 先确定底层 schema：context_length 表示总上下文窗口，而 Nexus [上游候选 PR] /api/pricing 模型能力与上下文元数据 #23 / 上游 PR feat(pricing): add function_tags, max_prompt_tokens, max_completion_tokens to model metadata and /api/pricing (#5931) QuantumNous/new-api#5934 的 max_prompt_tokens 表示最大输入，两者不能未经定义直接等同。
• 元数据来源仍需明确：管理员配置、官方模型表、渠道同步，或多来源优先级。
• 同一 model name 多渠道规格不一致时，需要定义取最小、最大还是按 token/group 返回。
• 当前实现对 model alias 只重映射 endpoint types；alias 若没有独立 metadata，可能拿不到 target model 的 context length，应补 alias 回归。
• 现有新增测试只验证 pricing cache getter，仍需补 /v1/models JSON 输出、未配置时省略、alias target 和权限/分组场景。
• 需要实际验证 Codex、Claude Code 和目标第三方 SDK 是否读取 context_length、max_model_len 或其他字段。
• 该字段应先保持目录/展示用途，不应在没有统一验证策略前直接参与 relay 请求裁剪。

与其他候选的关系

• Nexus [上游候选 PR] /api/pricing 模型能力与上下文元数据 #23 跟踪 /api/pricing 的 function_tags、max_prompt_tokens、max_completion_tokens。
• [上游候选 Issue] 在 /v1/models 暴露模型上下文窗口 #22 与 [上游候选 PR] /api/pricing 模型能力与上下文元数据 #23 应共享模型元数据基础设施，但应分别保留“总上下文窗口”“最大输入”“最大输出”的明确语义。
• 397af615 可作为 /v1/models 输出层参考；24c8ff3a 只作为其 schema/UI 前置参考，不应连同该 fork 的其他历史改动整体合并。

跟踪策略

• 关注上游 Issue 配置和通过v1/models返回模型上下文窗口 QuantumNous/new-api#5847 的讨论和可能实现 PR
• 以 397af615 为最小实现参考，先确定与 [上游候选 PR] /api/pricing 模型能力与上下文元数据 #23 共享的 metadata schema
• 补齐 alias、API JSON、字段省略和目标客户端兼容测试
• 上游实现成熟后随主线吸收；若长期未处理，再在最新 nexus 上独立移植所需 hunk

[faithleysath]

关联 #33。生产事件表明 context_length 除了通过 /v1/models 提供给客户端，还应作为网关请求体预检的数据源：认证和令牌模型映射完成后，在选择渠道前校验估算输入与有效输出预算，超限直接返回 HTTP 400 / context_length_exceeded，不得产生上游 attempt、重试或渠道健康惩罚。#22 继续负责总上下文窗口字段的 schema、来源、alias 和多渠道冲突语义；#33 只消费最终元信息并定义 relay 行为。