OpenAI GPT 模型

如何选择系列内的型号

先确定工作负载和服务目标，再选择能通过真实测试集的最小型号。

• 复杂编码、研究和长流程专业任务优先测试 Sol。
• 质量要求仍然较高、但需要控制单位成本时测试 Terra。
• 分类、抽取、路由等大批量任务可优先测试 Luna，但必须先用真实样本验收。

输入、输出、上下文与工具

• 当前 GPT-5.6 系列支持文本与图片输入，并输出文本。
• 1.05M 上下文与最高 128K 输出，适合大型代码库和文档集合。
• 公开工具能力包括函数调用、网页搜索、文件搜索与计算机使用。
• 推理强度可从 none 调到 max，可按任务平衡延迟和思考深度。

适合哪些工作负载

这些是优先测试方向，不是放之四海而皆准的结论。请使用自己的提示词、工具和验收条件。

• 仓库级编码、重构与代码审查。
• 长文档分析与总结，引用需由应用侧校验。
• 需要结构化调用与错误恢复的工具型 Agent。
• 使用 Terra 或 Luna 承担大批量改写、分类和抽取。

推理、上下文与成本控制

• 先用 medium 推理，仅当测试集显示质量提升时再提高强度。
• 即使上下文很大，也要裁剪重复的对话历史。
• 按完整任务记录延迟、输入、输出、工具调用和重试，不要只看单次请求。

发送一个最小请求

示例使用表格中的第一个厂商模型 ID。如果模型广场显示的 ID 不同，请改用当前 API Key 可用的模型 ID。

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-sol",
    "messages": [{"role": "user", "content": "Explain this request in three bullets."}],
    "stream": false
  }'

限制与兼容性说明

• 厂商公开能力不代表每条 LLMFly AI 路由都开放相同 Endpoint 或工具。
• 大上下文会增加延迟和成本，不能替代检索与上下文筛选。
• 将模型 ID 放在配置中，并在上线前测试备用路由。

生产上线评估清单

• 准备 20–50 条有代表性的任务，并在测试前写明通过条件。
• 记录首 Token 延迟、总延迟、输入输出 Token、工具重试和完整任务成本。
• 验证应用实际使用的 Endpoint、流式模式、工具 Schema 与结构化输出。
• 验证 400、401、404、429 和临时 5xx 的处理方式，并限制重试次数。
• 将模型 ID 放进配置，并在正式切换前验证备用模型。

哪些信息必须在 LLMFly AI 中确认

模型广场会显示当前 API Key 可用的模型 ID、计费倍率、可用状态、支持的接口和兼容说明。部署前请确认这些信息，并发送一个小请求验证。

• 三款模型都接受文本和图片输入，并输出文本。
• Reasoning effort 可从 none 调整到 max。
• OpenAI 列出的工具包括函数、网页搜索、文件搜索和计算机使用。