用于多语言聊天机器人的 LLM API

多语言聊天机器人在生产应用中的实际场景

一个旅行产品支持英语、日语、西班牙语和中文。系统识别会话地区，加载对应地区的产品词表和政策片段，再要求模型回答，同时不得翻译受保护的产品名称。

每种语言分别评分。不能因为平均分较高就上线某个语言；只有母语审查者认可该地区的意图、术语、语气和拒答行为后才上线。

多语言聊天机器人工作流怎样运行

• 分别识别语言和地区。
• 加载地区词表和获准政策片段。
• 直接用目标语言生成。
• 检查受保护术语、数字和政策用语。
• 不支持或低置信度语言转人工。

通过 LLMFly AI 调用 gemini-2.5-flash

请求应从服务端发送。请将示例内容和占位工具 Schema 替换为应用中的真实数据与工具。

curl https://app.llmfly.ai/v1/chat/completions \
  -H "Authorization: Bearer $LLMFLY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-2.5-flash",
    "messages": [
      {"role": "system", "content": "Reply in the detected locale. Preserve GLOSSARY terms exactly. Use only the supplied locale policy and do not translate protected product names."},
      {"role": "user", "content": "Explain the cancellation window in the customer's language using the locale policy."}
    ]
  }'

为什么主模型选择 gemini-2.5-flash

Gemini 2.5 Flash 是多语言、延迟敏感对话工作负载的首选。

只有在某种语言通过相同母语审查时才使用 gpt-5.4-mini 备用；政策密集或混合语言失败升级到 Terra。

多语言聊天机器人的验收条件

上线前必须处理的失败情况

• 假设英文质量代表所有语言
• 机器翻译测试集
• 忽略地区政策
• 用平均值掩盖弱势语言

返回结果与运行记录

地区语言正确、受保护术语保持不变，且不混入其他地区政策的回复。

每次生产运行都应记录模型 ID、Request ID、Token 用量、重试、验证结果和最终处理状态。