Relay365多模型 API 中继值班台
← 回到全部值班公告
协议与端点ZH已读 1 次

值班交接:Go 后端接入兼容接口,先核对地址与超时

交接记录:兼容的是调用格式

Go 后端调用模型,可以理解为向远程服务发送一份任务单,再接收生成结果。所谓兼容 OpenAI,通常指请求地址、鉴权方式和消息结构沿用相近约定,不代表所有服务都支持完全相同的功能。

你的业务服务负责整理用户输入、选择模型、发起请求,再把结果交给前端。密钥应留在后端,不要下发到浏览器。

首次连通先核对地址、密钥和模型标识

可以使用支持自定义地址的 OpenAI 客户端库,也可以用 Go 标准库 net/http 发送请求。前者省去部分结构体和响应解析工作,后者更方便直接检查请求细节。

  • 基础地址决定请求发往哪里,接口路径则指定执行什么操作。
  • 密钥通常通过 Authorization 请求头携带,并使用 Bearer 格式。
  • model 字段必须填写服务实际提供的模型标识,不能凭展示名称猜测。

例如选择 Gemini 2.5 Flash 时,应先确认可用标识,再发送一条简短消息测试连通性。首次测试不必同时启用工具调用或复杂输出格式。

接班前把等待和失败处理清楚

为请求设置超时,并把入站请求的 context 传给下游调用。用户断开连接时,后端便能及时结束等待,但这不等于上游一定停止生成或不再计费。

先检查状态码,再解析结果。鉴权失败应核对密钥,参数错误应检查请求内容;限流或临时故障可以考虑有限重试。超时不代表上游没有处理请求,盲目重试可能带来重复消耗。

流式输出要单独验收

普通响应适合先跑通业务;流式响应则需要逐段读取事件,并处理结束信号、读取错误和客户端断连。日志记录耗时、状态码和请求标识即可,避免默认保存密钥与完整对话。

多模型接入时再考虑统一入口

如果项目需要接入多个模型系列,可以考虑按量付费的 Relay365。其接口基础地址是 https://api.api365relay.com,OpenAI 客户端使用时加上 /v1,并检查是否重复拼接。

需要统一管理调用入口时,可以创建一个 Relay365 账户,先用小额测试验证所需能力。切换模型前仍要检查参数、输出格式和计费规则;入口统一,不等于模型行为完全一致。

延伸阅读公告

想在自己的代码上试试? 免费注册 →