Relay365多模型 API 中继值班台
← 回到全部值班公告
协议与端点ZH已读 1 次

值班记录:十分钟接通嵌入端点,先跑通三条文档检索

接班先确认:需要找资料,还是生成答案

嵌入端点把文本转换为数值向量,让程序按语义接近程度查找内容。它不直接回答问题,适合知识库检索、相似工单查找和重复内容识别。如果只是写邮件或总结已知文本,通常直接调用生成端点即可;如果必须精确匹配订单号,应优先使用精确查询。

前两分钟:确认端点和可用模型

先在服务文档或控制台确认嵌入模型、输入限制、输出维度和计费方式。不要把聊天模型名称直接填入嵌入请求,也不要假设兼容聊天接口就一定支持嵌入。

Relay365 提供按量付费的多模型中转,适合希望集中管理接口接入的团队。其接口基础地址为 https://api.api365relay.com,使用兼容客户端时添加 /v1。接入前仍须确认当前是否提供你需要的嵌入模型及对应端点。

第三到五分钟:取得第一组向量

若服务确认兼容标准嵌入接口,可向 /v1/embeddings 发送请求,在请求头中携带密钥,并提交模型标识与文本。例如请求体为 {"model":"实际可用的嵌入模型标识","input":["密码重置说明","发票申请流程","账号权限申请"]}。模型字段必须替换,密钥只保存在服务端环境变量中。

检查返回的向量、输入索引和实际维度,并按索引关联原文。请求失败时,先查鉴权、模型权限和输入长度,不要盲目重试。

第六到八分钟:让问题找到对应文档

  • 保存每条原文及其向量,再用同一嵌入模型处理“忘记登录密码怎么办”。
  • 按照模型推荐的相似度算法排序,检查密码重置说明是否排在前面;三条数据用内存计算即可,不必先部署向量数据库。
  • 接入真实资料时,按主题切块并保存来源,让命中结果能够回到原文;需要生成答案时,再把检索内容交给生成模型。

最后两分钟:留下可维护的交班记录

用几条真实问题检查命中结果,记录模型标识、维度和切块规则。更换模型通常需要重新生成文档向量;不要混用不同模型的向量,也不要直接套用未经验证的相似度阈值。

如果希望通过 Relay365 集中管理调用,可以创建账户,先确认嵌入能力和价格,再用少量非敏感文本试跑。验收标准不是“接口返回成功”,而是问题能找到正确资料,且失败原因可以定位。

延伸阅读公告

想在自己的代码上试试? 免费注册 →