v0.2.57从首次使用到 App、项目和文件协作
• 服务状态

模型现在能不能用。

咕咕提供的 每 个模型,最近 1 小时的请求成功率和首字等待时间,每分钟更新。计算方法见怎么算。

–正常
–延迟
–异常
–暂无结论
正在取数据…
• 怎么算

状态的
计算方法

所有状态都按右边的规则,从网关的请求记录算出。

  1. 时间范围状态看最近 … 分钟。历史条每格 … 分钟,共 … 格,最右一格是当前。可用率看最近 … 天。
  2. 一次请求网关换线路重试过的,只算一次,看最终结果。
  3. 成功返回了回答,且输出 token 大于 0。
  4. 失败没有返回回答,或回答为空。上游报错、限流、超时都算失败。
  5. 首字等待从发出请求到收到第一个字。流式请求取首字时间,非流式请求取整个请求的耗时。只统计成功的请求。
  6. 状态少于 … 次请求为「请求太少」,没有请求为「暂无数据」。其余情况:成功率低于 …% 为「异常」;成功率达标,但最慢的 5% 首字等待超过 … 秒为「延迟」;都满足为「正常」。
  7. 不计入网关自身的线路测试;搜索、画图等不生成文字的请求。
  8. 数据过期超过 … 分钟没有更新时,只显示数字,不显示状态。
  9. 公开范围只有模型名和次数、比例、耗时,不含线路、账号和用户信息。