模型现在能不能用。
咕咕提供的 每 个模型,最近 1 小时的请求成功率和首字等待时间,每分钟更新。计算方法见怎么算。
–正常
–延迟
–异常
–暂无结论
正在取数据…
• 怎么算状态的
状态的
计算方法
所有状态都按右边的规则,从网关的请求记录算出。
- 时间范围状态看最近 … 分钟。历史条每格 … 分钟,共 … 格,最右一格是当前。可用率看最近 … 天。
- 一次请求网关换线路重试过的,只算一次,看最终结果。
- 成功返回了回答,且输出 token 大于 0。
- 失败没有返回回答,或回答为空。上游报错、限流、超时都算失败。
- 首字等待从发出请求到收到第一个字。流式请求取首字时间,非流式请求取整个请求的耗时。只统计成功的请求。
- 状态少于 … 次请求为「请求太少」,没有请求为「暂无数据」。其余情况:成功率低于 …% 为「异常」;成功率达标,但最慢的 5% 首字等待超过 … 秒为「延迟」;都满足为「正常」。
- 不计入网关自身的线路测试;搜索、画图等不生成文字的请求。
- 监测起点从 …(北京时间)开始统计。此前没有监测数据,按 100% 计,颜色比实测的「正常」浅。
- 定时探测每 … 分钟向每个模型发一条短请求,路径与用户请求相同,按同样的规则统计。
- 数据过期超过 … 分钟没有更新时,只显示数字,不显示状态。
- 公开范围只有模型名和次数、比例、耗时,不含线路、账号和用户信息。
gugu