Skip to content

OpenAI 兼容接口使用记录未展示缓存 token 数 #889

@s6yoho

Description

@s6yoho

问题描述

OpenAI 兼容接口的响应中已包含 cached_tokens 信息:

"usage": {
  "prompt_tokens": 11099,
  "prompt_tokens_details": {
    "cached_tokens": 10624
  }
}

但在使用记录/Dashboard 中没有展示缓存 token 数,无法直观看出缓存命中效果。

期望行为

使用记录中展示 cached_tokens 字段,方便用户了解缓存命中情况。

Metadata

Metadata

Assignees

No one assigned

    Projects

    Status

    Backlog

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions