# 模型日志

模型日志用于查看和追踪模型 API 的调用情况，帮助您了解 Token 用量和调用性能，并排查异常请求。

模型日志包括以下两类信息：

- **审计日志**：记录请求 ID、调用时间、模型、API Key、调用状态、Token 用量及性能指标等信息。
- **推理日志**：在审计信息的基础上，进一步记录模型 API 调用的请求和响应内容。推理日志默认关闭，需按项目手动开启。

> 推理日志借助日志服务 ULogService 存储。开启后会产生 ULogService 相关费用。

## 支持范围

当前支持记录文本模型同步调用和流式调用产生的日志。异步调用、批处理调用及其他类型模型暂不支持推理日志，具体支持范围以控制台展示为准。

推理日志以项目为单位生效。开启后，将记录当前项目下 API Key 发起的、符合支持范围的模型调用；其他项目不受影响。

## 开启推理日志

1. 登录 AstraFlow 星图控制台，进入**模型服务平台 > 模型日志**。
2. 单击页面右上角的**模型日志设置**。
3. 开启**推理日志**，阅读费用及数据记录提示后确认开启。

开启后，系统将开始记录模型 API 调用的请求和响应内容。日志数据写入和展示可能延迟约 3 分钟，请稍后刷新查看。

> **数据安全提示**
> 请求和响应中可能包含个人信息、业务数据或其他敏感内容。开启前，请确认日志记录行为符合您所在组织的数据安全与合规要求，并避免在请求中传入明文密钥等敏感凭证。

## 查看模型日志

进入**模型服务平台 > 模型日志**，可通过以下条件筛选调用记录：

- 时间范围
- API Key
- 地域
- 模型 ID
- 调用 ID

页面展示筛选范围内的总调用次数、失败次数及日志明细。每条日志明细主要包含：

| 信息 | 说明 |
| --- | --- |
| 调用 ID / 调用时间 | 标识一次模型调用及其发起时间 |
| Token 用量 | 展示总 Token 数及输入、输出 Token 数 |
| 首 Token 延时 | 从发起请求到返回首个 Token 的耗时 |
| 单请求输出 Token 速度 | 单次请求的平均输出速度，单位为 tokens/s |
| 请求与响应内容 | 展示本次调用的输入和模型输出；需开启推理日志 |
| 原始日志 | 查看本次调用的原始审计日志或推理日志信息 |

### 查看请求与响应内容

开启推理日志并产生调用后，可在日志明细的**请求与响应内容**列查看本次调用的输入和输出，用于复现上下文、分析模型效果或定位异常结果。

若推理日志尚未开启，该区域不会记录请求和响应正文；关闭期间产生的内容也无法补录或恢复。

## 导出日志

- **导出审计日志**：在模型日志页面单击**导出审计日志**，导出当前筛选范围内的审计数据。
- **导出推理日志**：若已开启推理日志，可单击**查看推理日志**前往日志服务 ULogService，选择与当前服务对应的项目和地域后，检索或导出日志数据。

推理日志支持按日志字段检索，便于按请求 ID、模型、API Key 等条件定位调用记录。具体检索及导出方式请参考 [ULogService 产品文档](https://docs.ucloud.cn/ulogservice/README)。

## 关闭推理日志

在**模型日志设置**中关闭推理日志后，系统将停止记录新的请求和响应内容。关闭期间产生的推理日志无法补录或恢复。

已记录的推理日志仍将保存在日志服务 ULogService 中，并按照实际存储和使用情况继续产生费用。如不再需要，请前往 ULogService 调整保存周期或删除相关日志数据。

## 数据保存与费用

- 模型日志页面可查询的时间范围及数据保存期限，以控制台页面提示为准。
- 推理日志的保存周期可在日志服务 ULogService 中管理，实际保存期限以 ULogService 配置为准。
- 开启推理日志后，相关数据将写入 ULogService，并根据日志写入、存储、索引、查询等资源的实际使用情况计费。
- 关闭推理日志只会停止新增记录，不会自动删除已存储的日志，因此仍可能产生存储费用。

计费项目和价格请参见 [日志服务 ULogService 计费说明](https://docs.ucloud.cn/ulogservice/bill/billing)。

## 常见问题

### 已调用模型，为什么没有看到请求和响应内容？

请依次确认：

1. 当前项目是否已开启推理日志；
2. 调用是否发生在开启推理日志之后；
3. 调用的模型及执行方式是否在支持范围内；
4. 筛选的项目、地域、时间范围、API Key 和模型是否正确；
5. 是否已等待约 3 分钟并刷新页面。

### 关闭推理日志后，已有日志会被删除吗？

不会。关闭后仅停止记录新的推理日志，已记录的数据仍保存在 ULogService 中，并可能继续产生存储费用。

### 为什么平台内的数据与 ULogService 中的数据不同？

两处数据的同步时间、筛选条件和保存周期可能不同。请检查项目、地域、时间范围及 ULogService 保存配置是否一致。