Skip to content

可观测性

监测和代理大语言模型的请求和响应。

选择可观测性提供商

在 设置 > 扩展 > 可观测性 中选择以下提供商之一:

  • Cloudflare AI Gateway

Cloudflare AI Gateway

在 Cloudflare 中创建 AI Gateway:Cloudflare 仪表板 > AI > AI Gateway > Create Gateway:

在 ChatWise 设置中配置:

您可以通过访问 Cloudflare 仪表板 https://dash.cloudflare.com/ 找到您的 Cloudflare 账户 ID,访问仪表盘的时候会跳转到 https://dash.cloudflare.com/{YOUR_ACCOUNT_ID}

然后在支持的提供商设置页面会显示可观测性状态:

WARNING

确保相应提供商的 API Base URL 为空,否则将不会启用可观测性。

API 密钥

你可以在 Cloudflare AI Gateway 内置的 Provider Keys 功能存储各个提供商的 API 密钥,这样就不需要手动在 ChatWise 中再输入 API 密钥了。如果你同时在 ChatWise 中输入了 API 密钥,那么你在 Cloudflare AI Gateway 上存储的 API 密钥将不会被使用。

已知问题

  • Cloudflare AI Gateway + Google AI Studio 不支持流式响应,issue
  • Cloudflare AI Gateway + Google AI Studio 在 Provider Keys 中存储 API Key 会报错, issue