openteam

113 Commits 2 Branches 0 Tags

2 Commits

Include renames

Author	SHA1	Message	Date
Sakurasan	8e5fe16611	perf: 鉴权缓存让命中请求零 SQL，去掉两个无用索引 profile（16 并发）显示请求路径的 CPU 有 ~70% 花在鉴权上：每个代理请求都要用密钥哈希查 api_keys、再用 user_id 查 users，两条随机读。 - 新增鉴权缓存（OT_PROXY_AUTH_CACHE_TTL，默认 2s，0=关闭）：缓存密钥与用户行，但密钥状态、用户状态、密钥过期仍按当前时间逐请求判定；管理端写操作与用户的密钥写操作经中间件立即清空缓存。余额随用户行一起缓存，只影响「≤0 就 402」这道软闸，最长滞后一个 TTL（请求照样计费）。 - last_used_at 节流改由缓存内的 touch 表记账（原先按 DB 行时间戳判断，行被缓存后时间戳不再变化，会导致每请求都写一次库）。touch 用 sync.Map：早先与缓存共用一把排他锁，16 并发下互斥饥饿把吞吐从 31k 拖到 3.2k（p99 7ms），换 sync.Map 后消失。 - 去掉 usage_logs 上从未被查询过滤的 key_id / trace_id 索引（没有查询按它们过滤，每个索引都是每行一次 B-tree 插入）；schema v8 迁移里显式 DROP 旧库上的索引。实测（16 并发、mock 上游、SQLite）： - 鉴权缓存开：p50 131–177µs、p99 0.6–1.2ms、RPS 56k–81k - 鉴权缓存关：p50 535–631µs、p99 1.6–2.8ms、RPS 21k–27k （4 并发下同样受益：30k→41k）测试：新增缓存命中零 SQL、状态/过期重判、失效、TTL 到期、缓存关闭、并发七项； go vet、go test ./...、-race（proxy/usage/store/api）全绿。	2026-10-30 16:31:41 +08:00
Sakurasan	8c12207478	perf: 目录缓存与流式正文快路径，请求热路径开销减半按性能分析逐项落地，实测对比（16 并发、mock 上游零延迟、SQLite）： - 每请求 SQL 10 → 2：模型/渠道目录（模型行、绑定、渠道行）进程内缓存 10s，运行期状态（冷却、健康）仍每次实时判定；管理端写操作经中间件、健康状态变化经回调立即失效。新增 TestProxyRequestSQLBudget 钉住预算。 - 端到端 p50 1.3–1.6ms → 0.66–0.70ms，RPS 3.5–8.9k → 16–18k。 - 流式正文累积：字符串 += 改 strings.Builder（原为 O(n²)），逐行 JSON 提取改字节快路径，并加廉价的子串预过滤、拿到输出 usage 后停累积。 500 块：949µs/7.9MB 分配 → 83µs/136KB。 - 请求体定点改写：模型映射从整包 unmarshal/marshal 改为顶层字段替换（100KB：585µs → 29µs），stream_options 注入同理；requestText 改为只在「上游没报用量」时按需提取，亲和键改用原始体前缀。 - 渠道满载背压：新增 Acquire 有界排队（OT_PROXY_CHANNEL_ACQUIRE_WAIT，默认 150ms）；排队仍满时返回 503 + Retry-After 而不是 502。实测渠道上限 4、16 并发：无排队 81 次 503；排队 150ms 后 400/400 成功。 - 记账按批聚合：同批同用户一次扣款、流水批量插入、日表按 (user,model,日期) 聚合，替代每行 5 条语句；幂等仍靠 ref_id 唯一索引兜底。 - gorm 开启 PrepareStmt（SQL 解析此前占 CPU 15%）；tiktoken 编码器按模型复用。 - 管理端用量列表不再返回原始请求/响应体（可能几十 MB），改为 has_raw 标记 + GET /admin/usage/:id 按需拉取，前端弹窗打开时取。验证：go vet、go test ./...、go test -race（proxy/channel/usage/tokenizer）、 vue-tsc、eslint、vite build 全绿；本地起 mock 上游实测列表/详情接口与管理页弹窗按需加载。	2026-10-30 14:14:21 +08:00

Author

SHA1

Message

Date

Sakurasan

8e5fe16611

perf: 鉴权缓存让命中请求零 SQL，去掉两个无用索引

profile（16 并发）显示请求路径的 CPU 有 ~70% 花在鉴权上：每个代理请求都要用
密钥哈希查 api_keys、再用 user_id 查 users，两条随机读。

- 新增鉴权缓存（OT_PROXY_AUTH_CACHE_TTL，默认 2s，0=关闭）：缓存密钥与用户行，
  但密钥状态、用户状态、密钥过期仍按当前时间逐请求判定；管理端写操作与用户的
  密钥写操作经中间件立即清空缓存。余额随用户行一起缓存，只影响「≤0 就 402」
  这道软闸，最长滞后一个 TTL（请求照样计费）。
- last_used_at 节流改由缓存内的 touch 表记账（原先按 DB 行时间戳判断，行被缓存后
  时间戳不再变化，会导致每请求都写一次库）。touch 用 sync.Map：早先与缓存共用一把
  排他锁，16 并发下互斥饥饿把吞吐从 31k 拖到 3.2k（p99 7ms），换 sync.Map 后消失。
- 去掉 usage_logs 上从未被查询过滤的 key_id / trace_id 索引（没有查询按它们过滤，
  每个索引都是每行一次 B-tree 插入）；schema v8 迁移里显式 DROP 旧库上的索引。

实测（16 并发、mock 上游、SQLite）：
- 鉴权缓存开：p50 131–177µs、p99 0.6–1.2ms、RPS 56k–81k
- 鉴权缓存关：p50 535–631µs、p99 1.6–2.8ms、RPS 21k–27k
（4 并发下同样受益：30k→41k）

测试：新增缓存命中零 SQL、状态/过期重判、失效、TTL 到期、缓存关闭、并发七项；
go vet、go test ./...、-race（proxy/usage/store/api）全绿。

2026-10-30 16:31:41 +08:00

Sakurasan

8c12207478

perf: 目录缓存与流式正文快路径，请求热路径开销减半

按性能分析逐项落地，实测对比（16 并发、mock 上游零延迟、SQLite）：

- 每请求 SQL 10 → 2：模型/渠道目录（模型行、绑定、渠道行）进程内缓存 10s，
  运行期状态（冷却、健康）仍每次实时判定；管理端写操作经中间件、
  健康状态变化经回调立即失效。新增 TestProxyRequestSQLBudget 钉住预算。
- 端到端 p50 1.3–1.6ms → 0.66–0.70ms，RPS 3.5–8.9k → 16–18k。
- 流式正文累积：字符串 += 改 strings.Builder（原为 O(n²)），
  逐行 JSON 提取改字节快路径，并加廉价的子串预过滤、拿到输出 usage 后停累积。
  500 块：949µs/7.9MB 分配 → 83µs/136KB。
- 请求体定点改写：模型映射从整包 unmarshal/marshal 改为顶层字段替换
  （100KB：585µs → 29µs），stream_options 注入同理；requestText 改为
  只在「上游没报用量」时按需提取，亲和键改用原始体前缀。
- 渠道满载背压：新增 Acquire 有界排队（OT_PROXY_CHANNEL_ACQUIRE_WAIT，
  默认 150ms）；排队仍满时返回 503 + Retry-After 而不是 502。
  实测渠道上限 4、16 并发：无排队 81 次 503；排队 150ms 后 400/400 成功。
- 记账按批聚合：同批同用户一次扣款、流水批量插入、日表按 (user,model,日期)
  聚合，替代每行 5 条语句；幂等仍靠 ref_id 唯一索引兜底。
- gorm 开启 PrepareStmt（SQL 解析此前占 CPU 15%）；tiktoken 编码器按模型复用。
- 管理端用量列表不再返回原始请求/响应体（可能几十 MB），
  改为 has_raw 标记 + GET /admin/usage/:id 按需拉取，前端弹窗打开时取。

验证：go vet、go test ./...、go test -race（proxy/channel/usage/tokenizer）、
vue-tsc、eslint、vite build 全绿；本地起 mock 上游实测列表/详情接口与
管理页弹窗按需加载。

2026-10-30 14:14:21 +08:00