perf: 目录缓存与流式正文快路径,请求热路径开销减半
按性能分析逐项落地,实测对比(16 并发、mock 上游零延迟、SQLite): - 每请求 SQL 10 → 2:模型/渠道目录(模型行、绑定、渠道行)进程内缓存 10s, 运行期状态(冷却、健康)仍每次实时判定;管理端写操作经中间件、 健康状态变化经回调立即失效。新增 TestProxyRequestSQLBudget 钉住预算。 - 端到端 p50 1.3–1.6ms → 0.66–0.70ms,RPS 3.5–8.9k → 16–18k。 - 流式正文累积:字符串 += 改 strings.Builder(原为 O(n²)), 逐行 JSON 提取改字节快路径,并加廉价的子串预过滤、拿到输出 usage 后停累积。 500 块:949µs/7.9MB 分配 → 83µs/136KB。 - 请求体定点改写:模型映射从整包 unmarshal/marshal 改为顶层字段替换 (100KB:585µs → 29µs),stream_options 注入同理;requestText 改为 只在「上游没报用量」时按需提取,亲和键改用原始体前缀。 - 渠道满载背压:新增 Acquire 有界排队(OT_PROXY_CHANNEL_ACQUIRE_WAIT, 默认 150ms);排队仍满时返回 503 + Retry-After 而不是 502。 实测渠道上限 4、16 并发:无排队 81 次 503;排队 150ms 后 400/400 成功。 - 记账按批聚合:同批同用户一次扣款、流水批量插入、日表按 (user,model,日期) 聚合,替代每行 5 条语句;幂等仍靠 ref_id 唯一索引兜底。 - gorm 开启 PrepareStmt(SQL 解析此前占 CPU 15%);tiktoken 编码器按模型复用。 - 管理端用量列表不再返回原始请求/响应体(可能几十 MB), 改为 has_raw 标记 + GET /admin/usage/:id 按需拉取,前端弹窗打开时取。 验证:go vet、go test ./...、go test -race(proxy/channel/usage/tokenizer)、 vue-tsc、eslint、vite build 全绿;本地起 mock 上游实测列表/详情接口与 管理页弹窗按需加载。
This commit is contained in:
1 parent
d34d9bd2e6
commit
8c12207478
23 files changed
+1050
-170
No files matched your search
@@ -170,3 +170,51 @@ func TestBillingRefIDImpotency(t *testing.T) {
|
||||
t.Errorf("balance logs = %d, want 1", n)
|
||||
}
|
||||
}
|
||||
|
||||
// 一批同用户请求:一次扣款、一条日聚合(而不是逐行 upsert)。
|
||||
func TestBillingAggregatesBatch(t *testing.T) {
|
||||
db := openTestDB(t)
|
||||
u := seedUser(t, db, 100)
|
||||
m := seedModel(t, db)
|
||||
|
||||
rec := NewRecorder(db)
|
||||
const n = 32
|
||||
for i := 0; i < n; i++ {
|
||||
rec.Record(&store.UsageLog{
|
||||
TraceID: fmt.Sprintf("agg-%d", i), UserID: u, ModelID: m, ModelName: "m1",
|
||||
InputTokens: 10, OutputTokens: 5, Cost: 0.01,
|
||||
Status: store.UsageStatusSuccess, CreatedAt: time.Now().UTC(),
|
||||
})
|
||||
}
|
||||
rec.Close()
|
||||
|
||||
var user store.User
|
||||
if err := db.First(&user, u).Error; err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
if want := 100 - 0.01*n; user.Balance-want > 1e-9 || user.Balance-want < -1e-9 {
|
||||
t.Fatalf("余额 = %v,期望 %v", user.Balance, want)
|
||||
}
|
||||
var ledgers int64
|
||||
db.Model(&store.BalanceLog{}).Where("user_id = ?", u).Count(&ledgers)
|
||||
if ledgers != n {
|
||||
t.Fatalf("流水条数 = %d,期望 %d(每请求一条明细)", ledgers, n)
|
||||
}
|
||||
var daily []store.UsageDaily
|
||||
db.Where("user_id = ?", u).Find(&daily)
|
||||
if len(daily) != 1 {
|
||||
t.Fatalf("日聚合应只有 1 行,实际 %d", len(daily))
|
||||
}
|
||||
if daily[0].Requests != n {
|
||||
t.Fatalf("日聚合 requests = %d,期望 %d", daily[0].Requests, n)
|
||||
}
|
||||
if d := daily[0].Cost - 0.01*n; d > 1e-9 || d < -1e-9 {
|
||||
t.Fatalf("日聚合 cost = %v,期望 %v", daily[0].Cost, 0.01*n)
|
||||
}
|
||||
// 流水里的 balance_after 应与扣款后余额一致(批内累计)
|
||||
var last store.BalanceLog
|
||||
db.Where("user_id = ?", u).Order("id DESC").First(&last)
|
||||
if last.BalanceAfter-user.Balance > 1e-9 || user.Balance-last.BalanceAfter > 1e-9 {
|
||||
t.Fatalf("最后一条流水 balance_after = %v,实际余额 %v", last.BalanceAfter, user.Balance)
|
||||
}
|
||||
}
|
||||
Reference in new issue
Block a user