perf: 目录缓存与流式正文快路径,请求热路径开销减半

按性能分析逐项落地,实测对比(16 并发、mock 上游零延迟、SQLite):

- 每请求 SQL 10 → 2:模型/渠道目录(模型行、绑定、渠道行)进程内缓存 10s,
  运行期状态(冷却、健康)仍每次实时判定;管理端写操作经中间件、
  健康状态变化经回调立即失效。新增 TestProxyRequestSQLBudget 钉住预算。
- 端到端 p50 1.3–1.6ms → 0.66–0.70ms,RPS 3.5–8.9k → 16–18k。
- 流式正文累积:字符串 += 改 strings.Builder(原为 O(n²)),
  逐行 JSON 提取改字节快路径,并加廉价的子串预过滤、拿到输出 usage 后停累积。
  500 块:949µs/7.9MB 分配 → 83µs/136KB。
- 请求体定点改写:模型映射从整包 unmarshal/marshal 改为顶层字段替换
  (100KB:585µs → 29µs),stream_options 注入同理;requestText 改为
  只在「上游没报用量」时按需提取,亲和键改用原始体前缀。
- 渠道满载背压:新增 Acquire 有界排队(OT_PROXY_CHANNEL_ACQUIRE_WAIT,
  默认 150ms);排队仍满时返回 503 + Retry-After 而不是 502。
  实测渠道上限 4、16 并发:无排队 81 次 503;排队 150ms 后 400/400 成功。
- 记账按批聚合:同批同用户一次扣款、流水批量插入、日表按 (user,model,日期)
  聚合,替代每行 5 条语句;幂等仍靠 ref_id 唯一索引兜底。
- gorm 开启 PrepareStmt(SQL 解析此前占 CPU 15%);tiktoken 编码器按模型复用。
- 管理端用量列表不再返回原始请求/响应体(可能几十 MB),
  改为 has_raw 标记 + GET /admin/usage/:id 按需拉取,前端弹窗打开时取。

验证:go vet、go test ./...、go test -race(proxy/channel/usage/tokenizer)、
vue-tsc、eslint、vite build 全绿;本地起 mock 上游实测列表/详情接口与
管理页弹窗按需加载。
This commit is contained in:
Sakurasan committed 2026-10-30 14:14:21 +08:00
1 parent d34d9bd2e6
commit 8c12207478
23 files changed
+1050 -170

No files matched your search

+2
View File
@@ -125,6 +125,8 @@ export interface UsageLog {
error_code: string | null
raw_request?: string
raw_response?: string
/** 列表接口不再携带原始体,需要时用 /admin/usage/:id 取 */
has_raw?: boolean
created_at: string
user?: string
user_id?: number
+19 -4
View File
@@ -20,6 +20,7 @@ const pageSize = 15
const viewing = ref<UsageLog | null>(null)
const viewTab = ref<'request' | 'response'>('request')
const rawLoading = ref(false)
// cacheLine 缓存读/写的紧凑摘要(换行会碎成多行,只放两个数);无缓存流量返回空串。
function cacheLine(l: UsageLog): string {
@@ -65,9 +66,22 @@ function servedModel(l: UsageLog): string {
return l.served_model && l.served_model !== l.model ? l.served_model : ''
}
function openRaw(l: UsageLog) {
// openRaw 打开原始体弹窗:列表接口不返回原始体(可能几十 MB),
// 点开时才按 id 拉取详情。
async function openRaw(l: UsageLog) {
viewing.value = l
viewTab.value = 'request'
if (l.raw_request || l.raw_response) return
rawLoading.value = true
try {
const { data } = await http.get(`/admin/usage/${l.id}`)
viewing.value = { ...l, ...data.data }
Object.assign(l, data.data) // 回填列表行,再点开不必重复请求
} catch (e) {
toast.err(errMsg(e))
} finally {
rawLoading.value = false
}
}
// 用户自动补全候选(防抖 300ms)
@@ -198,7 +212,7 @@ onMounted(load)
<span v-if="cacheExtra(l)" class="mono-num">{{ cacheExtra(l) }}</span>
<span class="mono-num">{{ l.latency_ms }}ms</span>
<span class="mono-num w-full">{{ fmtTime(l.created_at) }}</span>
<Button v-if="l.raw_request" size="sm" variant="ghost" class="ml-auto" @click="openRaw(l)">查看原始</Button>
<Button v-if="l.has_raw || l.raw_request" size="sm" variant="ghost" class="ml-auto" @click="openRaw(l)">查看原始</Button>
</div>
</div>
<p v-if="logs.length === 0" class="card px-4 py-8 text-center text-sm text-muted">暂无请求记录</p>
@@ -248,7 +262,7 @@ onMounted(load)
{{ fmtClock(l.created_at) }}
</td>
<td class="px-4 py-2.5">
<Button v-if="l.raw_request" size="sm" variant="ghost" @click="openRaw(l)">查看</Button>
<Button v-if="l.has_raw || l.raw_request" size="sm" variant="ghost" @click="openRaw(l)">查看</Button>
<span v-else class="text-xs text-muted">-</span>
</td>
</tr>
@@ -296,8 +310,9 @@ onMounted(load)
</button>
</div>
</div>
<p v-if="rawLoading" class="rounded-md border border-edge bg-surface p-4 text-center text-xs text-muted">正在读取…</p>
<pre
v-if="viewTab === 'request' ? viewing.raw_request : viewing.raw_response"
v-else-if="viewTab === 'request' ? viewing.raw_request : viewing.raw_response"
class="max-h-[60vh] overflow-auto rounded-md border border-edge bg-surface p-3 font-mono text-xs leading-relaxed text-ink whitespace-pre-wrap break-all"
>{{ viewTab === 'request' ? viewing.raw_request : viewing.raw_response }}</pre>
<p v-else class="rounded-md border border-edge bg-surface p-4 text-center text-xs text-muted">