Sakurasan
8c12207478
按性能分析逐项落地，实测对比（16 并发、mock 上游零延迟、SQLite）： - 每请求 SQL 10 → 2：模型/渠道目录（模型行、绑定、渠道行）进程内缓存 10s， 运行期状态（冷却、健康）仍每次实时判定；管理端写操作经中间件、 健康状态变化经回调立即失效。新增 TestProxyRequestSQLBudget 钉住预算。 - 端到端 p50 1.3–1.6ms → 0.66–0.70ms，RPS 3.5–8.9k → 16–18k。 - 流式正文累积：字符串 += 改 strings.Builder（原为 O(n²)）， 逐行 JSON 提取改字节快路径，并加廉价的子串预过滤、拿到输出 usage 后停累积。 500 块：949µs/7.9MB 分配 → 83µs/136KB。 - 请求体定点改写：模型映射从整包 unmarshal/marshal 改为顶层字段替换 （100KB：585µs → 29µs），stream_options 注入同理；requestText 改为 只在「上游没报用量」时按需提取，亲和键改用原始体前缀。 - 渠道满载背压：新增 Acquire 有界排队（OT_PROXY_CHANNEL_ACQUIRE_WAIT， 默认 150ms）；排队仍满时返回 503 + Retry-After 而不是 502。 实测渠道上限 4、16 并发：无排队 81 次 503；排队 150ms 后 400/400 成功。 - 记账按批聚合：同批同用户一次扣款、流水批量插入、日表按 (user,model,日期) 聚合，替代每行 5 条语句；幂等仍靠 ref_id 唯一索引兜底。 - gorm 开启 PrepareStmt（SQL 解析此前占 CPU 15%）；tiktoken 编码器按模型复用。 - 管理端用量列表不再返回原始请求/响应体（可能几十 MB）， 改为 has_raw 标记 + GET /admin/usage/:id 按需拉取，前端弹窗打开时取。 验证：go vet、go test ./...、go test -race（proxy/channel/usage/tokenizer）、 vue-tsc、eslint、vite build 全绿；本地起 mock 上游实测列表/详情接口与 管理页弹窗按需加载。
75 lines
1.8 KiB
Go
75 lines
1.8 KiB
Go
// Package cli 命令行入口。
|
|
package cli
|
|
|
|
import (
|
|
"context"
|
|
"errors"
|
|
"log"
|
|
"net/http"
|
|
"os"
|
|
"os/signal"
|
|
"strconv"
|
|
"syscall"
|
|
"time"
|
|
|
|
"github.com/openteam/server/internal/api"
|
|
"github.com/openteam/server/internal/app"
|
|
"github.com/openteam/server/internal/config"
|
|
"github.com/openteam/server/internal/proxy"
|
|
)
|
|
|
|
// serve 启动 HTTP 服务（默认子命令）。
|
|
func serve() error {
|
|
cfg, err := config.Load()
|
|
if err != nil {
|
|
return err
|
|
}
|
|
|
|
a, err := app.New(cfg)
|
|
if err != nil {
|
|
return err
|
|
}
|
|
defer a.Shutdown(context.Background())
|
|
|
|
gw := proxy.NewGateway(a.DB, a.Enc, a.Usage, a.Limit, proxy.Options{
|
|
UserRPS: cfg.RateLimit.UserRPS,
|
|
LogRaw: cfg.Proxy.LogRaw,
|
|
GWTimeout: cfg.Proxy.Timeout,
|
|
MaxBodyMB: cfg.Proxy.MaxBodyMB,
|
|
FailoverBudget: cfg.Proxy.FailoverBudget,
|
|
StreamHeartbeat: cfg.Proxy.StreamHeartbeat,
|
|
FirstTokenWait: cfg.Proxy.FirstTokenWait,
|
|
AffinityTTL: cfg.Proxy.AffinityTTL,
|
|
ChannelAcquireWait: cfg.Proxy.ChannelAcquireWait,
|
|
})
|
|
// 渠道健康状态变化后让目录缓存立刻失效，而不是等 TTL
|
|
a.Health.OnChange = gw.InvalidateCatalog
|
|
router := api.NewRouter(a, gw)
|
|
|
|
srv := &http.Server{
|
|
Addr: ":" + strconv.Itoa(cfg.Port),
|
|
Handler: router,
|
|
ReadHeaderTimeout: 10 * time.Second,
|
|
}
|
|
|
|
go func() {
|
|
log.Printf("openteam listening on %s (env=%s)", srv.Addr, cfg.Env)
|
|
if err := srv.ListenAndServe(); err != nil && !errors.Is(err, http.ErrServerClosed) {
|
|
log.Fatalf("server: %v", err)
|
|
}
|
|
}()
|
|
|
|
quit := make(chan os.Signal, 1)
|
|
signal.Notify(quit, syscall.SIGINT, syscall.SIGTERM)
|
|
<-quit
|
|
|
|
log.Println("shutting down...")
|
|
ctx, cancel := context.WithTimeout(context.Background(), 10*time.Second)
|
|
defer cancel()
|
|
if err := srv.Shutdown(ctx); err != nil {
|
|
log.Printf("server shutdown: %v", err)
|
|
}
|
|
a.Usage.Close()
|
|
return nil
|
|
}
|