Sakurasan
c39c3e7da4
- 上游 429 的 Retry-After 转成渠道冷却时长（夹在 10 分钟内；比默认值短则不缩短， 否则 1s 就把坏渠道放回轮转）。失败计数改由 proxyOne 就地报——只有它读得到响应头。 - 故障转移时间预算 OT_PROXY_FAILOVER_BUDGET（默认 30s）：只约束第二个及以后的渠道， 首个不受限（长回答本就要跑几分钟），但坏渠道不再把客户端拖到 N×timeout。 - 流式空闲心跳 OT_PROXY_STREAM_HEARTBEAT（默认 15s）：补一行 SSE 注释 `: ping`， 防止 nginx/Cloudflare 的空闲超时掐掉长思考。心跳与正文共用一把写的锁， gin 的 ResponseWriter 不是并发安全的；注释行不进转换也不计费。 - 渠道观测：GET /api/v1/admin/channels/stats?window=5m|1h|6h|24h|7d 聚合请求量、 成功率、P50/P95/max 延迟、成本与 top_errors；分位只取成功样本，canceled（客户端 主动断开）不计入渠道错误率。渠道页桌面表格加「近N小时」列、移动端加同内容条， 顶部可切窗口。 - 修一个让统计瞎掉的归因问题：全部渠道失败时 recordError 传的是 nil， usage_logs 里 channel_id=0，这类失败在渠道维度完全看不见。改为归到最后一个 真正试过的渠道。 - 模型定价与元数据：Model 新增 cache_write_price（0 则回退输入价×1.25，可显式配 Anthropic 1h 的 ×2）、context_length 与 supports_tools/vision/reasoning； finishUsage 走 CacheWritePriceOr()。/v1/models 叠加用户与密钥白名单过滤 （原来会把限制外的模型名直接泄漏在列表里）并返回元数据，价格不外泄。 - /v1/models 的 Anthropic 分支原是死代码：协议只按路径判，而两种客户端共用这个路径。 改为按 x-api-key / anthropic-version 头判，OpenAI SDK 从不发这两个头，互不影响。 - NewGateway 的十个位置参数换成 Options 结构体（三个 Duration 两个 int，传错编译期发现不了）。 新增 6 个用例：Retry-After 两种写法与夹顶、重试预算截止、空闲心跳出帧、 /v1/models 过滤与双形状、缓存写价两条路径、失败归因。
70 lines
1.6 KiB
Go
70 lines
1.6 KiB
Go
// Package cli 命令行入口。
|
|
package cli
|
|
|
|
import (
|
|
"context"
|
|
"errors"
|
|
"log"
|
|
"net/http"
|
|
"os"
|
|
"os/signal"
|
|
"strconv"
|
|
"syscall"
|
|
"time"
|
|
|
|
"github.com/openteam/server/internal/api"
|
|
"github.com/openteam/server/internal/app"
|
|
"github.com/openteam/server/internal/config"
|
|
"github.com/openteam/server/internal/proxy"
|
|
)
|
|
|
|
// serve 启动 HTTP 服务（默认子命令）。
|
|
func serve() error {
|
|
cfg, err := config.Load()
|
|
if err != nil {
|
|
return err
|
|
}
|
|
|
|
a, err := app.New(cfg)
|
|
if err != nil {
|
|
return err
|
|
}
|
|
defer a.Shutdown(context.Background())
|
|
|
|
gw := proxy.NewGateway(a.DB, a.Enc, a.Usage, a.Limit, proxy.Options{
|
|
UserRPS: cfg.RateLimit.UserRPS,
|
|
LogRaw: cfg.Proxy.LogRaw,
|
|
GWTimeout: cfg.Proxy.Timeout,
|
|
MaxBodyMB: cfg.Proxy.MaxBodyMB,
|
|
FailoverBudget: cfg.Proxy.FailoverBudget,
|
|
StreamHeartbeat: cfg.Proxy.StreamHeartbeat,
|
|
})
|
|
router := api.NewRouter(a, gw)
|
|
|
|
srv := &http.Server{
|
|
Addr: ":" + strconv.Itoa(cfg.Port),
|
|
Handler: router,
|
|
ReadHeaderTimeout: 10 * time.Second,
|
|
}
|
|
|
|
go func() {
|
|
log.Printf("openteam listening on %s (env=%s)", srv.Addr, cfg.Env)
|
|
if err := srv.ListenAndServe(); err != nil && !errors.Is(err, http.ErrServerClosed) {
|
|
log.Fatalf("server: %v", err)
|
|
}
|
|
}()
|
|
|
|
quit := make(chan os.Signal, 1)
|
|
signal.Notify(quit, syscall.SIGINT, syscall.SIGTERM)
|
|
<-quit
|
|
|
|
log.Println("shutting down...")
|
|
ctx, cancel := context.WithTimeout(context.Background(), 10*time.Second)
|
|
defer cancel()
|
|
if err := srv.Shutdown(ctx); err != nil {
|
|
log.Printf("server shutdown: %v", err)
|
|
}
|
|
a.Usage.Close()
|
|
return nil
|
|
}
|