 Sakurasan
|
d4c5263f1e
|
feat: 运行期渠道冷却可见并可手动恢复
运行期冷却只存在网关进程内存里，DB 的 health_status 看不见它：渠道被踢到
30s 冷却后，管理后台仍显示 healthy，模型也照常出现在 /v1/models，但请求
返回 503 no_channel，管理员只能去翻日志。
- channel.Service 增 RuntimeState（连续失败次数 + 冷却剩余）与 ClearRuntime；
Gateway 包装出 ChannelRuntime / RecoverChannel 供管理端调用。
- GET /api/v1/admin/channels 每项返回 runtime_fails 与 cooldown_seconds。
- 新增 POST /api/v1/admin/channels/:id/recover：清运行期冷却与失败计数，并把
探测写的 health_status 置回 healthy；不改 enabled，上游若真挂着，下一次探测
或再连续 3 次请求失败会重新把它踢掉。
- 渠道页健康列下方显示「冷却中 Ns」/「连续失败 n/3」，仅在冷却或探测不健康时
出现「立即恢复」按钮（卡片与桌面表格两套布局都覆盖）。
仍未处理：冷却到期是裸恢复、没有 half-open 试探；计数是进程内的，多实例各自
为战，要共享得等 Redis 那一步。
|
2026-10-17 01:19:03 +08:00 |
|
|
Sakurasan
|
e865f69a41
|
fix: 修掉模型调用链路上的四处失效逻辑
- 超时：NewGateway 里 gw_timeout*time.Second 把已是 Duration 的值二次换算，
int64 溢出后无论 OT_PROXY_TIMEOUT 填多少都等于没有超时，渠道 timeout_ms
也从没被读过。现在非流式用 context deadline 约束整段时长，流式只约束首包
（Transport.ResponseHeaderTimeout），正文不限时长，长回答不会被砍。
- 断连：上游请求改用 NewRequestWithContext 绑定客户端 context，客户端断开即
取消上游并记 canceled，不再空转生成继续付费；PATCH 已写 200 头后不再往
响应里追加错误体。
- 白名单：APIKey.AllowedModels 以前只存不用，现在 Auth 注入 context 并参与
判定（用户黑名单 > 密钥白名单 > 用户白名单 > 全局）。
- 选路：模型已有渠道绑定时只用绑定渠道，都不可用直接 503 no_channel，不再
把请求发给不认识它的渠道；新增运行期健康（连续 3 次网络错误/超时/429/5xx
进 30s 冷却，成功清零），与 60s 一次的 /models 探测互补。
- 密钥 API：PATCH 回显更新后的完整对象；限额填 0 统一视为不限制（原来
token 配额存 0 会让密钥第一次请求就被 429 打死，而请求配额存 0 又等于
不限制，两个字段语义相反）；前端编辑框总是提交白名单，清空能真的取消。
测试：新增 proxy 链路集成测试（超时生效、流式不被截断、断连取消并记账、
密钥白名单 403、连续 429 后候选剔除）与 channel 用例（绑定模型不退全局、
冷却阈值与到期恢复、成功清零）。
|
2026-10-16 19:15:51 +08:00 |
|
|
Sakurasan
|
a45a6e16bd
|
fix: API Key 前缀调整为 sk-ot-
|
2026-08-26 15:57:04 +08:00 |
|
|
Sakurasan
|
c78a473e59
|
feat: API Key 前缀改为 sk-ot
- apikey 包 prefix 常量 sk- → sk-ot（生成/校验/展示前缀统一驱动）
- 鉴权错误提示同步更新为 sk-ot 格式
- 测试断言改用常量，避免硬编码长度
- 前端 curl 示例与 README/PLANNING 文档同步
|
2026-08-25 00:34:50 +08:00 |
|
 SakurasanandClaude
|
4846db9293
|
M3 收尾: 限流/配额 + 前端骨架屏 + 单端口托管前端
- ratelimit(内存计数): 密钥级每日请求数/Token 配额、用户级每秒速率
(OT_RATELIMIT_USER_RPS), 超限返回 429
- 网关 Auth 前置配额/限流检查, finishUsage 累计密钥 token 用量
- 前端 Skeleton 组件 + Dashboard/管理总览加载态
- Go 服务托管 web/dist 静态资源(SPA 回退), 单端口即可访问前后端
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-08-15 16:13:09 +08:00 |
|
|
SakurasanandClaude
|
0637ce0a51
|
M5: 渠道体系(负载均衡+并发控制+健康检查+故障转移)
- channel.Candidates 按模型绑定取候选 + Pick 加权随机负载均衡
- TryAcquire 每渠道并发信号量, 满载溢出到其他候选
- HealthMonitor 后台定时探测, 连续失败进 cooldown, 恢复放回(可配 interval/threshold)
- doProxy 遍历候选故障转移: 网络错误/429/5xx/超时且未写出响应头时安全重试;
400 等业务错误透传, 流式写出首字节后放弃重试
- 单测覆盖候选过滤/加权/并发/健康状态机
- E2E: 杀上游自动切换、cooldown、恢复、并发溢出 10/10
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-08-15 15:57:48 +08:00 |
|
|
SakurasanandClaude
|
ec4de8d913
|
M0-M4: 推倒重来基线(基建+用户/密钥/核心代理+前端+管理后台+三协议互转)
- 后端 Go+Gin+GORM: 配置(OT_ env)/SQLite/Postgres 双驱动、用户体系(argon2id+JWT access/refresh)、
API Key(sk- 48位, 仅存 SHA-256 哈希)
- 代理网关: /v1/chat/completions、/v1/responses、/v1/messages、/v1/models;错误按客户端协议返回
- 三协议互转(convert 包): Chat↔Messages↔Responses 请求/响应 + 流式 SSE 逐事件转换(直通优先)
- 用量计费: 异步批量记账、余额扣减、balance_logs、usage_daily 日聚合
- 管理 API: 用户/渠道 CRUD+测试+模型导入/模型定价+绑定/统计/系统配置
- 前端 Vue3+TS+Tailwind(taste-skill 设计 tokens): Landing/登录注册/控制台/管理后台,
自建组件+Phosphor 图标+自建 SVG 趋势图, 已过 web-design-guidelines 复查
- mock 上游: OpenAI+Anthropic 双协议模拟(含流式)
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-08-15 15:34:06 +08:00 |
|
|
Sakurasan
|
360c6b33a6
|
M0+M1: 基建 + 用户/密钥/核心代理
后端 (Go/Gin/GORM):
- 配置(viper+env)、SQLite/Postgres 迁移、argon2id、AES-GCM 渠道密钥、JWT+refresh cookie
- 用户注册/登录/刷新/登出、API Key CRUD(仅存哈希、明文一次展示)
- 代理网关: /v1/chat/completions、/v1/responses、/v1/models 直通 OpenAI 渠道
非流式+流式(SSE 零缓冲转发), 用量捕获(chat 末块/responses completed 嵌套),
OpenAI 错误格式(401/402/404/502), 余额检查
- 异步批量记账 + 余额流水 + 日聚合, admin 用户/余额/配置 API
- 单测: crypto/jwt/apikey/流式 usage 提取
前端 (Vue3+TS+Vite+Tailwind v4):
- taste-skill 设计 tokens: 深色仪表盘, 石墨+信号铜色, Outfit+JetBrains Mono
- Landing/登录/注册, 控制台(仪表盘图表/密钥管理/用量明细)
- 基础组件 Button/Input/Badge/Modal, ECharts 用量图
部署: docker-compose(nginx+api+postgres), 双 Dockerfile, nginx SSE 反代
联调: scripts/mockupstream 本地 mock 上游, 端到端验证通过
|
2026-08-15 13:10:47 +08:00 |
|