Sakurasan
9f4d631fc4
路由与故障转移（参考 openteam 语义） - channel.Candidates：绑定模型优先（携带 upstream_model 映射）， 未绑定模型回退到权重最低的健康备用渠道；新增 Pick 加权随机与 FilterHealthy 内存健康过滤 - gateway.Dispatch：遍历候选渠道，可重试失败（连接错误/429/5xx）自动故障转移， 4xx 透传；不再使用单一 SelectChannel - 修复 gorm default 标签把渠道 weight=0 静默改写为 1 的问题（去掉 default， 权重 0 语义 = 不参与加权选择，仅作备用承接 unbound 流量） - RecordFailure 连续 2 次进入 degraded 快速熔断，健康检查成功或冷却过期后复位 网关功能补全 - /v1/models 返回 DB 中启用的模型列表（替换 TODO 存根） - 请求级 request_id 生成与用量记录接入：流式 SSE 逐块累计 usage、 非流式从响应提取，按模型定价计算成本后经 usage.Recorder 异步落库 - 流式结束检测：chat 的 [DONE]、messages 的 message_stop、responses 的 response.completed，避免 keep-alive 上游发完不关连接导致读阻塞到超时 - ResponsesRequest.input 兼容字符串与条目数组两种客户端写法 测试 - 修复 convert_test 对新 input 形态的断言 - 网关 e2e（/tmp/test_gateway.py + mock upstream）72/72 全部通过，连续 3 次稳定
opencatd-open OpenTeam
本项目即将更名，后续请关注 👉🏻 https://github.com/mirrors2/openteam
opencatd-open is an open-source, team-shared service for OpenAI-compatible LLM APIs — route clients to any provider through a single endpoint, share costs, and track usage across your team.
OpenCat for Team的开源实现
基本实现了opencatd的全部功能
(openai附属能力:whisper,tts,dall-e(text to image)...)
Extra Support:
| 🎯 | 🚧 | Extra Provider |
|---|---|---|
| OpenAI | ✅ | Azure, Github Marketplace |
| Claude | ✅ | VertexAI |
| Gemini | ✅ | |
| ... | ... |
快速上手
docker run -d --name opencatd -p 80:80 -v /etc/opencatd:/app/db mirrors2/opencatd-open
docker-compose
version: '3.7'
services:
opencatd:
image: mirrors2/opencatd-open
container_name: opencatd-open
restart: unless-stopped
ports:
- 80:80
volumes:
- /etc/opencatd:/app/db
or
wget https://github.com/mirrors2/opencatd-open/raw/main/docker/docker-compose.yml
支持的命令
获取 root 的 token
docker exec opencatd-open opencatd root_token
重置 root 的 token
docker exec opencatd-open opencatd reset_root
导出 user info -> user.json (docker file path: /app/db/user.json)
docker exec opencatd-open opencatd save
导入 user.json -> db
docker exec opencatd-open opencatd load
Q&A
关于证书?
- docker部署会白白占用掉VPS的80，443很不河里,建议用Nginx/Caddy/Traefik等反代并自动管理HTTPS证书.
没有服务器?
使用Nginx + Docker部署
pandora for team
如何自定义HOST地址? (仅OpenAI)
- 需修改环境变量，优先级递增(全局配置谨慎修改)
- Cloudflare AI Gateway地址
AIGateWay_Endpoint=https://gateway.ai.cloudflare.com/v1/123456789/xxxx/openai/chat/completions - 自定义的endpoint
OpenAI_Endpoint=https://your.domain/v1/chat/completions
设置主页跳转地址?
- 修改环境变量
CUSTOM_REDIRECT=https://your.domain
获取更多信息
赞助
License
