fix:maxTokens
This commit is contained in:
@@ -94,7 +94,9 @@ func (c *Claude) Chat(ctx context.Context, chatReq llm.ChatRequest) (*llm.ChatRe
|
|||||||
if chatReq.MaxTokens > 0 {
|
if chatReq.MaxTokens > 0 {
|
||||||
maxTokens = chatReq.MaxTokens
|
maxTokens = chatReq.MaxTokens
|
||||||
} else {
|
} else {
|
||||||
if strings.Contains(chatReq.Model, "sonnet") || strings.Contains(chatReq.Model, "haiku") {
|
if strings.Contains(chatReq.Model, "3-7") {
|
||||||
|
maxTokens = 64000
|
||||||
|
} else if strings.Contains(chatReq.Model, "3-5") {
|
||||||
maxTokens = 8192
|
maxTokens = 8192
|
||||||
} else {
|
} else {
|
||||||
maxTokens = 4096
|
maxTokens = 4096
|
||||||
|
|||||||
Reference in New Issue
Block a user