Adding change to the max token in kwargs
This commit is contained in:
@@ -10,7 +10,7 @@
|
|||||||
"rl_requests": 0,
|
"rl_requests": 0,
|
||||||
"rl_input": 0,
|
"rl_input": 0,
|
||||||
"rl_output": 0,
|
"rl_output": 0,
|
||||||
"kwargs": {"max_tokens": 4096}
|
"kwargs": {"max_tokens": 32000}
|
||||||
},
|
},
|
||||||
"utility_model": {
|
"utility_model": {
|
||||||
"provider": "ollama",
|
"provider": "ollama",
|
||||||
|
|||||||
@@ -11,7 +11,7 @@
|
|||||||
"rl_input": 0,
|
"rl_input": 0,
|
||||||
"rl_output": 0,
|
"rl_output": 0,
|
||||||
"kwargs": {
|
"kwargs": {
|
||||||
"max_tokens": 4096,
|
"max_tokens": 32000,
|
||||||
"agent_id": 3
|
"agent_id": 3
|
||||||
},
|
},
|
||||||
"max_embeds": 10
|
"max_embeds": 10
|
||||||
|
|||||||
@@ -11,7 +11,7 @@
|
|||||||
"rl_input": 0,
|
"rl_input": 0,
|
||||||
"rl_output": 0,
|
"rl_output": 0,
|
||||||
"kwargs": {
|
"kwargs": {
|
||||||
"max_tokens": 4096,
|
"max_tokens": 32000,
|
||||||
"agent_id": 8
|
"agent_id": 8
|
||||||
},
|
},
|
||||||
"max_embeds": 10
|
"max_embeds": 10
|
||||||
|
|||||||
@@ -11,7 +11,7 @@
|
|||||||
"rl_input": 0,
|
"rl_input": 0,
|
||||||
"rl_output": 0,
|
"rl_output": 0,
|
||||||
"kwargs": {
|
"kwargs": {
|
||||||
"max_tokens": 4096,
|
"max_tokens": 32000,
|
||||||
"agent_id": 5
|
"agent_id": 5
|
||||||
},
|
},
|
||||||
"max_embeds": 10
|
"max_embeds": 10
|
||||||
|
|||||||
Reference in New Issue
Block a user