Spaces:
Running
Running
Update app.py
Browse files
app.py
CHANGED
@@ -51,11 +51,11 @@ def generate_response(user_input, tokenizer, model):
|
|
51 |
# Generamos una respuesta del modelo
|
52 |
outputs = model.generate(
|
53 |
**inputs,
|
54 |
-
max_new_tokens=
|
55 |
do_sample=True,
|
56 |
top_p=0.85, # Menos diversidad para mejorar coherencia
|
57 |
temperature=0.5, # Menos aleatorio, más coherente
|
58 |
-
repetition_penalty=1.
|
59 |
pad_token_id=tokenizer.eos_token_id
|
60 |
)
|
61 |
|
|
|
51 |
# Generamos una respuesta del modelo
|
52 |
outputs = model.generate(
|
53 |
**inputs,
|
54 |
+
max_new_tokens=20, # Ajustado para modelos más pequeños
|
55 |
do_sample=True,
|
56 |
top_p=0.85, # Menos diversidad para mejorar coherencia
|
57 |
temperature=0.5, # Menos aleatorio, más coherente
|
58 |
+
repetition_penalty=1.6, # Reducido para evitar repeticiones excesivas
|
59 |
pad_token_id=tokenizer.eos_token_id
|
60 |
)
|
61 |
|