WolfInk commited on
Commit
8261338
·
verified ·
1 Parent(s): 7e46ab6

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -51,11 +51,11 @@ def generate_response(user_input, tokenizer, model):
51
  # Generamos una respuesta del modelo
52
  outputs = model.generate(
53
  **inputs,
54
- max_new_tokens=100, # Ajustado para modelos más pequeños
55
  do_sample=True,
56
  top_p=0.85, # Menos diversidad para mejorar coherencia
57
  temperature=0.5, # Menos aleatorio, más coherente
58
- repetition_penalty=1.2, # Reducido para evitar repeticiones excesivas
59
  pad_token_id=tokenizer.eos_token_id
60
  )
61
 
 
51
  # Generamos una respuesta del modelo
52
  outputs = model.generate(
53
  **inputs,
54
+ max_new_tokens=20, # Ajustado para modelos más pequeños
55
  do_sample=True,
56
  top_p=0.85, # Menos diversidad para mejorar coherencia
57
  temperature=0.5, # Menos aleatorio, más coherente
58
+ repetition_penalty=1.6, # Reducido para evitar repeticiones excesivas
59
  pad_token_id=tokenizer.eos_token_id
60
  )
61