Update app.py

app.py

@@ -40,11 +40,11 @@ except Exception as e:
 # Inferenz durchführen
 try:
     with torch.no_grad():
-        outputs = model.generate(input_ids=inputs["input_ids"].to(device), 
-                                 attention_mask=inputs["attention_mask"].to(device),
-                                 max_length=256, 
-                                 num_return_sequences=1)
-        print("Inferenz abgeschlossen.")
+        outputs = model.generate(
+            input_ids=inputs["input_ids"].to(device), 
+            max_length=50  # Versuche mit einer kleineren Länge
+        )
+    print("Inferenz abgeschlossen.")
 except Exception as e:
     print(f"Fehler bei der Inferenz: {e}")