Update app.py

app.py

@@ -1,28 +1,28 @@
 import gradio as gr
 from transformers import pipeline
 
-# Загрузим модель GPT-2 (меньше по памяти)
-chatbot = pipeline("text-generation", model="gpt2", device=0)  # Используем GPU, если доступен
+# Загрузим модель (например, Falcon-7B)
+chatbot = pipeline("text-generation", model="tiiuae/falcon-7b-instruct", device=0)
 
-# Функция обработки запроса от клиента
 def respond_to_client(message):
-    # Формируем промпт, который модель будет обрабатывать
-    prompt = f"Клиент: {message}\nБанк:"
+    # Формируем промпт с контекстом
+    prompt = f"Клиент спрашивает: {message} Ответ:"
     # Генерация ответа
-    response = chatbot(prompt, max_new_tokens=50, do_sample=True)
+    response = chatbot(prompt, max_new_tokens=100, do_sample=True, temperature=0.7, top_p=0.9)
     # Возвращаем сгенерированный ответ
     return response[0]['generated_text'].replace(prompt, "").strip()
 
 # Создаем интерфейс с помощью Gradio
 iface = gr.Interface(
-    fn=respond_to_client,          # Функция обработки запроса
-    inputs=gr.Textbox(lines=2, placeholder="Введите сообщение клиента..."),  # Ввод
-    outputs="text",                # Вывод ответа
-    title="Банковский чат-бот",    # Заголовок страницы
-    description="Введите вопрос клиента — получите ответ банка от модели."  # Описание
+    fn=respond_to_client,
+    inputs=gr.Textbox(lines=2, placeholder="Введите вопрос клиента..."),
+    outputs="text",
+    title="Банковский чат-бот",
+    description="Введите вопрос клиента — получите ответ банка от модели."
 )
 
 # Запуск интерфейса
 iface.launch()
 
 
+