Update app.py

app.py

@@ -1,41 +1,37 @@
 import gradio as gr
 from transformers import pipeline, AutoTokenizer
-from datasets import load_dataset
 
-# 1. Загрузка датасета с обработкой ошибок
-try:
-    dataset = load_dataset("sberbank-ai/ru_helpdesk", split="train[:50]")  # Первые 50 примеров
-    examples = [d["question"] for d in dataset if "question" in d]
-except Exception as e:
-    print(f"Ошибка загрузки датасета: {e}")
-    examples = [
-        "Где мой заказ #12345?",
-        "Как вернуть товар?",
-        "Не приходит код подтверждения",
-        "Ошибка при оплате картой",
-        "Как изменить адрес доставки?"
-    ]
+# 1. Используем стабильную публичную модель
+MODEL_NAME = "sberbank-ai/rugpt3small"  # Русскоязычная модель от Сбера
 
-# 2. Оптимизированная загрузка модели
+# 2. Загрузка модели с обработкой ошибок
 try:
-    tokenizer = AutoTokenizer.from_pretrained("IlyaGusev/saiga_mistral_7b-lora")
+    tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
     model = pipeline(
         "text-generation",
-        model="IlyaGusev/saiga_mistral_7b-lora",
+        model=MODEL_NAME,
         tokenizer=tokenizer,
         device="cpu",
-        torch_dtype="auto",
-        model_kwargs={"load_in_4bit": True}  # Критически важно для экономии памяти
+        torch_dtype="auto"
     )
 except Exception as e:
     raise RuntimeError(f"Ошибка загрузки модели: {str(e)}")
 
-# 3. Генерация ответа с шаблоном
+# 3. Примеры обращений (без датасета)
+examples = [
+    "Где мой заказ #12345?",
+    "Как вернуть товар?",
+    "Не приходит SMS-код подтверждения",
+    "Ошибка при оплате картой",
+    "Как изменить адрес доставки?"
+]
+
+# 4. Генерация ответа
 def generate_response(message):
-    prompt = f"""Ты - ИИ-ассистент поддержки. Ответь клиенту вежливо и по делу.
+    prompt = f"""Ты оператор поддержки. Ответь клиенту вежливо.
     
 Клиент: {message}
-Ассистент:"""
+Оператор:"""
     
     try:
         response = model(
@@ -44,33 +40,24 @@ def generate_response(message):
             temperature=0.3,
             do_sample=True
         )
-        return response[0]["generated_text"].split("Ассистент:")[-1].strip()
+        return response[0]["generated_text"].split("Оператор:")[-1].strip()
     except Exception as e:
-        return f"⚠️ Ошибка генерации: {str(e)}"
+        return f"Ошибка: {str(e)}"
 
-# 4. Интерфейс с примерами
+# 5. Интерфейс Gradio
 with gr.Blocks(theme=gr.themes.Soft()) as demo:
-    gr.Markdown("""<h1><center>🎯 Поддержка клиентов</center></h1>""")
+    gr.Markdown("""<h1><center>📞 Поддержка клиентов</center></h1>""")
     
     with gr.Row():
         with gr.Column():
-            input_text = gr.Textbox(label="Опишите проблему", placeholder="Мой заказ не прибыл...")
-            output_text = gr.Textbox(label="Ответ поддержки", lines=5)
-            btn = gr.Button("Отправить", variant="primary")
+            input_text = gr.Textbox(label="Опишите проблему")
+            output_text = gr.Textbox(label="Ответ", lines=5)
+            btn = gr.Button("Отправить")
         
         with gr.Column():
-            gr.Examples(
-                examples=examples,
-                inputs=input_text,
-                label="Примеры обращений"
-            )
-            gr.Markdown("""
-            **Советы для быстрого решения:**
-            1. Указывайте номер заказа
-            2. Прикладывайте скриншоты ошибок
-            3. Проверяйте спам-папку
-            """)
+            gr.Examples(examples, inputs=input_text, label="Примеры обращений")
+            gr.Markdown("**Совет:** Указывайте номер заказа для быстрого решения")
 
-    btn.click(fn=generate_response, inputs=input_text, outputs=output_text)
+    btn.click(generate_response, input_text, output_text)
 
 demo.launch()