chat / app.py
SimrusDenuvo's picture
Update app.py
884ac0c verified
raw
history blame
2.29 kB
import os
import gradio as gr
from transformers import pipeline
from datasets import load_dataset
# --- 1. Загрузка датасета клиентских обращений ---
try:
dataset = load_dataset("sberbank-ai/ru_helpdesk", split="train[:100]") # 100 реальных обращений
examples = [d["question"] for d in dataset]
except:
examples = [
"Мой заказ #12345 не пришел",
"Как оформить возврат?",
"Проблема с доступом в личный кабинет"
]
# --- 2. Загрузка локальной модели (не требует API) ---
model = pipeline(
"text-generation",
model="IlyaGusev/saiga_mistral_7b-lora",
device="cpu" # Для GPU укажите device=0
)
# --- 3. Функция генерации ответа ---
def generate_response(message, history):
prompt = f"""Ты оператор поддержки. Ответь клиенту вежливо и по делу.
Диалог:
{history}
Клиент: {message}
Оператор:"""
try:
response = model(
prompt,
max_new_tokens=200,
temperature=0.3,
do_sample=True
)
return response[0]["generated_text"].split("Оператор:")[-1].strip()
except Exception as e:
return f"Ошибка: {str(e)}"
# --- 4. Интерфейс Gradio ---
with gr.Blocks(theme=gr.themes.Soft()) as demo:
gr.Markdown("""<h1><center>📞 Поддержка клиентов (Русский)</center></h1>""")
with gr.Row():
with gr.Column():
chatbot = gr.Chatbot(height=350)
msg = gr.Textbox(label="Ваш запрос", placeholder="Опишите проблему...")
gr.Examples(examples, inputs=msg, label="Примеры вопросов")
with gr.Column():
gr.Markdown("**Инструкция:**\n\n1. Укажите номер заказа\n2. Опишите проблему детально\n3. Сохраняйте спокойствие")
gr.Image("https://via.placeholder.com/300x200?text=Support+Logo")
msg.submit(generate_response, [msg, chatbot], [msg, chatbot])
demo.launch()