import os import gradio as gr from transformers import pipeline from datasets import load_dataset # --- 1. Загрузка датасета клиентских обращений --- try: dataset = load_dataset("sberbank-ai/ru_helpdesk", split="train[:100]") # 100 реальных обращений examples = [d["question"] for d in dataset] except: examples = [ "Мой заказ #12345 не пришел", "Как оформить возврат?", "Проблема с доступом в личный кабинет" ] # --- 2. Загрузка локальной модели (не требует API) --- model = pipeline( "text-generation", model="IlyaGusev/saiga_mistral_7b-lora", device="cpu" # Для GPU укажите device=0 ) # --- 3. Функция генерации ответа --- def generate_response(message, history): prompt = f"""Ты оператор поддержки. Ответь клиенту вежливо и по делу. Диалог: {history} Клиент: {message} Оператор:""" try: response = model( prompt, max_new_tokens=200, temperature=0.3, do_sample=True ) return response[0]["generated_text"].split("Оператор:")[-1].strip() except Exception as e: return f"Ошибка: {str(e)}" # --- 4. Интерфейс Gradio --- with gr.Blocks(theme=gr.themes.Soft()) as demo: gr.Markdown("""