Spaces:
Running
Running
Update app.py
Browse files
app.py
CHANGED
@@ -1,22 +1,25 @@
|
|
1 |
import gradio as gr
|
2 |
from transformers import pipeline
|
3 |
|
4 |
-
# Загружаем модель (можно заменить на любую другую)
|
5 |
chatbot = pipeline("text-generation", model="tiiuae/falcon-7b-instruct", device_map="auto")
|
6 |
|
|
|
7 |
def respond_to_client(message):
|
8 |
prompt = f"Клиент: {message}\nБанк:"
|
9 |
response = chatbot(prompt, max_new_tokens=100, do_sample=True)
|
10 |
return response[0]['generated_text'].replace(prompt, "").strip()
|
11 |
|
12 |
-
# Создаем
|
13 |
iface = gr.Interface(
|
14 |
-
fn=respond_to_client,
|
15 |
-
inputs=gr.Textbox(lines=2, placeholder="Введите сообщение клиента..."),
|
16 |
-
outputs="text",
|
17 |
-
title="Банковский чат-бот",
|
18 |
-
description="Введите вопрос клиента — получите ответ банка от LLM модели."
|
19 |
)
|
20 |
|
|
|
21 |
iface.launch()
|
22 |
|
|
|
|
1 |
import gradio as gr
|
2 |
from transformers import pipeline
|
3 |
|
4 |
+
# Загружаем модель для генерации текста (можно заменить на любую другую)
|
5 |
chatbot = pipeline("text-generation", model="tiiuae/falcon-7b-instruct", device_map="auto")
|
6 |
|
7 |
+
# Функция обработки запроса
|
8 |
def respond_to_client(message):
|
9 |
prompt = f"Клиент: {message}\nБанк:"
|
10 |
response = chatbot(prompt, max_new_tokens=100, do_sample=True)
|
11 |
return response[0]['generated_text'].replace(prompt, "").strip()
|
12 |
|
13 |
+
# Создаем интерфейс с помощью Gradio
|
14 |
iface = gr.Interface(
|
15 |
+
fn=respond_to_client, # функция обработки
|
16 |
+
inputs=gr.Textbox(lines=2, placeholder="Введите сообщение клиента..."), # ввод пользователя
|
17 |
+
outputs="text", # вывод текста
|
18 |
+
title="Банковский чат-бот", # заголовок
|
19 |
+
description="Введите вопрос клиента — получите ответ банка от LLM модели." # описание
|
20 |
)
|
21 |
|
22 |
+
# Запуск интерфейса
|
23 |
iface.launch()
|
24 |
|
25 |
+
|