SimrusDenuvo commited on
Commit
7720707
·
verified ·
1 Parent(s): b457396

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +10 -7
app.py CHANGED
@@ -1,22 +1,25 @@
1
  import gradio as gr
2
  from transformers import pipeline
3
 
4
- # Загружаем модель (можно заменить на любую другую)
5
  chatbot = pipeline("text-generation", model="tiiuae/falcon-7b-instruct", device_map="auto")
6
 
 
7
  def respond_to_client(message):
8
  prompt = f"Клиент: {message}\nБанк:"
9
  response = chatbot(prompt, max_new_tokens=100, do_sample=True)
10
  return response[0]['generated_text'].replace(prompt, "").strip()
11
 
12
- # Создаем простой чат-интерфейс
13
  iface = gr.Interface(
14
- fn=respond_to_client,
15
- inputs=gr.Textbox(lines=2, placeholder="Введите сообщение клиента..."),
16
- outputs="text",
17
- title="Банковский чат-бот",
18
- description="Введите вопрос клиента — получите ответ банка от LLM модели."
19
  )
20
 
 
21
  iface.launch()
22
 
 
 
1
  import gradio as gr
2
  from transformers import pipeline
3
 
4
+ # Загружаем модель для генерации текста (можно заменить на любую другую)
5
  chatbot = pipeline("text-generation", model="tiiuae/falcon-7b-instruct", device_map="auto")
6
 
7
+ # Функция обработки запроса
8
  def respond_to_client(message):
9
  prompt = f"Клиент: {message}\nБанк:"
10
  response = chatbot(prompt, max_new_tokens=100, do_sample=True)
11
  return response[0]['generated_text'].replace(prompt, "").strip()
12
 
13
+ # Создаем интерфейс с помощью Gradio
14
  iface = gr.Interface(
15
+ fn=respond_to_client, # функция обработки
16
+ inputs=gr.Textbox(lines=2, placeholder="Введите сообщение клиента..."), # ввод пользователя
17
+ outputs="text", # вывод текста
18
+ title="Банковский чат-бот", # заголовок
19
+ description="Введите вопрос клиента — получите ответ банка от LLM модели." # описание
20
  )
21
 
22
+ # Запуск интерфейса
23
  iface.launch()
24
 
25
+