SimrusDenuvo commited on
Commit
4d881b8
·
verified ·
1 Parent(s): ef90d3b

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +14 -14
app.py CHANGED
@@ -2,11 +2,11 @@ import gradio as gr
2
  import time
3
  from transformers import pipeline
4
 
5
- # Настройка моделей (лёгкие и совместимые с Hugging Face Spaces)
6
  models = {
7
- "ChatGPT-like (Falcon)": pipeline("text-generation", model="tiiuae/falcon-7b-instruct", tokenizer="tiiuae/falcon-7b-instruct", device=-1),
8
- "DeepSeek-like": pipeline("text-generation", model="deepseek-ai/deepseek-coder-6.7b-instruct", tokenizer="deepseek-ai/deepseek-coder-6.7b-instruct", device=-1),
9
- "GigaChat-like (Mistral)": pipeline("text-generation", model="mistralai/Mistral-7B-Instruct", tokenizer="mistralai/Mistral-7B-Instruct", device=-1)
10
  }
11
 
12
  # Промпты
@@ -59,37 +59,37 @@ def generate_comparison(user_input):
59
  }
60
 
61
  return (
62
- result["ChatGPT-like (Falcon)"]["cot_answer"], result["ChatGPT-like (Falcon)"]["cot_time"],
63
- result["ChatGPT-like (Falcon)"]["simple_answer"], result["ChatGPT-like (Falcon)"]["simple_time"],
64
- result["DeepSeek-like"]["cot_answer"], result["DeepSeek-like"]["cot_time"],
65
- result["DeepSeek-like"]["simple_answer"], result["DeepSeek-like"]["simple_time"],
66
- result["GigaChat-like (Mistral)"]["cot_answer"], result["GigaChat-like (Mistral)"]["cot_time"],
67
- result["GigaChat-like (Mistral)"]["simple_answer"], result["GigaChat-like (Mistral)"]["simple_time"]
68
  )
69
 
70
  # Интерфейс
71
  with gr.Blocks() as demo:
72
- gr.Markdown("## Сравнение моделей: Falcon, DeepSeek, Mistral (Классификация обращений в банке)")
73
 
74
  inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу войти в личный кабинет", lines=2)
75
  btn = gr.Button("Сгенерировать")
76
 
77
  # ChatGPT-like
78
- gr.Markdown("### ChatGPT-like (Falcon)")
79
  cot1 = gr.Textbox(label="CoT ответ")
80
  cot1_time = gr.Textbox(label="Время CoT")
81
  simple1 = gr.Textbox(label="Обычный ответ")
82
  simple1_time = gr.Textbox(label="Время обычного")
83
 
84
  # DeepSeek-like
85
- gr.Markdown("### DeepSeek-like")
86
  cot2 = gr.Textbox(label="CoT ответ")
87
  cot2_time = gr.Textbox(label="Время CoT")
88
  simple2 = gr.Textbox(label="Обычный ответ")
89
  simple2_time = gr.Textbox(label="Время обычного")
90
 
91
  # GigaChat-like
92
- gr.Markdown("### GigaChat-like (Mistral)")
93
  cot3 = gr.Textbox(label="CoT ответ")
94
  cot3_time = gr.Textbox(label="Время CoT")
95
  simple3 = gr.Textbox(label="Обычный ответ")
 
2
  import time
3
  from transformers import pipeline
4
 
5
+ # Лёгкие, русскоязычные модели
6
  models = {
7
+ "ChatGPT-like (ruDialoGPT-medium)": pipeline("text-generation", model="sberbank-ai/ruDialoGPT-medium", tokenizer="sberbank-ai/ruDialoGPT-medium", device=-1),
8
+ "DeepSeek-like (ruGPT3-small)": pipeline("text-generation", model="ai-forever/rugpt3small_based_on_gpt2", tokenizer="ai-forever/rugpt3small_based_on_gpt2", device=-1),
9
+ "GigaChat-like (ruGPT3-large)": pipeline("text-generation", model="ai-forever/rugpt3large_based_on_gpt2", tokenizer="ai-forever/rugpt3large_based_on_gpt2", device=-1),
10
  }
11
 
12
  # Промпты
 
59
  }
60
 
61
  return (
62
+ result["ChatGPT-like (ruDialoGPT-medium)"]["cot_answer"], result["ChatGPT-like (ruDialoGPT-medium)"]["cot_time"],
63
+ result["ChatGPT-like (ruDialoGPT-medium)"]["simple_answer"], result["ChatGPT-like (ruDialoGPT-medium)"]["simple_time"],
64
+ result["DeepSeek-like (ruGPT3-small)"]["cot_answer"], result["DeepSeek-like (ruGPT3-small)"]["cot_time"],
65
+ result["DeepSeek-like (ruGPT3-small)"]["simple_answer"], result["DeepSeek-like (ruGPT3-small)"]["simple_time"],
66
+ result["GigaChat-like (ruGPT3-large)"]["cot_answer"], result["GigaChat-like (ruGPT3-large)"]["cot_time"],
67
+ result["GigaChat-like (ruGPT3-large)"]["simple_answer"], result["GigaChat-like (ruGPT3-large)"]["simple_time"]
68
  )
69
 
70
  # Интерфейс
71
  with gr.Blocks() as demo:
72
+ gr.Markdown("## Сравнение моделей: ruDialoGPT, ruGPT3-small, ruGPT3-large (Классификация обращений)")
73
 
74
  inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу войти в личный кабинет", lines=2)
75
  btn = gr.Button("Сгенерировать")
76
 
77
  # ChatGPT-like
78
+ gr.Markdown("### ChatGPT-like (ruDialoGPT-medium)")
79
  cot1 = gr.Textbox(label="CoT ответ")
80
  cot1_time = gr.Textbox(label="Время CoT")
81
  simple1 = gr.Textbox(label="Обычный ответ")
82
  simple1_time = gr.Textbox(label="Время обычного")
83
 
84
  # DeepSeek-like
85
+ gr.Markdown("### DeepSeek-like (ruGPT3-small)")
86
  cot2 = gr.Textbox(label="CoT ответ")
87
  cot2_time = gr.Textbox(label="Время CoT")
88
  simple2 = gr.Textbox(label="Обычный ответ")
89
  simple2_time = gr.Textbox(label="Время обычного")
90
 
91
  # GigaChat-like
92
+ gr.Markdown("### GigaChat-like (ruGPT3-large)")
93
  cot3 = gr.Textbox(label="CoT ответ")
94
  cot3_time = gr.Textbox(label="Время CoT")
95
  simple3 = gr.Textbox(label="Обычный ответ")