celestialli commited on
Commit
ccec9b3
·
1 Parent(s): 88b3475

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +27 -3
app.py CHANGED
@@ -7,6 +7,9 @@ import random
7
  import time
8
 
9
 
 
 
 
10
  PRESET_ANSWERS = ["刚到美国的时候,觉得美国人像傻子一样,到处都是漏洞。任何地方的厕所都有免费纸,有些人定期去扯很多回家,纸都不用买。快餐店的饮料,有的可以无限续杯,有些几个人买一份饮料,接回来灌到各自的杯子里;等等。",
11
  "尽管美国有许多“漏洞”,但作为超级大国,显然能带给人以无尽的故事与思考。我来分享一下哪些是去了美国才知道的事,主题主要围绕着生活、衣食住行、文化冲击、教育医疗等展开叙说,本文有5千字左右,你也可以跳到感兴趣的部分阅读。"
12
  "美国的城市风貌与基础设施1、去到了美国才知道,纽约的城市样貌跟我想象的发达不一样,真实的纽约街景是很嘈杂和市井。例如,在曼哈顿区路旁,随处可见的小摊位,卖鲜花的、卖各种小食、卖自制首饰的,卖艺术品等等。我留意一下,发现每个路边摊都有合法的营业执照。"]
@@ -33,16 +36,36 @@ def get_chat_answer(query, chatbot):
33
  yield "", chatbot
34
 
35
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
36
  css = """
37
  col-container {max-width: 510px; margin-left: auto; margin-right: auto; margin-up: auto; margin-bottom: auto;}
38
  """
39
  with gr.Blocks(css=css) as demo:
40
  with gr.Column(elem_id="col-container"):
41
- with gr.Tab("🧠 模型对话 Dialog", elem_id="od-benchmark-tab-table"):
42
  chatbot = gr.Chatbot([[None, get_internet_ip()]], show_label=False, elem_id="chatbot")
43
  query = gr.Textbox(show_label=False, placeholder="请输入提问内容,按回车进行提交")
44
  query.submit(get_chat_answer,[query, chatbot], [query, chatbot])
45
- with gr.Tab("🎚️ 模型微调 Fine-tune", elem_id="od-benchmark-tab-table"):
46
  with gr.Row():
47
  with gr.Column():
48
  ft_task_name = gr.Textbox(value="", label="任务名称")
@@ -51,7 +74,8 @@ with gr.Blocks(css=css) as demo:
51
  ft_epochs = gr.Textbox(value="", label="epochs")
52
  ft_start_lr = gr.Textbox(value="", label="start LR")
53
  ft_end_lr = gr.Textbox(value="", label="end LR")
54
- with gr.Tab("📈 信息 Info", elem_id="od-benchmark-tab-table"):
 
55
  gr.Markdown(METRICS_TAB_TEXT, elem_classes="markdown-text")
56
 
57
  demo.queue(max_size=20).launch()
 
7
  import time
8
 
9
 
10
+ handshake_url = "http://127.0.0.1:8000/chatbot/"
11
+ dialog_url = "http://127.0.0.1:8000/chatbot/dialoginfo"
12
+ finish_query_url = "http://127.0.0.1:8000/chatbot/finishquery"
13
  PRESET_ANSWERS = ["刚到美国的时候,觉得美国人像傻子一样,到处都是漏洞。任何地方的厕所都有免费纸,有些人定期去扯很多回家,纸都不用买。快餐店的饮料,有的可以无限续杯,有些几个人买一份饮料,接回来灌到各自的杯子里;等等。",
14
  "尽管美国有许多“漏洞”,但作为超级大国,显然能带给人以无尽的故事与思考。我来分享一下哪些是去了美国才知道的事,主题主要围绕着生活、衣食住行、文化冲击、教育医疗等展开叙说,本文有5千字左右,你也可以跳到感兴趣的部分阅读。"
15
  "美国的城市风貌与基础设施1、去到了美国才知道,纽约的城市样貌跟我想象的发达不一样,真实的纽约街景是很嘈杂和市井。例如,在曼哈顿区路旁,随处可见的小摊位,卖鲜花的、卖各种小食、卖自制首饰的,卖艺术品等等。我留意一下,发现每个路边摊都有合法的营业执照。"]
 
36
  yield "", chatbot
37
 
38
 
39
+ def get_chat_answer_request(query, chatbot):
40
+ q_id = str(uuid.uuid1())
41
+ r = requests.post(handshake_url, json={"q_id": q_id, "query": query, 'history': chatbot})
42
+ if r.json()['code'] == 202:
43
+ for _ in range(1000):
44
+ r = requests.get(dialog_url, {"dialogid": q_id})
45
+ history = r.json()['history']
46
+ print(history)
47
+ while len(history[-1]) == 0:
48
+ history.pop()
49
+ r_finish = requests.get(finish_query_url, {"dialogid": q_id})
50
+ if r_finish.json() == True:
51
+ yield "", history
52
+ print('break')
53
+ break
54
+
55
+ yield "", history
56
+ time.sleep(1)
57
+
58
+
59
  css = """
60
  col-container {max-width: 510px; margin-left: auto; margin-right: auto; margin-up: auto; margin-bottom: auto;}
61
  """
62
  with gr.Blocks(css=css) as demo:
63
  with gr.Column(elem_id="col-container"):
64
+ with gr.Tab("🧠 模型对话 Dialog"):
65
  chatbot = gr.Chatbot([[None, get_internet_ip()]], show_label=False, elem_id="chatbot")
66
  query = gr.Textbox(show_label=False, placeholder="请输入提问内容,按回车进行提交")
67
  query.submit(get_chat_answer,[query, chatbot], [query, chatbot])
68
+ with gr.Tab("🎚️ 模型微调 Fine-tune"):
69
  with gr.Row():
70
  with gr.Column():
71
  ft_task_name = gr.Textbox(value="", label="任务名称")
 
74
  ft_epochs = gr.Textbox(value="", label="epochs")
75
  ft_start_lr = gr.Textbox(value="", label="start LR")
76
  ft_end_lr = gr.Textbox(value="", label="end LR")
77
+ submit_btn = gr.Button(value="Submit")
78
+ with gr.Tab("📈 信息 Info"):
79
  gr.Markdown(METRICS_TAB_TEXT, elem_classes="markdown-text")
80
 
81
  demo.queue(max_size=20).launch()