VietCat commited on
Commit
1cf6170
·
1 Parent(s): 2454010

fix runtime error

Browse files
Files changed (2) hide show
  1. Dockerfile +6 -0
  2. app.py +15 -4
Dockerfile CHANGED
@@ -8,4 +8,10 @@ RUN pip install --no-cache-dir -r requirements.txt
8
 
9
  COPY . .
10
 
 
 
 
 
 
 
11
  CMD ["python", "app.py"]
 
8
 
9
  COPY . .
10
 
11
+ # Tạo thư mục cache và cấp quyền ghi
12
+ RUN mkdir -p /app/cache
13
+
14
+ # Đặt biến môi trường để Transformers ghi cache ở nơi được phép
15
+ ENV TRANSFORMERS_CACHE=/app/cache
16
+
17
  CMD ["python", "app.py"]
app.py CHANGED
@@ -1,7 +1,11 @@
 
 
 
1
  import gradio as gr
2
  from transformers import GPT2Tokenizer, GPT2LMHeadModel
3
 
4
  model_id = "NlpHUST/gpt2-vietnamese"
 
5
  tokenizer = GPT2Tokenizer.from_pretrained(model_id)
6
  model = GPT2LMHeadModel.from_pretrained(model_id)
7
 
@@ -16,9 +20,16 @@ def generate(prompt, max_length=100, temperature=0.8):
16
  )
17
  return tokenizer.decode(output[0], skip_special_tokens=True)
18
 
19
- demo = gr.Interface(fn=generate,
20
- inputs=["text", gr.Slider(50, 200, value=100), gr.Slider(0.1, 1.0, value=0.8)],
21
- outputs="text",
22
- title="Sinh văn bản tiếng Việt bằng GPT-2")
 
 
 
 
 
 
 
23
 
24
  demo.launch()
 
1
+ import os
2
+ os.environ["TRANSFORMERS_CACHE"] = "/app/cache"
3
+
4
  import gradio as gr
5
  from transformers import GPT2Tokenizer, GPT2LMHeadModel
6
 
7
  model_id = "NlpHUST/gpt2-vietnamese"
8
+
9
  tokenizer = GPT2Tokenizer.from_pretrained(model_id)
10
  model = GPT2LMHeadModel.from_pretrained(model_id)
11
 
 
20
  )
21
  return tokenizer.decode(output[0], skip_special_tokens=True)
22
 
23
+ demo = gr.Interface(
24
+ fn=generate,
25
+ inputs=[
26
+ gr.Textbox(label="Nhập nội dung đầu vào"),
27
+ gr.Slider(50, 200, value=100, step=10, label="Độ dài tối đa"),
28
+ gr.Slider(0.1, 1.0, value=0.8, step=0.05, label="Temperature")
29
+ ],
30
+ outputs="text",
31
+ title="Sinh văn bản tiếng Việt bằng GPT-2",
32
+ description="Dùng mô hình GPT-2 Vietnamese từ NlpHUST để sinh văn bản tiếng Việt."
33
+ )
34
 
35
  demo.launch()