LymphSteamer commited on
Commit
fdb97c7
·
verified ·
1 Parent(s): a084d9e

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -1
app.py CHANGED
@@ -12,7 +12,7 @@ def haiku_generate():
12
  )
13
  model.eval()
14
 
15
- prompt ="あなたは日本語で五七五の俳句を生成するAIです。解説はせず、俳句だけ出力してください。"
16
  inputs = tokenizer(prompt,return_tensors="pt")
17
  if not torch.cuda.is_available():
18
  inputs ={k:v.to("cpu") for k,v in inputs.items()}
@@ -20,6 +20,8 @@ def haiku_generate():
20
  outputs = model.generate(
21
  **inputs,
22
  max_new_tokens=25,
 
 
23
  do_sample=True,
24
  temperature=0.7,
25
  top_p=0.9
 
12
  )
13
  model.eval()
14
 
15
+ prompt ="五七五の日本語俳句を1つ出力してください。俳句のみ。解説・説明は禁止。"
16
  inputs = tokenizer(prompt,return_tensors="pt")
17
  if not torch.cuda.is_available():
18
  inputs ={k:v.to("cpu") for k,v in inputs.items()}
 
20
  outputs = model.generate(
21
  **inputs,
22
  max_new_tokens=25,
23
+ eos_token_id=tokenizer.eos_token_id, # 終わりを明示!
24
+ pad_token_id=tokenizer.pad_token_id,
25
  do_sample=True,
26
  temperature=0.7,
27
  top_p=0.9