Update api.py

api.py

@@ -7,8 +7,7 @@ from fastapi import FastAPI, Request
 from fastapi.responses import StreamingResponse
 import sentencepiece as spm
 import re
-app = FastAPI()    
-
+app = FastAPI()
 
 from fastapi.middleware.cors import CORSMiddleware
 
@@ -285,6 +284,11 @@ def summarize_from_wikipedia(query, top_n=3):
     raw_summary = get_wikipedia_summary(query)
     return textrank_summarize(raw_summary, top_n=top_n)
 
+def build_contexted_prompt(history: List[str], user_input: str):
+    recent = ' '.join(history[-3:])
+    summary = textrank_summarize(recent, top_n=2)
+    return f"이전 대화 요약: {summary}\n사용자: {user_input}"
+
 # 의도 분류기
 def simple_intent_classifier(text):
     text = text.lower()
@@ -309,8 +313,10 @@ def parse_math_question(text):
     except:
         return "계산할 수 없는 수식이에요. 다시 한번 확인해 주세요!"
 
-# 최종 응답 함수
+# respond 함수 수정
 def respond(input_text):
+    global dialogue_history
+
     intent = simple_intent_classifier(input_text)
 
     if "이름" in input_text:
@@ -320,22 +326,38 @@ def respond(input_text):
         return "저는 Ector.V라고 해요."
 
     if intent == "수학질문":
-        return parse_math_question(input_text)
+        dialogue_history.append(f"사용자: {input_text}")
+        response = parse_math_question(input_text)
+        dialogue_history.append(f"Ector: {response}")
+        return response
 
     if intent == "인사":
-        return "반가워요! 무엇을 도와드릴까요?"
+        response = "반가워요! 무엇을 도와드릴까요?"
+        dialogue_history.append(f"사용자: {input_text}")
+        dialogue_history.append(f"Ector: {response}")
+        return response
 
     if intent == "정보질문":
         keyword = re.sub(r"(에 대해|에 대한|에 대해서)?\s*(설명해줘|알려줘|뭐야|개념|정의|정보)?", "", input_text).strip()
         if not keyword:
             return "어떤 주제에 대해 궁금한가요?"
         summary = summarize_from_wikipedia(keyword)
-        return f"{summary}\n다른 궁금한 점 있으신가요?"
+        response = f"{summary}\n다른 궁금한 점 있으신가요?"
+        dialogue_history.append(f"사용자: {input_text}")
+        dialogue_history.append(f"Ector: {response}")
+        return response
 
-    # 일상 대화: 샘플링 + fallback
-    response = generate_text_greedy_strong(model, input_text)
+    # 일상 대화: 요약 기반 컨텍스트 생성
+    contexted_prompt = build_contexted_prompt(dialogue_history, input_text)
+    response = generate_text_greedy_strong(model, contexted_prompt)
+
+    # fallback
     if not is_valid_response(response) or mismatch_tone(input_text, response):
-        response = generate_text_greedy_strong(model, input_text)
+        response = generate_text_greedy_strong(model, contexted_prompt)
+
+    # 히스토리 추가
+    dialogue_history.append(f"사용자: {input_text}")
+    dialogue_history.append(f"Ector: {response}")
     return response
 
 @app.get("/generate", response_class=PlainTextResponse)