Update app.py

app.py

@@ -22,30 +22,26 @@ model = AutoModelForCausalLM.from_pretrained(
 )
 print("モデルの読み込みが完了しました。")
 
-def respond(
-    message,
-    history: list[tuple[str, str]],
-    system_message,
-    max_tokens,
-    temperature,
-    top_p,
-):
+def respond(message, history):
     """
     チャットボットの応答を生成する関数
-    Gradio ChatInterfaceの標準形式に対応
+    ※ type="messages"の場合、historyはメッセージ辞書のリスト形式になります
     """
     try:
-        # システムメッセージと会話履歴を含むプロンプトを構築
+        # システムメッセージとして使用するプロンプト
+        system_message = "あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。"
+        
+        # 会話履歴を文字列形式に変換
         conversation = ""
         if system_message.strip():
             conversation += f"システム: {system_message}\n"
         
-        # 会話履歴を追加
-        for user_msg, bot_msg in history:
-            if user_msg:
-                conversation += f"ユーザー: {user_msg}\n"
-            if bot_msg:
-                conversation += f"アシスタント: {bot_msg}\n"
+        # 会話履歴を追加（messages形式の場合）
+        for msg in history:
+            if msg["role"] == "user":
+                conversation += f"ユーザー: {msg['content']}\n"
+            elif msg["role"] == "assistant":
+                conversation += f"アシスタント: {msg['content']}\n"
         
         # 現在のメッセージを追加
         conversation += f"ユーザー: {message}\nアシスタント: "
@@ -63,9 +59,9 @@ def respond(
             # 一度に生成してからストリーミング風に出力
             outputs = model.generate(
                 inputs,
-                max_new_tokens=max_tokens,
-                temperature=temperature,
-                top_p=top_p,
+                max_new_tokens=512,  # デフォルト値を使用
+                temperature=0.7,     # デフォルト値を使用
+                top_p=0.95,          # デフォルト値を使用
                 do_sample=True,
                 pad_token_id=tokenizer.eos_token_id,
                 eos_token_id=tokenizer.eos_token_id,
@@ -92,46 +88,19 @@ def respond(
 
 """
 Gradio ChatInterfaceを使用したシンプルなチャットボット
-カスタマイズ可能なパラメータを含む
+type="messages"を設定してOpenAI形式のメッセージを使用
 """
 demo = gr.ChatInterface(
     respond,
+    type="messages",  # 重要：これによりhistoryがメッセージ辞書形式になります
     title="🤖 Sarashina Chatbot",
     description="Sarashina2.2-3b-instruct モデルを使用した日本語チャットボットです。",
-    additional_inputs=[
-        gr.Textbox(
-            value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。", 
-            label="システムメッセージ",
-            lines=3
-        ),
-        gr.Slider(
-            minimum=1, 
-            maximum=1024, 
-            value=512, 
-            step=1, 
-            label="最大新規トークン数"
-        ),
-        gr.Slider(
-            minimum=0.1, 
-            maximum=2.0, 
-            value=0.7, 
-            step=0.1, 
-            label="Temperature (創造性)"
-        ),
-        gr.Slider(
-            minimum=0.1,
-            maximum=1.0,
-            value=0.95,
-            step=0.05,
-            label="Top-p (多様性制御)",
-        ),
-    ],
     theme=gr.themes.Soft(),
     examples=[
-        ["こんにちは！今日はどんなことを話しましょうか？"],
-        ["日本の文化について教えてください。"],
-        ["簡単なレシピを教えてもらえますか？"],
-        ["プログラミングについて質問があります。"],
+        "こんにちは！今日はどんなことを話しましょうか？",
+        "日本の文化について教えてください。",
+        "簡単なレシピを教えてもらえますか？",
+        "プログラミングについて質問があります。",
     ],
     cache_examples=False,
 )