Update app.py

app.py

@@ -22,21 +22,25 @@ model = AutoModelForCausalLM.from_pretrained(
 )
 print("モデルの読み込みが完了しました。")
 
-def respond(message, history):
+def respond(
+    message,
+    history,
+    system_message,
+    max_tokens,
+    temperature,
+    top_p,
+):
     """
     チャットボットの応答を生成する関数
-    historyはタプルのリスト形式: [(user_msg, bot_msg), ...]
+    元のコードと同じシグネチャを維持
     """
     try:
-        # システムメッセージとして使用するプロンプト
-        system_message = "あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。"
-        
-        # 会話履歴を文字列形式に変換
+        # 会話履歴を含むプロンプトを構築
         conversation = ""
         if system_message.strip():
             conversation += f"システム: {system_message}\n"
         
-        # 会話履歴を追加（タプル形式）
+        # 会話履歴を追加
         for user_msg, bot_msg in history:
             if user_msg:
                 conversation += f"ユーザー: {user_msg}\n"
@@ -59,9 +63,9 @@ def respond(message, history):
             # 一度に生成してからストリーミング風に出力
             outputs = model.generate(
                 inputs,
-                max_new_tokens=512,  # デフォルト値を使用
-                temperature=0.7,     # デフォルト値を使用
-                top_p=0.95,          # デフォルト値を使用
+                max_new_tokens=max_tokens,
+                temperature=temperature,
+                top_p=top_p,
                 do_sample=True,
                 pad_token_id=tokenizer.eos_token_id,
                 eos_token_id=tokenizer.eos_token_id,
@@ -88,18 +92,46 @@ def respond(message, history):
 
 """
 Gradio ChatInterfaceを使用したシンプルなチャットボット
-デフォルトのタプル形式を使用
+元のコードと同じadditional_inputsを維持
 """
 demo = gr.ChatInterface(
     respond,
     title="🤖 Sarashina Chatbot",
     description="Sarashina2.2-3b-instruct モデルを使用した日本語チャットボットです。",
+    additional_inputs=[
+        gr.Textbox(
+            value="あなたは親切で知識豊富な日本語アシスタントです。ユーザーの質問に丁寧に答えてください。", 
+            label="システムメッセージ",
+            lines=3
+        ),
+        gr.Slider(
+            minimum=1, 
+            maximum=1024, 
+            value=512, 
+            step=1, 
+            label="最大新規トークン数"
+        ),
+        gr.Slider(
+            minimum=0.1, 
+            maximum=2.0, 
+            value=0.7, 
+            step=0.1, 
+            label="Temperature (創造性)"
+        ),
+        gr.Slider(
+            minimum=0.1,
+            maximum=1.0,
+            value=0.95,
+            step=0.05,
+            label="Top-p (多様性制御)",
+        ),
+    ],
     theme=gr.themes.Soft(),
     examples=[
-        "こんにちは！今日はどんなことを話しましょうか？",
-        "日本の文化について教えてください。",
-        "簡単なレシピを教えてもらえますか？",
-        "プログラミングについて質問があります。",
+        ["こんにちは！今日はどんなことを話しましょうか？"],
+        ["日本の文化について教えてください。"],
+        ["簡単なレシピを教えてもらえますか？"],
+        ["プログラミングについて質問があります。"],
     ],
     cache_examples=False,
 )