README.md

metadata

title: Input Method Acceleration
emoji: 💻
colorFrom: blue
colorTo: pink
sdk: gradio
sdk_version: 5.34.0
app_file: app.py
pinned: true
license: mit
short_description: Chinese input method accelerator

台灣中文輸入法加速器（ZeroGPU + Gradio v5）

結合多種小型中文語言模型，並透過 Hugging Face 的 ZeroGPU 即時生成候選，模擬中文輸入法下段建議功能。

一、專案概述

本示範結合多種小型中文語言模型，並透過 Hugging Face 的 ZeroGPU 即時執行文字生成，模擬中文輸入法中的候選詞建議功能。

二、主要功能

1. 使用 GPU 生成建議
   • 採用 Beam Search（num_beams=M），一次產出 M 條最可能的候選。
2. 經典 IME 候選欄樣式
   • 橫向滑動、點擊選字，模擬傳統輸入法使用體驗。
3. 自動延展文字框
   • 根據輸入內容動態調整高度，無須手動拖曳。
4. 手機響應式優化
   • 針對小螢幕（≤600px）放大候選字與按鈕、攤滿全寬，提升觸控便利度。
5. 永遠顯示「預測」按鈕
   • 手動／自動預測互補，按鈕常駐不隱藏。
6. 消除重複建議
   • 自動去重，保留首見建議，避免候選列表出現相同項目。
7. 多樣性設置
   • 在「進階設定」中可調整 Beam 群組數（num_beam_groups）與 多樣性懲罰（diversity_penalty），以控制輸出建議的多樣性。

三、運作原理

• 點擊「預測」或於文字變更時（若已開啟自動預測），函式會以 Diverse Beam Search 模式呼叫模型，並做以下處理：
  1. 生成 m 條下文（可透過 num_beam_groups 與 diversity_penalty 提高多樣性）；
  2. 過濾空字串並轉繁體；
  3. 去重並保留順序；
  4. 合併共享的前綴片段作為建議，提高候選精簡度；
  5. 更新候選列表。

四、部署步驟

1. 在 Hugging Face Spaces 建立新 Space，框架選 Gradio SDK。
2. 在 Hardware 欄位選擇 Zero GPU（需 PRO 帳號）。
3. 設定 Python 版本為 3.10.13。
4. 上傳 app.py、requirements.txt、README.md，Spaces 會自動安裝相依套件。
5. 點擊 Deploy 即可線上體驗！

五、使用效益

• 快速回應：利用 GPU burst 加速生成速度。
• 多樣化候選：透過 Diverse Beam Search 與共同前綴合併，提供更具多樣性和精簡性的建議。
• 零門檻：免本地 GPU，開發者與使用者皆可輕鬆試用。
• 多模型對比：可快速測試不同模型品質與效能。

歡迎體驗高效、無痛的台灣中文輸入法下段建議 Demo！