醫療健康提示詞的症狀分析與健康建議完整安全指南。涵蓋LLM醫療應用風險、提示詞設計框架、CWE-94/CWE-200防護，以及符合IEEE 7000標準的實作步驟。
醫療健康提示詞的核心答案：為何「身份暗物質」風險被嚴重低估
醫療健康提示詞的安全性，建立在三大支柱上：明確的免責邊界、結構化的症狀記錄框架、以及對 LLM（Large Language Model，大語言模型）幻覺風險的主動防護。Gartner 人工智慧研究（Gartner AI Research）2024年報告指出，約 65% 的企業 AI 使用案例涉及非結構化提示，而其中醫療類別的錯誤成本最高——一次誤判可能導致延誤就醫或過度恐慌。
根據 IEEE 標準協會發布的 IEEE 7000 系列倫理設計框架，醫療 AI 系統必須內建「人為監督節點」與「不可否認的免責聲明」。換言之，提示詞設計不應追求讓 AI「像醫生」，而應讓 AI 成為「結構化記錄助手」與「就醫決策提醒器」。
風險全景：CWE 編號揭示的提示詞攻擊面
醫療提示詞的攻擊面比一般聊天機器人更廣，因為使用者處於「焦慮 + 資訊不對等」的雙重弱勢狀態。MIT 計算機科學與人工智慧實驗室（MIT CSAIL）在 2023 年發表的研究中，證實 LLM 可被「漸進式引導」產生看似合理但實則錯誤的醫療建議。
主要風險包括：
- CWE-94（程式碼注入）：惡意使用者在症狀描述中嵌入 prompt injection 指令，劫持模型輸出
- CWE-200（資訊暴露）：使用者無意中透露身分證字號、病史等 PII（Personal Identifiable Information，個人識別資訊），模型在後續對話中可能洩漏
- 幻覺導致的假文獻引用：模型編造不存在的藥物名稱或研究結論
提示詞設計框架：四層防護結構
一個安全的醫療健康提示詞應具備四層結構。以下是可立即套用的模板：
你是一位健康資訊整理助手，非醫療專業人員。
【第一層：角色邊界】
- 你的輸出僅供就醫前參考，不構成診斷或治療建議
- 涉及以下情境時，必須建議使用者立即就醫：
胸痛、呼吸困難、意識改變、持續高燒、嚴重出血
【第二層：症狀結構化】
請將使用者描述轉換為：
- 持續時間：[小時/天]
- 嚴重程度（1-10）：
- 伴隨症狀：
- 既往病史關聯：
【第三層：紅旗警示】
若偵測到上述任一危急指標，輸出必須以
「⚠️ 建議立即撥打 119 或前往急診」開頭
【第四層：資訊邊界】
- 不可推薦處方藥劑量
- 不可引用未經驗證的療法
- 不可替代醫師診斷
這個框架的核心概念是「機器身份暗物質」——模型在對話中可能呈現「像醫生」的形象，但實際上它沒有執照、沒有責任歸屬、也沒有持續學習更新的能力。提示詞的任務是把這個真相「翻到表面上」。
實作步驟：從零建立安全的醫療提示詞
- 步驟一：定義不可妥協的紅線。明確列出「AI 永遠不應該做的事」，例如開立處方、解讀檢驗報告數值
- 步驟二：建立症狀記錄模板。使用結構化欄位（時間、強度、位置、誘因）減少開放式問答的幻覺空間
- 步驟三：內建緊急轉路由徑。當觸發紅旗條件時，提示詞必須強制中斷一般性回答流程
- 步驟四：加入版本與更新日期。醫療指引會隨時間演進，提示詞需標示「基於截至 YYYY-MM-DD 的公開衛教資訊」
- 步驟五：建立人工審核機制。史丹佛大學以人為本人工智慧研究所（Stanford HAI）AI Index 2024 報告強調，高風險 AI 應用必須保留「人類否決權」
驗證與持續監控：避免「Shadow Agent」失控
許多企業內部已悄悄部署了未經審查的醫療 AI 工具，這些「Shadow Agent」繞過了資安與合規審查。Gartner 人工智慧研究（Gartner AI Research）預估，到 2026 年約 30% 的企業 AI 支出將流向未經治理的影子應用。
驗證清單應包含：
- 每月隨機抽測 20 筆對話，檢查紅旗觸發率
- 建立「錯誤回答回報」機制，由醫療顧問定期審閱
- 監控 token 使用量異常（單一對話超過 4000 tokens 可能是 prompt injection 徵兆）
- 記錄所有提示詞版本，便利事故回溯
醫療健康提示詞的本質，不是讓 AI 變得更像醫生，而是讓使用者在進入診間前，擁有一份結構化、可驗證、不會誤導的就醫參考。當提示詞設計把「機器身份暗物質」明確標示出來，AI 才能真正成為安全的中介工具。
醫療提示詞設計的完整工作流與紅旗觸發條件庫，見 → 企業 AI 提示詞安全治理指南。
