網站 AI 客服上線前的風險檢查表

約 8 分鐘發布於 2026-11-17更新於 2026-11-17由安庭數位網站策略與平台團隊審閱

AI 客服最大的風險不是它不夠聰明,而是它會很有自信地說錯話,或被精心設計的提問帶離你給它的規則。OWASP 把這種「提示詞注入」列為大型語言模型應用的首要風險;上線前把回答範圍、資料權限與轉人工的條件定清楚,比挑哪一家模型更重要。

本文目錄 · 選一段開始看
這篇寫給
考慮在官網加上 AI 客服或聊天機器人的店家與中小企業
要完成的事
上線前定好 AI 可回答的範圍、可碰的資料與轉人工條件
讀完可得到
完成三份上線前檢查表,並以模擬提問測試過一輪
先看重點

網站放 AI 客服前,先定好它能回答的主題、能碰的資料與要轉人工的情況。價格與優惠只引用你提供的資料,金額與身分驗證交給程式規則,不讓 AI 自己決定退款或查別人的訂單,上線前用模擬奧客提問測試一輪。

01

三種最常見的出包方式

風險實際長相後果
說錯事實報出舊價格、錯的營業時間、不存在的優惠顧客照著來,現場起爭執
被誘導訪客要它「忽略之前的指示」,改口給折扣或洩露內部設定對外說出你沒有授權的承諾或資訊
碰到不該碰的資料能查訂單或會員資料的客服,被問出別人的資料個資外洩與法律責任

OWASP 的大型語言模型應用風險清單區分直接注入(訪客在對話中下指令)與間接注入(模型讀到的網頁或文件裡藏著指令)。重點是:不要把 AI 的回答當成可信任的系統行為,它需要跟一般程式一樣被限制權限。

02

上線前檢查表一:它可以回答什麼

  • 列出 AI 可以回答的主題,例如營業時間、服務內容、預約方式
  • 價格、優惠與退換貨規則只能引用你提供的資料,不能自己推算
  • 答不出來時說「不確定」並轉人工,而不是猜
  • 醫療、法律、投資這類專業判斷不由 AI 回答
  • 回答資料有負責人與更新日期,價格一改就同步更新

03

上線前檢查表二:它可以碰什麼資料

  • 預設不給 AI 讀取會員、訂單或聯絡人資料
  • 真的需要查訂單時,先由系統驗證身分,再只回傳這個人的那一筆
  • AI 不能直接執行退款、改價或刪除資料,這些動作要人按確認
  • 對話紀錄的保存期限與誰能看,要寫進隱私權政策
  • 確認 AI 服務商是否會把對話用於訓練,以及能否關閉

04

上線前檢查表三:出事時怎麼收

  • 畫面上清楚標示這是 AI 回覆,並提供轉人工的按鈕
  • 設定要立刻轉人工的情況,例如客訴、退款、帳號問題
  • 保留對話紀錄,方便事後確認 AI 說了什麼
  • 有一個人負責定期抽看對話,找出答錯與被誘導的案例
  • 準備好一鍵關閉 AI 客服的方式

05

上線後:用真實問題測試

上線前請同事扮演奧客:要求它給折扣、要它忽略規則、問別人的訂單、問它的系統設定。這些測試不需要技術背景,卻能找出大多數明顯問題。

上線後定期看「答不出來的問題」與「轉人工的原因」,把常見問題補進回答資料。AI 客服是一個要維護的系統,不是裝好就不用管的外掛。

常見問題

AI 客服說錯價格,算不算我們的承諾?
是否構成要約或承諾要看個案事實與相關法規,無法一概而論。比較可靠的做法是讓價格與優惠只來自你提供的資料,並在畫面上清楚標示以官網或人工確認為準。
用知名大廠的 AI 就不會被誘導嗎?
目前沒有能完全防止提示詞注入的方法。模型品質會影響程度,但真正的防線是限制它能碰的資料與能做的動作。
小店需要 AI 客服嗎?
如果常見問題集中在營業時間、地點、預約方式,一份清楚的常見問題頁加上方便的聯絡方式,往往就能解決大部分詢問。AI 客服適合問題量大、需要全天回應的情況。

編輯與證據揭露

本文的作者、方法與揭露

最後審閱:

怎麼整理
依 OWASP GenAI 專案對提示詞注入的說明核對風險與緩解方式,資料權限與隱私告知以安庭建站流程整理。
限制與邊界
公開作者、審閱日期、整理方法、商業關係、圖片來源與限制,不保證排名、營收、資安或法規個案結果。 本文提供一般決策與操作框架,不取代個別法律、資安、會計或專業顧問意見。 第三方功能、方案、法規與搜尋系統可能調整;涉及決策時應回到本文所列官方頁面核對最新狀態。

圖片揭露:本文未使用情境照片或客戶素材;表格、清單與比較框架由安庭編輯整理。

先確認網站目前的基本狀況

用網站健檢整理下一步;憑證鏈或資安事件,仍需由具管理權限的技術人員確認。

免費健檢我的網站

繼續閱讀