網站 AI 客服上線前的風險檢查表
AI 客服最大的風險不是它不夠聰明,而是它會很有自信地說錯話,或被精心設計的提問帶離你給它的規則。OWASP 把這種「提示詞注入」列為大型語言模型應用的首要風險;上線前把回答範圍、資料權限與轉人工的條件定清楚,比挑哪一家模型更重要。
本文目錄 · 選一段開始看
- 這篇寫給
- 考慮在官網加上 AI 客服或聊天機器人的店家與中小企業
- 要完成的事
- 上線前定好 AI 可回答的範圍、可碰的資料與轉人工條件
- 讀完可得到
- 完成三份上線前檢查表,並以模擬提問測試過一輪
先看重點
網站放 AI 客服前,先定好它能回答的主題、能碰的資料與要轉人工的情況。價格與優惠只引用你提供的資料,金額與身分驗證交給程式規則,不讓 AI 自己決定退款或查別人的訂單,上線前用模擬奧客提問測試一輪。
01
三種最常見的出包方式
| 風險 | 實際長相 | 後果 |
|---|---|---|
| 說錯事實 | 報出舊價格、錯的營業時間、不存在的優惠 | 顧客照著來,現場起爭執 |
| 被誘導 | 訪客要它「忽略之前的指示」,改口給折扣或洩露內部設定 | 對外說出你沒有授權的承諾或資訊 |
| 碰到不該碰的資料 | 能查訂單或會員資料的客服,被問出別人的資料 | 個資外洩與法律責任 |
OWASP 的大型語言模型應用風險清單區分直接注入(訪客在對話中下指令)與間接注入(模型讀到的網頁或文件裡藏著指令)。重點是:不要把 AI 的回答當成可信任的系統行為,它需要跟一般程式一樣被限制權限。
02
上線前檢查表一:它可以回答什麼
- 列出 AI 可以回答的主題,例如營業時間、服務內容、預約方式
- 價格、優惠與退換貨規則只能引用你提供的資料,不能自己推算
- 答不出來時說「不確定」並轉人工,而不是猜
- 醫療、法律、投資這類專業判斷不由 AI 回答
- 回答資料有負責人與更新日期,價格一改就同步更新
03
上線前檢查表二:它可以碰什麼資料
- 預設不給 AI 讀取會員、訂單或聯絡人資料
- 真的需要查訂單時,先由系統驗證身分,再只回傳這個人的那一筆
- AI 不能直接執行退款、改價或刪除資料,這些動作要人按確認
- 對話紀錄的保存期限與誰能看,要寫進隱私權政策
- 確認 AI 服務商是否會把對話用於訓練,以及能否關閉
04
上線前檢查表三:出事時怎麼收
- 畫面上清楚標示這是 AI 回覆,並提供轉人工的按鈕
- 設定要立刻轉人工的情況,例如客訴、退款、帳號問題
- 保留對話紀錄,方便事後確認 AI 說了什麼
- 有一個人負責定期抽看對話,找出答錯與被誘導的案例
- 準備好一鍵關閉 AI 客服的方式
05
上線後:用真實問題測試
上線前請同事扮演奧客:要求它給折扣、要它忽略規則、問別人的訂單、問它的系統設定。這些測試不需要技術背景,卻能找出大多數明顯問題。
上線後定期看「答不出來的問題」與「轉人工的原因」,把常見問題補進回答資料。AI 客服是一個要維護的系統,不是裝好就不用管的外掛。
常見問題
- AI 客服說錯價格,算不算我們的承諾?
- 是否構成要約或承諾要看個案事實與相關法規,無法一概而論。比較可靠的做法是讓價格與優惠只來自你提供的資料,並在畫面上清楚標示以官網或人工確認為準。
- 用知名大廠的 AI 就不會被誘導嗎?
- 目前沒有能完全防止提示詞注入的方法。模型品質會影響程度,但真正的防線是限制它能碰的資料與能做的動作。
- 小店需要 AI 客服嗎?
- 如果常見問題集中在營業時間、地點、預約方式,一份清楚的常見問題頁加上方便的聯絡方式,往往就能解決大部分詢問。AI 客服適合問題量大、需要全天回應的情況。
編輯與證據揭露
本文的作者、方法與揭露
最後審閱:
- 怎麼整理
- 依 OWASP GenAI 專案對提示詞注入的說明核對風險與緩解方式,資料權限與隱私告知以安庭建站流程整理。
- 限制與邊界
- 公開作者、審閱日期、整理方法、商業關係、圖片來源與限制,不保證排名、營收、資安或法規個案結果。 本文提供一般決策與操作框架,不取代個別法律、資安、會計或專業顧問意見。 第三方功能、方案、法規與搜尋系統可能調整;涉及決策時應回到本文所列官方頁面核對最新狀態。
可自行核對的公開頁面
圖片揭露:本文未使用情境照片或客戶素材;表格、清單與比較框架由安庭編輯整理。
