AI Agent 可以替你做事，但出了錯，誰替公司負責？

客人在 LINE 上問：「12 入多少錢？」

報價程式只看了「12 入」三個字，就選定了一款 599 元的商品。

問題是，那是另一款完全不同的商品。

客人問的那一款，系統原本根本沒找到；改了一版程式之後，它不再說「找不到」，而是挑了一個看起來最像的答案。

幸好，這個價格沒有送到任何客人手上。

那是我們替一家甜點店調整 AI 客服報價時，在上線前拿 30 句問價的句子試跑出來的結果。有 10 句選到的商品跟原本不一樣，負責改程式的 AI 依照事先講好的規定，停下來回頭問人。

但我那天一直在想：如果它沒停呢？

客人照 599 元付了錢，或看到價格覺得太貴就走了。

店家會來找我們，我們能去怪模型公司嗎？還是怪那個「只是照指令做事」的 AI？

誰都怪不了。

AI 不會替公司負責，出了錯，最後扛的一定是公司。

所以真正該問的是：既然扛責任的是你，你要怎麼決定哪些事可以讓 AI 自己做？

會做，跟可以自己決定，是兩回事

導入 AI 時，大家最常問的是「它會不會做？」會不會回客人訊息、會不會開報價單、會不會幫客人改訂單？

今天的 AI，這些幾乎都會。

可是「會做」只回答了能力，沒有回答授權。

新來的店員也會操作收銀機、也找得到退款鍵，但你不會讓他上班第一天就自己決定要不要退款。

他當然按得下去，因為按錯的代價不是他付的。

我在這件事上有過一個很意外的發現。

我原本一直以為，團隊裡最該嚴格把關的是寫程式的 AI。

程式寫錯，整個系統都可能壞掉，聽起來最危險。

但有一次跟 AI Agent 討論時我才被點醒：真正需要更嚴格控制的，反而是對客人說話的 AI 客服，因為它能報價、能接單。

仔細想想就懂了。

寫程式的 AI 出錯，中間還隔著測試、審查和上線前的檢查，錯誤要穿過好幾道門才碰得到客人。

但對客人說話的 AI 一出錯，那句話就直接出現在客人的手機上，收不回來。

風險高低，看的不是 AI 做的事有多複雜，而是它的錯誤離客人有多近、離錢有多近。

三個問題：多常錯、錯了多痛、收不收得回

後來我判斷一件事能不能交給 AI，大概只問三個問題：

它多常出錯？錯了會傷到什麼？錯了收不收得回？

拿甜點店的 AI 客服來說，同樣叫「處理訂單」，我們其實分成好幾種做法。

一般的商品訂單，AI 會在對話裡把品項、數量、金額整理給客人看，客人按下「正確」，訂單就成立，跟網路商店一樣。

這一步把關的人不是老闆，是客人自己，因為他最清楚自己要什麼。

我也提醒團隊，之後要替「不想讓訂單直接成立、想要手動成立訂單」的店家預留開關。

大型的外燴訂單就不一樣了。AI 可以整理需求、產生報價單，但報價單一定先給店主看過，由店主決定要不要把簽約連結傳給客人。

金額大、牽涉合約，錯了不是改一句話就能收回。

不確定的時候，寧可先擋著不讓 AI 直接送出，也不要罵 AI 怎麼不回客人。

因為那樣等於是，你變相鼓勵 AI 去猜。

一開始 AI 剛出來時，大家都對 AI 有一種浪漫的想像，以為把事情丟給它就能「全自動」。

以為我有什麼事都讓他去做就行了。

但走過實戰就會發現，商業世界裡既沒有真正的全自動，也不該再回頭搞全人工。

錯誤越少、越輕、越容易事後逆轉的事，就越早放手給 AI。

牽涉錢、承諾、收不回來的事，就在那一步設一道關卡。

這套關卡，可以不是人。

但如果不是人，如果交給系統，你就必須確保這個關卡真的擋得住認真執行任務、以目標為導向的超聰明 AI。

錯誤一定會發生，重點是錯了之後誰來修

就算關卡都設好，AI 還是會出錯。

這點我一開始很難接受。

有段時間我很焦慮：為什麼我自己上網問 AI 問題，它很少出錯，我們做的 AI 客服卻一直被抓到答錯？是不是我們一開始哪裡沒想清楚，產品根本還不成熟？

回頭檢查才發現，很多所謂的「答錯」，不是 AI 在胡說，而是我們為了防止它出錯加了太多規則，把它擋死了。

結果，AI 該講的事實全被規則擋住，稍微不確定就秒轉人工。

客人感受到的不是謹慎，而是一個話講一半就搞消失的被動客服。

這讓我意識到一個盲點：最該防範的往往不是 AI 偶爾出錯，而是團隊為了預防「想像中的錯誤」，耗費大量資源去修那些可能不會發生、或客人根本不在意的「假想問題」。

仔細想想，連資深真人客服也是在累積了大量的客訴後，才能夠判斷每個案件要怎麼處理，才能夠幫客人真的解決問題。

但即使如此，遇到罕見的例外狀況，就算再怎麼資深，也還是需要 case by case 判斷，甚至動用到主管出馬。

既然連真人都不可能第一天就毫無破綻，我們更不需要對 AI 預支焦慮。

所以現在我的要求是，先找出證據來。

先看清楚 AI 客服到底還答不好哪些問題，再透過歸納法找出根因與源頭，最後才能決定到底要怎麼修才能盡量一次到位。

這樣，才能把團隊寶貴的時間和昂貴的力氣，精準排在資源的刀口上。

至於錯了之後誰來修，我的原則是交給「最清楚那份資料的人」。

店主在後台親自設定的規定（例如退款政策），優先權一定要高於 AI 從網站抓到的公開資料。

否則，當網站上的資料過時了、店主忘記更新，AI 就會答錯。

但只有這一層保護，還不夠。

我們讓店主只要一發現 AI 回錯，就能直接反映。

現在我們在 ChatGPT 裡，AI 回錯我們只能一來一回的糾正它，對嗎？

但我們的系統不用。

只要你有即時反映，店內的 AI 助理就會馬上為你準備好兩樣東西：一個是可以直接發給客人的更正訊息，以及，一份能預防 AI 再度出錯的店家專屬規則。

店主各按一下，更正訊息立即送出，新規則也立即生效。

就跟員工管理一樣。

差別只在於，我們人有時需要不斷地重複，才能學得會、變成肌肉記憶。

但 AI 不用。

只要你願意反映、願意講清楚規則（沒錯，用自然口語直接反映就可以），AI 客服就會切實遵守。

老闆該負責的，是規則

我和 AI 團隊合作到現在，大部分工作都放手讓它們做，甚至讓 AI Agent 整夜跑。

很多人會問：你難道不害怕出錯或帳單爆掉嗎？

我當然會怕。

所以我把控制權收縮到最關鍵的四件事上：只要牽涉花錢、帳號密碼等權限、最初沒講清楚的灰色地帶，或是無法撤回的操作，絕對必須回到我手上。

除此之外的事，我都交給 AI 依循事前定好的標準自己處理。

以前我也犯過一個錯誤：因為怕出錯，每當 AI 做完一件事，我都堅持要自己再看過、點頭才算數。

但很快我就發現，那根本不是管理，而是把自己變成整條流水線上最慢的那一關。

如果每一件小事都要老闆親自核准，你的時間永遠沒辦法被釋放，團隊也永遠長不大。

現在我的做法是：放掉「逐筆批准」，但把「規則與邊界」釘死。

只要事前定義好安全底線、檢驗標準，以及出錯時退回原狀的方法，並有獨立的檢查機制去核對證據，AI 完成任務後就可以直接往下走，不需要每次都來問我。

如果成果不如預期，問題通常不是 AI 不受控，而是我給的規則有漏洞。

老闆該管的從來不是每一顆螺絲怎麼鎖，而是這三件事：哪些事 AI 可以自己做、做完要拿出什麼證明、出錯時怎麼復原。

這三件事寫清楚，AI 才是在替公司分擔；寫不清楚，它做得再快，也只是把風險擴大得更快。

先別問 AI 夠不夠聰明

很多企業導入 AI，把力氣全花在挑最聰明又最便宜的模型。

但說實話，模型能力已經不是企業導入 AI 最大的瓶頸。

真正拉開差距的，是你能不能對每一個交出去的動作回答：它多常錯？錯了多痛？收不收得回？

答得出來的，就交出去，並要求它把證據帶回來。

答不出來的，問題通常不在 AI 不夠聰明，而是公司根本還沒準備好把那個決定交出去、還沒把決策的邊界與規則想清楚。

AI 永遠不會、也永遠沒辦法替公司負責。

但一套寫清楚的規則、清晰的標準與必要的關卡，可以讓「負責」這件事，由系統與流程一起分擔。

是的，老闆。

其實從頭到尾，你都不用一個人扛。