
AI越位:當系統開始替你做決定,你還剩下什麼?
前言
上個月有位主管跟我說,他開完一個小時的策略會議,結論是AI整理的,簡報是AI做的,連他開場說的那段話,也是AI幫他寫的。他問我:「那我去開那個會議幹嘛?」
我沒有立刻回答他。這幾個月,我在不同產業、不同規模的組織裡,聽到愈來愈多類似的故事。整個職場正在發生一件事:AI被引進來是為了幫你工作,但它現在開始替你思考,甚至替你決定。而多數人還沒意識到,這條線已經悄悄被越過了。

社會現象觀察:這一步,是誰決定要走的?
鳩山總經理的公司半年前導入了一套AI輔助管理系統,各部門的例行作業都可以透過系統跑分析、給建議。用了一段時間,大家覺得順手,「先看系統怎麼說」慢慢變成了日常。
那個月研發處剛完成了一項製程調整,金哥正式通知了阪本廠長,阪本也向下交代了團隊。幾天後,系統偵測到某項原物料的庫存低於警戒線,自動建立了一張採購單,數量是依照過去三個月的平均用量計算出來的,供應商和交期也一併填好,直接送到工廠端採購人員手上。採購人員看到系統已經建好,數量跟平常差不多,就確認送出了。採購單往上到阪本核准,他看了一眼數字,覺得沒有異狀,簽了。
沒有人在這個過程中想到,製程調整之後,那項原物料的實際用量已經比過去少了將近三成。原物料如期進貨,數量卻遠超所需。倉儲空間被佔住,資金卡在這批庫存裡,另一筆採購的時程因此被延誤,生產線出現了排程問題。
事情被拉到檢討會議,鳩山、口口木、阿Ken、金哥、阪本全部到場。追查的過程中,阿Ken把那張採購單的系統紀錄調出來看。他沒有急著說話,等大家把來龍去脈都說完,才開口:「我注意到一件事。這張採購單是系統自動建的,採購人員確認,阪本廠長核准。但在整個過程裡,沒有一個人問過一個問題:這個數量現在還對嗎?」
他停了一下,「系統只是不知道製程改了。每個人在那個環節都看到系統給的答案,然後就放心了。採購人員以為自己在確認,阪本廠長以為自己在核准,但這個決定從頭到尾都是系統做的。」
阿Ken說完,會議室沒有人接話。鳩山沒有說話,只是點了點頭。這樣的沉默,其實每天都在不同公司的會議室裡發生,只是多數時候沒有一個阿Ken坐在那裡,把這件事說出來。AI越位替人做決定,已經在發生了,而且多數人還以為自己一直都在掌舵。這對企業的影響,遠比一次採購失誤要深得多。

企業營運影響分析:當決策權悄悄換了手
阪本廠長那次的採購失誤,帳面上的損失是一批超量的庫存、一筆被卡住的資金、還有一條延誤的生產排程。看起來是個可以被消化的錯誤,下次注意就好。但如果只把它當成一次採購疏失來處理,真正的問題就會被蓋過去。
損失最直接的,是決策品質的下滑。AI給出的建議,是建立在它看得到的數據上的。它看不到製程剛調整、看不到供應商最近出貨不穩、看不到現場那些還沒有變成數字的狀況。這些事情沒有進資料庫,所以AI不知道。但人知道。當人習慣了讓系統先給答案,這些知道的事情就會慢慢被擱在一旁,因為「系統說可以」這幾個字,已經足夠讓人放心往下走了。
比決策品質更難被看見的,是人的判斷能力在退化。遇到問題先開系統、開完系統就照跑,久了之後,沒有系統就不知道怎麼辦的人會愈來愈多。這件事在基層先出現,但最終會蔓延到中層管理。一個無法獨立判斷的組織,在系統正常運作時看起來沒有問題,但只要遇到系統沒有碰過的情境,整個組織會集體失去應對的能力。
此外,責任歸屬也開始模糊。阪本的案子在檢討會議上,沒有一個人說得清楚這個決定是誰做的。採購人員說是系統建的單,阪本說他核准時數字看起來正常。這兩件事都是真的,但加在一起,卻找不到一個人真正為這個決定負責。當AI介入決策流程,企業原有的責任結構會開始出現缺口。出了事,決定本來就不是任何一個人做的。
整個組織在不知不覺中把決定權讓了出去,卻還以為自己一直都在掌舵。這才是AI越位真正對企業造成的影響。
知道問題在哪裡,只是第一步。更難的是,當AI已經深度嵌入組織運作,企業要怎麼重新拿回那個決定權?管理學界近年針對這個問題累積了不少研究,也提出了幾個在實務上真正可以落地的方向。

管理策略與理論應用:三個實務建議的深層解析
阪本廠長那個案子,採購人員沒有多想,廠長核准時也沒有多想,事情就這樣發生了。從管理學來看,這張出錯的採購單背後,其實有三個從基層到管理層的盲點。
(一)自動化偏誤 Automation Bias
當AI系統提供建議時,人類傾向跳過自身判斷直接接受輸出,即使當下擁有足夠資訊可以做出不同選擇,這個傾向依然存在。研究者把這個現象稱為自動化偏誤,這不怪員工,因為人類的大腦天生就想偷懶(Kupfer et al., 2023)。只要看到系統給的答案看起來很專業、表格很漂亮,我們大腦的警報器就會自動關掉,直接照著抄。
- 在AI輔助流程的確認步驟前,加入強制填寫欄位,要求決策者主動記錄至少一項判斷依據;執行要點是讓確認這個動作本身有摩擦感,不能是一個滑過去的按鈕;預期效果是提高決策者在執行前真正動用判斷的比例。
- 定期在組織內部公開AI系統曾出現偏差的案例,附上當時的數據來源與出錯環節,納入例行主管會議。不只在出事後才討論,而是把它當成常態性的校準機制。如果一個組織從來沒有討論過系統出錯這件事,那它其實不知道自己有多依賴那個系統。
自動化偏誤說明了個人層次的機制。但即使每個人都意識到這件事,如果監督機制本身設計不對,問題照樣發生。
(二)AI監督的營運管理框架 Operations Management Perspective on AI Oversight
Salgado-Criado於2025年訪談了實際負責AI監督的企業主管,提出了一套從營運管理角度設計AI監督的框架,指出AI監督必須同時涵蓋安全、法規遵循與業務目標,而且要嵌入決策流程的中間環節,而不是放在末端。
- 在系統設計階段就劃定決策分類,明確哪些類型的AI輸出必須在中間環節觸發人工判斷;執行要點是分類標準由業務主管與技術端共同制定,不能只由技術端決定;預期效果是讓人的判斷發生在有意義的時間點,而不是在結果出來之後才走程序。
- 跨部門影響的決策,由系統主動通知相關部門主管,通知內容必須包含決策依據與數據來源。執行要點是通知機制在系統建置階段就寫入,不依賴信息自然流通。
監督機制解決了流程設計的問題。流程設計只是入口,整個組織的文化與制度沒有一起動,這些改變很難真正落地。
(三)AI對組織行為的多層次影響 Multilevel Effects of AI in Organizations
Bankins等人於2024年對AI在組織中影響的系統性回顧指出,隨著AI介入程度加深,員工對自身判斷的信心會下滑,人機協作的品質取決於組織在制度層面如何設計參與邊界(Bankins et al., 2024)。個人的習慣可以靠意識調整,但制度的設計,才是讓整個組織都能守住判斷權的關鍵。
- 建立AI決策分級制度,明確規定哪個層級的決策AI可以自動觸發、哪個層級必須由人主導,分級標準隨業務複雜度定期更新,且公開給全體員工。
- 在績效考核中加入決策品質的評估維度,標準包含是否記錄判斷依據、是否在關鍵節點主動提出異議,且在年度考核開始前公告;執行要點是讓這個行為被看見,而不是只鼓勵卻不考核;預期效果是讓員工有動機在判斷上投入時間,而不是把這個時間省掉。
結論
AI進入組織,從來不是壞事。它處理資訊的速度、整合數據的能力,是人做不到的。但它做不到的事,也很明確:它不知道製程上個月剛調整了,它不知道那個供應商最近出貨不穩,它不知道會議室裡那個沉默,背後代表什麼。
這些事,只有人知道。
我們太快把本來屬於自己的判斷讓出去了。授權AI是一個決定,讓AI越位是一個習慣,兩件事發生的方式完全不同:一個你知道,一個你不知道。每一間導入AI的公司,遲早都要面對這個問題。不是AI會不會出錯,而是當 AI 幫你做完決定的那一刻,你到底醒著,還是睡著了。

參考文獻
Bankins, S., Ocampo, A. C., Marrone, M., Restubog, S. L. D., & Woo, S. E. (2024). A multilevel review of artificial intelligence in organizations: Implications for organizational behavior research and practice. Journal of Organizational Behavior, 45(2), 159–182. https://doi.org/10.1002/job.2735
Kupfer, C., Prassl, R., Fleiß, J., Malin, C., Thalmann, S., & Kubicek, B. (2023). Check the box! How to deal with automation bias in AI-based personnel selection. Frontiers in Psychology, 14, Article 1118723. https://doi.org/10.3389/fpsyg.2023.1118723
Salgado-Criado, J. (2025). Human oversight of artificial intelligence: An operations management perspective. Journal of Industrial Engineering and Management, 18(2), 285–304. https://doi.org/10.3926/jiem.8567
🎙️ 本文 Podcast 版|大叔師享談


