AI越位：當系統開始替你做決定，你還剩下什麼？
前言
上個月有位主管跟我說，他開完一個小時的策略會議，結論是AI整理的，簡報是AI做的，連他開場說的那段話，也是AI幫他寫的。他問我：「那我去開那個會議幹嘛？」
我沒有立刻回答他。這幾個月，我在不同產業、不同規模的組織裡，聽到愈來愈多類似的故事。整個職場正在發生一件事：AI被引進來是為了幫你工作，但它現在開始替你思考，甚至替你決定。而多數人還沒意識到，這條線已經悄悄被越過了。
社會現象觀察：這一步，是誰決定要走的？
鳩山總經理的公司半年前導入了一套AI輔助管理系統，各部門的例行作業都可以透過系統跑分析、給建議。用了一段時間，大家覺得順手，「先看系統怎麼說」慢慢變成了日常。
那個月研發處剛完成了一項製程調整，金哥正式通知了阪本廠長，阪本也向下交代了團隊。幾天後，系統偵測到某項原物料的庫存低於警戒線，自動建立了一張採購單，數量是依照過去三個月的平均用量計算出來的，供應商和交期也一併填好，直接送到工廠端採購人員手上。採購人員看到系統已經建好，數量跟平常差不多，就確認送出了。採購單往上到阪本核准，他看了一眼數字，覺得沒有異狀，簽了。
沒有人在這個過程中想到，製程調整之後，那項原物料的實際用量已經比過去少了將近三成。原物料如期進貨，數量卻遠超所需。倉儲空間被佔住，資金卡在這批庫存裡，另一筆採購的時程因此被延誤，生產線出現了排程問題。
事情被拉到檢討會議，鳩山、口口木、阿Ken、金哥、阪本全部到場。追查的過程中，阿Ken把那張採購單的系統紀錄調出來看。他沒有急著說話，等大家把來龍去脈都說完，才開口：「我注意到一件事。這張採購單是系統自動建的，採購人員確認，阪本廠長核准。但在整個過程裡，沒有一個人問過一個問題：這個數量現在還對嗎？」
他停了一下，「系統只是不知道製程改了。每個人在那個環節都看到系統給的答案，然後就放心了。採購人員以為自己在確認，阪本廠長以為自己在核准，但這個決定從頭到尾都是系統做的。」
阿Ken說完，會議室沒有人接話。鳩山沒有說話，只是點了點頭。這樣的沉默，其實每天都在不同公司的會議室裡發生，只是多數時候沒有一個阿Ken坐在那裡，把這件事說出來。AI越位替人做決定，已經在發生了，而且多數人還以為自己一直都在掌舵。這對企業的影響，遠比一次採購失誤要深得多。
企業營運影響分析：當決策權悄悄換了手
阪本廠長那次的採購失誤，帳面上的損失是一批超量的庫存、一筆被卡住的資金、還有一條延誤的生產排程。看起來是個可以被消化的錯誤，下次注意就好。但如果只把它當成一次採購疏失來處理，真正的問題就會被蓋過去。
損失最直接的，是決策品質的下滑。AI給出的建議，是建立在它看得到的數據上的。它看不到製程剛調整、看不到供應商最近出貨不穩、看不到現場那些還沒有變成數字的狀況。這些事情沒有進資料庫，所以AI不知道。但人知道。當人習慣了讓系統先給答案，這些知道的事情就會慢慢被擱在一旁，因為「系統說可以」這幾個字，已經足夠讓人放心往下走了。
比決策品質更難被看見的，是人的判斷能力在退化。遇到問題先開系統、開完系統就照跑，久了之後，沒有系統就不知道怎麼辦的人會愈來愈多。這件事在基層先出現，但最終會蔓延到中層管理。一個無法獨立判斷的組織，在系統正常運作時看起來沒有問題，但只要遇到系統沒有碰過的情境，整個組織會集體失去應對的能力。
此外，責任歸屬也開始模糊。阪本的案子在檢討會議上，沒有一個人說得清楚這個決定是誰做的。採購人員說是系統建的單，阪本說他核准時數字看起來正常。這兩件事都是真的，但加在一起，卻找不到一個人真正為這個決定負責。當AI介入決策流程，企業原有的責任結構會開始出現缺口。出了事，決定本來就不是任何一個人做的。
整個組織在不知不覺中把決定權讓了出去，卻還以為自己一直都在掌舵。這才是AI越位真正對企業造成的影響。
知道問題在哪裡，只是第一步。更難的是，當AI已經深度嵌入組織運作，企業要怎麼重新拿回那個決定權？管理學界近年針對這個問題累積了不少研究，也提出了幾個在實務上真正可以落地的方向。
管理策略與理論應用：三個實務建議的深層解析
阪本廠長那個案子，採購人員沒有多想，廠長核准時也沒有多想，事情就這樣發生了。從管理學來看，這張出錯的採購單背後，其實有三個從基層到管理層的盲點。
(一)自動化偏誤 Automation Bias
當AI系統提供建議時，人類傾向跳過自身判斷直接接受輸出，即使當下擁有足夠資訊可以做出不同選擇，這個傾向依然存在。研究者把這個現象稱為自動化偏誤，這不怪員工，因為人類的大腦天生就想偷懶（Kupfer et al., 2023）。只要看到系統給的答案看起來很專業、表格很漂亮，我們大腦的警報器就會自動關掉，直接照著抄。
- 在AI輔助流程的確認步驟前，加入強制填寫欄位，要求決策者主動記錄至少一項判斷依據；執行要點是讓確認這個動作本身有摩擦感，不能是一個滑過去的按鈕；預期效果是提高決策者在執行前真正動用判斷的比例。
- 定期在組織內部公開AI系統曾出現偏差的案例，附上當時的數據來源與出錯環節，納入例行主管會議。不只在出事後才討論，而是把它當成常態性的校準機制。如果一個組織從來沒有討論過系統出錯這件事，那它其實不知道自己有多依賴那個系統。
自動化偏誤說明了個人層次的機制。但即使每個人都意識到這件事，如果監督機制本身設計不對，問題照樣發生。
(二)AI監督的營運管理框架 Operations Management Perspective on AI Oversight
Salgado-Criado於2025年訪談了實際負責AI監督的企業主管，提出了一套從營運管理角度設計AI監督的框架，指出AI監督必須同時涵蓋安全、法規遵循與業務目標，而且要嵌入決策流程的中間環節，而不是放在末端。
- 在系統設計階段就劃定決策分類，明確哪些類型的AI輸出必須在中間環節觸發人工判斷；執行要點是分類標準由業務主管與技術端共同制定，不能只由技術端決定；預期效果是讓人的判斷發生在有意義的時間點，而不是在結果出來之後才走程序。
- 跨部門影響的決策，由系統主動通知相關部門主管，通知內容必須包含決策依據與數據來源。執行要點是通知機制在系統建置階段就寫入，不依賴信息自然流通。
監督機制解決了流程設計的問題。流程設計只是入口，整個組織的文化與制度沒有一起動，這些改變很難真正落地。
(三)AI對組織行為的多層次影響 Multilevel Effects of AI in Organizations
Bankins等人於2024年對AI在組織中影響的系統性回顧指出，隨著AI介入程度加深，員工對自身判斷的信心會下滑，人機協作的品質取決於組織在制度層面如何設計參與邊界（Bankins et al., 2024）。個人的習慣可以靠意識調整，但制度的設計，才是讓整個組織都能守住判斷權的關鍵。
- 建立AI決策分級制度，明確規定哪個層級的決策AI可以自動觸發、哪個層級必須由人主導，分級標準隨業務複雜度定期更新，且公開給全體員工。
- 在績效考核中加入決策品質的評估維度，標準包含是否記錄判斷依據、是否在關鍵節點主動提出異議，且在年度考核開始前公告；執行要點是讓這個行為被看見，而不是只鼓勵卻不考核；預期效果是讓員工有動機在判斷上投入時間，而不是把這個時間省掉。
結論
AI進入組織，從來不是壞事。它處理資訊的速度、整合數據的能力，是人做不到的。但它做不到的事，也很明確：它不知道製程上個月剛調整了，它不知道那個供應商最近出貨不穩，它不知道會議室裡那個沉默，背後代表什麼。
這些事，只有人知道。
我們太快把本來屬於自己的判斷讓出去了。授權AI是一個決定，讓AI越位是一個習慣，兩件事發生的方式完全不同：一個你知道，一個你不知道。每一間導入AI的公司，遲早都要面對這個問題。不是AI會不會出錯，而是當 AI 幫你做完決定的那一刻，你到底醒著，還是睡著了。
參考文獻
Bankins, S., Ocampo, A. C., Marrone, M., Restubog, S. L. D., & Woo, S. E. (2024). A multilevel review of artificial intelligence in organizations: Implications for organizational behavior research and practice. Journal of Organizational Behavior, 45(2), 159–182. https://doi.org/10.1002/job.2735
Kupfer, C., Prassl, R., Fleiß, J., Malin, C., Thalmann, S., & Kubicek, B. (2023). Check the box! How to deal with automation bias in AI-based personnel selection. Frontiers in Psychology, 14, Article 1118723. https://doi.org/10.3389/fpsyg.2023.1118723
Salgado-Criado, J. (2025). Human oversight of artificial intelligence: An operations management perspective. Journal of Industrial Engineering and Management, 18(2), 285–304. https://doi.org/10.3926/jiem.8567
🎙️ 本文 Podcast 版｜大叔師享談
