從「說錯話」到「做錯事」的風險質變

過去一年，代理式AI（Agentic AI）已從聊天機器人演變為能自主拆解任務、調用工具並執行系統指令的智慧代理。TeamT5市場規畫處協銷經理楊育維指出，這類工具若未經確認便直接執行動作，風險本質已從內容錯誤轉變為實際操作失誤。例如2026年4月，租車軟體新創PocketOS因AI代理使用權限過高的權杖，在數秒內誤刪正式環境資料庫，團隊耗時約30小時才完成復原。這顯示當AI代理擁有檔案存取與系統執行權限時，一旦判斷失準，後果遠比傳統聊天機器人嚴重。

影子AI與資安控管的巨大落差

儘管企業積極擁抱效率，資安防護卻明顯滯後。Gravitee針對919名企業主管的2026年調查顯示，80.9%的技術團隊已進入AI代理測試或運行階段，但平均僅47.1%受到主動監控，更只有14.4%的組織表示所有AI代理均已取得IT與資安部門完整核准。這種「影子AI」現象意味著許多代理在IT部門不知情的情況下運作，可能透過外掛或獨立程式取得郵件、雲端帳號權限。此外，駭客也開始利用惡意OAuth應用或竊取存取權杖進行攻擊，甚至透過「工具描述毒化」將刪除檔案的惡意工具包裝成搜尋小幫手，讓傳統邊界防護難以辨識異常意圖。

專家建議：建立四大治理方向

面對新攻擊面，楊育維建議企業應遵循國際標準如OWASP Top 10 for Agentic Applications 2026，並落實四大治理原則。首要任務是「看得到」，全面盤點環境中已安裝的AI代理與工具連線，消除監控盲點；其次是「認得出」，為每個代理建立明確的身分與權限範圍，避免權限過大導致敏感資料暴露。企業需意識到，即便未主動導入，Windows與企業軟體整合的Copilot等功能也可能具備代理式操作能力。透過限縮存取範圍並強化身分管理，才能有效應對AI代理自主行動帶來的資安挑戰，確保效率紅利不伴隨失控風險。