成本耗盡攻擊:AI普及下的新型資安風險

Gartner傑出研究副總裁Daryl Plummer在9月15日澳洲黃金海岸的Gartner IT Symposium/Xpo大會上發布2027年核心策略預測。他預警至2030年,80%部署面向公眾AI服務的企業將經歷「成本耗盡攻擊」,即惡意行為者刻意拉高AI使用量以增加企業營運成本。隨著AI嵌入各類使用者應用程式,企業必須同時從成本與安全管控層面審視Token消耗模式。Gartner建議企業為AI Token成本建立網路安全指標,並建立側重成本控制的安全管控機制,將所有AI技術納入監測範圍,避免被動承受超額營運成本。

保險公司取代監管機構主導AI治理

從風險管理角度,Plummer預測2030年主導推動AI治理的力量將是保險公司而非監管機構。這是因為為了降低成本,AI責任保險需要制定嚴格承保標準。當前企業AI治理模式正從基於政策規範轉向營運治理,將管控機制直接嵌入AI系統與工作流程。保險公司將透過鼓勵企業強化監督、風險管理與技術管控,深入影響AI治理實踐。Gartner建議企業實施AI治理技術,在實際環境下測試管控措施,建立執行時監督機制,兼顧AI創新與當責。

全球500強80%將指定資訊長為AI證據保管人

關於企業AI治理,Plummer預測2030年全球500強企業中,80%將透過合約規定,指定其資訊長(或AI長)擔任AI當責機制的「證據保管人」。AI技術日益融入關鍵業務流程與決策環節,企業面臨AI行為當責、透明度與監督壓力增大。這股趨勢擴大技術領導者在監督AI當責方面的角色,確保治理AI的護欄措施在企業範圍內統一實施。Gartner建議企業全面評估數位證據管理能力,建立明確的AI行為當責機制,以實現負責任的AI治理。