AI失控非終點，安全防護才是加速器

近期頂尖AI模型服務失控引發討論，SailPoint執行長Mark McClain明確表示，AI發展不會也不該停下腳步。他以F1賽車為喻，指出完善的煞車系統是賽車手敢以每小時200英里衝彎的關鍵；若因恐懼事故而延緩AI採用，反而讓惡意行為者更囂張。McClain強調，產業應持續投入資源確保安全性，而非因噎廢食。他認為，雖然Anthropic或OpenAI等公司可能暫緩下一代模型開發以確保防護措施（guardrails），但這並非「暫停」AI使用，而是為了讓技術更穩健地登上大舞臺。現實是「精靈已出瓶」，我們必須用正確方法建立防護，而非停止發展。

適應性身分：應對動態環境的即時防護

針對Hugging Face遭駭事件，McClain分析指出，攻擊者透過入侵系統管理員帳戶取得權限並建立新憑證，暴露出既有防護機制的缺陷。傳統基於「最小權限原則」的零信任模型，在面對擅長揭露漏洞的頂尖AI模型時顯得不足。為此，SailPoint提出「適應性身分（adaptive identity）」概念，協助企業在極其動態的環境中，根據情境和意圖即時調整身分安全措施。這意味著身分授權與變更需從以天或週為單位，轉變為以微秒為單位的即時處理。當AI代理面臨挑戰或遭到入侵時，系統能立即變更並加以限制，實現即時的AI代理動態管理。

平衡便利與安全，邁向無摩擦防護

McClain坦言，控制AI代理確實會相對限制其能力，關鍵在於提供「無摩擦」的安全防護。企業目前處於「邊緣中的邊緣」，一方面感受加快採用AI的壓力，另一方面則擔憂風險控管不足。SailPoint透過發現、治理、保護三大環節，利用AI代理減輕身分管理負擔，並偵測異常訊號。他預測，隨著企業級AI部署擴大，資安團隊將進行更嚴格審查，但透過完善的管控措施，企業能在保障安全的前提下加速前進。這不僅是技術轉型，更是營運模式的典範轉移，唯有克服挑戰，才能讓AI真正發揮價值。