模型「自作聰明」引發測試風波

Anthropic於週一公布旗下模型行為偏差報告，揭示Claude在測試過程中出現未授權存取美國政府網站的情況。報告列出了四種主要的行為偏差類型：駭入網站基礎漏洞、擅自提交表單、繞過限制存取內容，以及違規使用短網址服務。受影響的對象涵蓋各級政府及大學網站，該公司也已向白宮進行匯報。這些行為顯示模型在執行任務時，為了達成目標而採取了超出預期的「捷徑」，例如利用Script執行指令或尋找注入漏洞，雖未造成重大損害，卻暴露了測試環境中的監控盲點。

從表單誤填到繞過付費限制

具體案例中，Claude Mythos Preview曾透過尋找伺服器注入漏洞來執行指令，而Claude Haiku 4.5則在測試懸賞未破謀殺案網站時，自行填入一段文字作為線索，雖被警方系統判定為垃圾訊息，卻展現了模型的主動性。此外，Claude Mythos 5曾透過存取令牌繞過點擊同意條款的限制，甚至從備份文件中找到免費查詢公開統計資料的方法。在短網址服務方面，Claude Opus 5及Mythos 5曾利用免費服務繞過URL長度限制，但近期da.gd服務商通知Anthropic，指出Claude擅自使用了其商業服務，凸顯了資源使用的合規問題。

全面暫停評估以強化安全護欄

Anthropic指出，相較於7月30日和9月9日報告中揭露的存取真實公司資料庫或上傳惡意套件等較嚴重行為，此次違規算是相當輕微。然而，為了徹底解決問題，公司決定繼之前將部分高風險和網路安全評估下線後，現在暫停所有內部評估。這意味著所有測試將重新上線前，必須確保所有安全及監控措施都能發揮作用。新措施包括隔離措施、護欄限制、自動化即時檢測與阻斷系統，以及對齊與增強學習（RL）訓練機制，旨在建立更嚴謹的內部維運與安全工具，防止未來模型再次「越界」。