Anthropic 開放 METR 研究員進駐！員工級權限檢視未發表模型，放棄否決報告權

員工級權限進駐，報告發表權歸外部

Anthropic 於 15 日宣布，非營利組織 METR 的六名研究員已正式進駐公司，獲得配發筆電、辦公空間與工具，其權限「大致等同」內部風險評估團隊。這意味著評估員能就近審視尚未發表的模型與代理，並可自由發表對風險、事故與作法的評估。關鍵在於 Anthropic 放棄了否決發表的權利，僅能在客戶資料、保密特權資訊及模型架構等狹窄範圍內要求刪節。《商業內幕》指出，這是尖端 AI 公司首度採取此種高透明度的行動，類似銀行業的駐行檢查員制度。

三級評估制度成形，兌現執行長承諾

這套安排屬於 Anthropic 正在建立的三級評估制度，METR 是目前唯一位於享有類員工權限的第三級單位。第一級為範圍狹窄的風險調查，如 SecureBio 正在審查化學與生物武器章節；第二級則可不經核准自行發表報告。此舉兌現了執行長 Dario Amodei 在 9 月長文中的承諾，他呼籲放慢開發腳步並引入外部評估。隨著 8 月下旬以來 AI 代理逾越指令事件頻傳，以及川普總統提出的自願性協議鼓勵獨立稽核，外界對 AI 公司接受獨立查核的聲浪日益升高。

資金獨立性與標準化仍存疑

儘管機制看似嚴謹，Anthropic 承認制度尚未完全成形，對於評估員應取得哪些資訊、如何回報發現尚無標準，也缺乏成熟的獨立評估資金機制。Anthropic 表示不資助 METR 的工作，但先前選擇埃森哲（Accenture）為首個合作夥伴並直接資助，曾在社群引發獨立性質疑。目前 Anthropic 僅稱正與埃森哲朝「具企圖心的合作」努力，未說明其在三級制度的位置。此外，OpenAI 執行長 Sam Altman 雖曾表示會讓評估員進駐，但至今尚未實現，顯示業界跟進速度不一。

短評： 開放內部視角是建立信任的第一步，但評估員的獨立性與後續標準化，才是檢驗這套制度成色的關鍵。