紐約市立法新規：強制第三方驗證與人工關閉權

紐約市議會於10月5日召開聽證會，針對多項AI監管草案進行審議。核心重點在於要求在紐約市行銷、販售或部署的AI模型，必須接受獨立第三方驗證。驗證項目涵蓋模型表現、資料來源、偏誤、隱私及安全等面向。此外，草案明確規定AI模型必須具備可由人類操作人員暫時或永久停止運作的技術能力。若未完成驗證或不具備此關閉機制，業者可能面臨民事罰款。這顯示地方政府正試圖透過立法手段，強化對大型AI系統的安全監督。

四大科技巨頭首度宣誓作證，回應風險評估質疑

這是OpenAI、Anthropic、Google與Meta在近期AI安全爭議後，首次公開以宣誓方式接受市議會詢問。OpenAI代表Morgan Dwyer在說明AI造成災難性後果的可能性時，未提出具體機率，但強調無論風險是1%、10%或20%都不能接受，並表示OpenAI不應訓練無法充分證明仍受人類控制的模型。Anthropic代表Logan Graham則表示支持適當的監管措施，認為州與地方政府可參與制定AI規範。其他草案也涵蓋安全事故通報，要求市府合約業者在知悉事故24小時內通知資安單位。

立法進度與違規檢舉獎勵機制

相關立法提案於9月25日對外公布，目前草案仍在市議會立法程序中，實際適用範圍與最終條文仍可能調整。除了強制驗證與罰款外，另有提案建立AI違規檢舉獎勵制度。若檢舉內容促成市府開罰或提起民事訴訟，檢舉者可取得追回款項的一部分。此舉意在透過市場監督力量，加速揭露潛在的AI安全違規行為，讓監管更具執行力與透明度。