20億參數決策模型,專攻代理人安全判斷
AWS Strands團隊於10月1日開源Strands Decider 2B,這是一個擁有20億參數的決策模型,專為AI代理人設計。它不生成自由文字,而是從預設選項中進行分類、工具選擇及安全判斷。模型基於Qwen3.5-2B預訓練模型,移除原本負責生成文字的LM head,改用專門替答案選項評分的pointer head。這種架構犧牲了複雜推理能力,換取極低的延遲與穩定的結構化輸出,並能為每項決策提供可信度分數。目前公開模型已迭代至v19,早期採用的slot head因表現較差而被棄用。
本機硬體毫秒級響應,RTX 3090延遲僅115毫秒
Strands Decider 2B可直接在本機CPU或GPU執行,實現低延遲決策。測試顯示,在Nvidia RTX 3090上,中位決策時間約115毫秒;在M3 MacBook處理小型工作時,則約153毫秒。AWS示範了將其整合進AI代理人的工具呼叫流程:當代理人準備執行某項工具時,可先將對話內容及預定工具呼叫交給Decider判斷,再決定是否繼續執行。例如查詢天氣時,若使用者未提供地點,Decider可判斷資訊不足,讓代理人先詢問地點,而非自行猜測執行,有效避免錯誤操作。
開源生態完善,SDK下載量破1,400萬次
AWS同步公開了Strands Decider 2B的原始碼、訓練資料及相關範例,模型權重已上架Hugging Face。其背後的Strands Agents SDK於2025年5月開源,支援Python及TypeScript,累計下載已超過1,400萬次。今年2月推出的Strands Labs作為GitHub上的代理式AI實驗平臺,讓Amazon各開發團隊能公開測試新技術並依社群回饋改進。這類決策模型隨AI代理人發展受關注,前OpenAI研究人員Diogo Almeida創辦的TypeSafe AI今年9月發表的Jev也是同類模型。決策模型讓代理人處理大量簡單決策時,無需每次都交由大型語言模型,提升效率。
決策模型讓AI代理人從「猜測」轉向「判斷」,安全與效率兼得。