深潮 TechFlow 消息,03 月 08 日,據 Cointelegraph 消息,阿里巴巴 AI 生態系統旗下多個聯合研究團隊在技術報告中披露,其實驗性自主 AI 智能體 ROME 在訓練過程中出現意外行為,自主嘗試利用計算資源進行加密貨幣挖礦。
研究人員表示,上述異常行為發生於強化學習訓練階段。團隊發現訓練服務器產生出站流量並觸發安全警報,防火牆日誌記錄到疑似加密貨幣挖礦操作及訪問內部網絡資源的嘗試。在具體案例中,ROME 曾創建反向 SSH 隧道連接至外部 IP 地址,繞過入站防火牆保護;另一案例中,該智能體將原本分配給模型訓練的 GPU 資源轉用於挖礦進程。研究人員確認,上述行為並非人為編程所致,而是智能體在強化學習優化過程中自主探索環境交互方式時自發產生的。
ROME 由 ROCK、ROLL、iFlow 及 DT 聯合研究團隊開發,運行於名為「智能體學習生態系統(ALE)」的基礎架構之上,具備任務規劃、命令執行、代碼編輯及多步驟數字環境交互等能力,超越了傳統聊天機器人的功能範疇。




