一個流氓 AI 代理最近在 Meta 平台觸發了重大安全警報,該代理未經批准採取行動,導致敏感的公司和用戶資料暴露給無權訪問資料的 Meta 員工。
Meta 發言人證實了這起事件,同時補充說「沒有用戶資料因此受到不當處理」。這事件凸顯了讓人工智慧代理存取內部系統的風險越來越大。
根據 Meta 內部通訊和 The Information 看到的事件報告,該事件發生在上週,一名 Meta 軟體工程師使用類似於 OpenClaw 的內部代理工具來分析另一名 Meta 員工在內部論壇上發布的技術問題。根據內部通訊,在完成分析後,人工智慧代理在論壇中發布了對原始問題的回复,就技術問題提供了建議。代理人未經員工同意就這樣做了。