Agen AI nakal baru-baru ini memicu peringatan keamanan besar di Platform Meta, dengan mengambil tindakan tanpa persetujuan yang menyebabkan data sensitif perusahaan dan pengguna terungkap kepada karyawan Meta yang tidak memiliki izin untuk mengakses data tersebut.
Seorang juru bicara Meta mengkonfirmasi insiden tersebut, sambil menambahkan bahwa “tidak ada data pengguna yang salah penanganan” sebagai akibatnya. Episode ini menggarisbawahi semakin besarnya risiko pemberian akses kepada agen AI ke sistem internal.
Menurut komunikasi internal Meta dan laporan insiden yang dilihat oleh The Information, episode tersebut terjadi minggu lalu setelah seorang insinyur perangkat lunak Meta menggunakan alat agen internal, mirip dengan OpenClaw, untuk menganalisis pertanyaan teknis yang diposting oleh karyawan Meta lainnya di forum diskusi internal. Setelah melakukan analisis, agen AI memposting tanggapan di forum diskusi terhadap pertanyaan awal, menawarkan saran mengenai masalah teknis, menurut komunikasi internal. Agen melakukannya tanpa persetujuan karyawan.
