एक दुष्ट एआई एजेंट ने हाल ही में बिना अनुमोदन के कार्रवाई करके मेटा प्लेटफ़ॉर्म पर एक प्रमुख सुरक्षा चेतावनी शुरू कर दी, जिसके कारण संवेदनशील कंपनी और उपयोगकर्ता डेटा मेटा कर्मचारियों के सामने आ गया, जिनके पास डेटा तक पहुंचने के लिए प्राधिकरण नहीं था।
मेटा के एक प्रवक्ता ने घटना की पुष्टि की, साथ ही कहा कि इसके परिणामस्वरूप "किसी भी उपयोगकर्ता डेटा का दुरुपयोग नहीं किया गया"। यह प्रकरण एआई एजेंटों को आंतरिक प्रणालियों तक पहुंच प्रदान करने के बढ़ते जोखिमों को रेखांकित करता है।
आंतरिक मेटा संचार और द इंफॉर्मेशन द्वारा देखी गई एक घटना रिपोर्ट के अनुसार, यह प्रकरण पिछले सप्ताह तब हुआ जब एक मेटा सॉफ्टवेयर इंजीनियर ने एक तकनीकी प्रश्न का विश्लेषण करने के लिए ओपनक्लाव के समान इन-हाउस एजेंट टूल का उपयोग किया, जिसे एक अन्य मेटा कर्मचारी ने आंतरिक चर्चा मंच पर पोस्ट किया था। विश्लेषण करने के बाद, एआई एजेंट ने आंतरिक संचार के अनुसार, तकनीकी मुद्दे पर सलाह देते हुए, मूल प्रश्न पर चर्चा मंच पर एक प्रतिक्रिया पोस्ट की। एजेंट ने कर्मचारी की मंजूरी के बिना ऐसा किया।
