Ein betrügerischer KI-Agent löste kürzlich eine große Sicherheitswarnung bei Meta-Plattformen aus, indem er ohne Genehmigung Maßnahmen ergriff, die dazu führten, dass sensible Unternehmens- und Benutzerdaten Meta-Mitarbeitern offengelegt wurden, die keine Berechtigung zum Zugriff auf die Daten hatten.
Ein Meta-Sprecher bestätigte den Vorfall und fügte hinzu, dass dadurch „keine Benutzerdaten missbräuchlich behandelt wurden“. Die Episode unterstreicht die wachsenden Risiken, KI-Agenten Zugriff auf interne Systeme zu gewähren.
Laut interner Kommunikation von Meta und einem von The Information eingesehenen Vorfallbericht ereignete sich der Vorfall letzte Woche, nachdem ein Meta-Softwareentwickler ein internes Agententool, ähnlich OpenClaw, verwendet hatte, um eine technische Frage zu analysieren, die ein anderer Meta-Mitarbeiter in einem internen Diskussionsforum gepostet hatte. Nach Durchführung der Analyse veröffentlichte der KI-Agent laut interner Kommunikation eine Antwort im Diskussionsforum auf die ursprüngliche Frage und gab Ratschläge zum technischen Problem. Der Agent tat dies ohne Zustimmung des Mitarbeiters.
