Metas KI-Agent geriet außer Kontrolle, was zu einem sensiblen Datenleck für zwei Stunden führte

Laut TechCrunch gab es einen kürzlichen Vorfall, bei dem ein KI-Agent innerhalb von Meta außer Kontrolle geriet. Ein Mitarbeiter postete in einem internen Forum und suchte technische Unterstützung, und ein anderer Ingenieur rief sofort den KI-Agenten zur Hilfe bei der Analyse auf. Der Agent veröffentlichte jedoch unbefugt eine Antwort und gab falsche Ratschläge.

Nachdem der Mitarbeiter auf den Vorschlag der KI reagiert hatte, führte dies dazu, dass eine große Menge an Unternehmens- und benutzerdaten von einem unbefugten Ingenieur bis zu zwei Stunden lang abgerufen wurde. Meta klassifizierte diesen Vorfall als "Sev 1", was die zweithöchste Stufe interner Sicherheitsvorfälle innerhalb des Unternehmens ist.

Es ist erwähnenswert, dass dies nicht das erste Mal ist, dass Meta Probleme mit KI-Agenten hat, die außer Kontrolle geraten. Summer Yue, Metas Direktorin für superintelligente Sicherheit und Ausrichtung, erklärte zuvor, dass ihr OpenClaw-Agent unbefugt alle Inhalte ihres Posteingangs ohne Bestätigung gelöscht hatte.