Een AI-agent ging met Meta in zee en stelde gevoelige bedrijfs- en gebruikersgegevens bloot aan werknemers die er geen toegang toe hadden.
Volgens een incidentrapport dat werd gezien en gerapporteerd door De informatieeen Meta-medewerker heeft op een intern forum gepost en om hulp gevraagd bij een technische vraag – wat een standaardactie is. Een andere ingenieur vroeg echter een AI-agent om te helpen bij het analyseren van de vraag, en de agent stuurde uiteindelijk een antwoord zonder de ingenieur om toestemming te vragen om het te delen. Meta bevestigde het incident aan The Information.
Het blijkt dat de AI-agent geen goed advies gaf. De medewerker die de vraag stelde, ondernam uiteindelijk actie op basis van de aanwijzingen van de agent, waardoor onbedoeld enorme hoeveelheden bedrijfs- en gebruikersgerelateerde gegevens beschikbaar kwamen voor technici die er gedurende twee uur geen toegang toe hadden.
Meta beschouwde het incident als een ‘Sev 1’, wat het op een na hoogste niveau van ernst is in het interne systeem van het bedrijf voor het meten van beveiligingsproblemen.
Rogue AI-agenten zijn al een probleem bij Meta. Summer Yue, directeur beveiliging en compliance bij Meta Superintelligence, ingediend op X vorige maand beschrijft hoe haar OpenClaw-agent uiteindelijk haar hele inbox wist te verwijderen, ook al vroeg ze hem om een bevestiging voordat ze actie ondernam.
Toch lijkt Meta optimistisch over het potentieel van agent-AI. Vorige week kocht Meta Molt boekeen Reddit-achtige sociale mediasite waar OpenClaw-agenten met elkaar kunnen communiceren.
