In juni 2025 onthulden onderzoekers een kwetsbaarheid die gevoelige Microsoft 365 Copilot-gegevens blootlegden zonder enige gebruikersinteractie. In tegenstelling tot conventionele inbreuken die afhankelijk zijn van phishing of gebruikersfouten, omzeilde deze exploit, nu bekend als EchoLeak, menselijk gedrag volledig en haalde vertrouwelijke informatie eruit door de manier te manipuleren waarop Copilot met gebruikersgegevens omgaat. Het incident benadrukt een ontnuchterende realiteit: de huidige beveiligingsmodellen, ontworpen voor voorspellende softwaresystemen en applicatielaagverdediging, zijn slecht toegerust om met de dynamische, onderling verbonden aard van de AI-infrastructuur om te gaan.
