Een team van onderzoekers heeft onthuld wat volgens hen het eerste gerapporteerde gebruik is van kunstmatige intelligentie een hackcampagne grotendeels geautomatiseerd te leiden.
Het AI-bedrijf Antropisch zei deze week dat het een cyberoperatie verstoorde die zijn onderzoekers in verband brachten met de Chinese overheid. De operatie omvatte het gebruik van een kunstmatig intelligentiesysteem om de hackcampagnes te sturen, wat de onderzoekers een verontrustende ontwikkeling noemden die het bereik van met AI uitgeruste hackers aanzienlijk zou kunnen vergroten.
Hoewel zorgen over het gebruik van AI bij het uitvoeren van cyberoperaties niet nieuw zijn, is het verontrustende aan de nieuwe operatie de mate waarin AI een deel van het werk kon automatiseren, aldus de onderzoekers.
“Hoewel we voorspelden dat deze kansen zich zouden blijven ontwikkelen, viel ons op hoe snel ze dit op grote schaal hebben gedaan”, schreven ze in hun rapport.
De operatie had een bescheiden omvang en was gericht op slechts ongeveer dertig mensen die werkten bij technologiebedrijven, financiële instellingen, chemische bedrijven en overheidsinstanties. Anthropic merkte de operatie in september op en ondernam stappen om de operatie stop te zetten en de betrokken partijen op de hoogte te stellen.
De hackers “zijn er slechts in een klein aantal gevallen in geslaagd”, aldus Anthropic, die opmerkte dat hoewel AI-systemen steeds vaker worden gebruikt in een verscheidenheid aan werk- en vrijetijdsomgevingen, ze ook kunnen worden bewapend door hackergroepen die voor buitenlandse tegenstanders werken. Anthropic, maker van de generatieve AI-chatbot Claude, is een van de vele technologiebedrijven die AI-agenten pitchen die verder gaan dan het vermogen van een chatbot om toegang te krijgen tot computertools en namens iemand actie te ondernemen.
“Agenten zijn waardevol voor het dagelijkse werk en productiviteit Maar in de verkeerde handen kunnen ze de levensvatbaarheid van grootschalige cyberaanvallen aanzienlijk vergroten”, concludeerden de onderzoekers. “Deze aanvallen zullen waarschijnlijk alleen maar in effectiviteit toenemen.”
Een woordvoerder van de Chinese ambassade in Washington heeft niet onmiddellijk een bericht teruggestuurd met het verzoek om commentaar op het rapport.
Microsoft waarschuwde eerder dit jaar dat buitenlandse tegenstanders steeds meer kunstmatige intelligentie omarmden om hun cybercampagnes effectiever en minder arbeidsintensief te maken.
Amerika’s tegenstanders, maar ook criminele bendes en bedrijven hackenheeft het potentieel van AI benut om cyberaanvallen te automatiseren, te verbeteren en te verspreiden opruiende desinformatieen gevoelige systemen binnendringen. AI kan slecht geformuleerde phishing-e-mails vertalen naar vloeiend Engels, b.v. het genereren van digitale klonen van hoge ambtenaren.
