In een nieuwe Rapport over het volgen van bedreigingen Donderdag gepubliceerd zei Google dat hackers zich bezighouden met ‘distillatieaanvallen’, waaronder één geval waarbij ze meer dan 100.000 AI-prompts gebruikten om de technologie van het bedrijf voor zijn Gemini AI-model te stelen.
Google zei dat de aanvallen afkomstig lijken te zijn van tegenstanders in onder meer Noord-Korea, Rusland en China, en dat de pogingen om AI-intellectueel eigendom te stelen en dit waarschijnlijk in AI-modellen in andere talen te klonen deel uitmaken van een bredere reeks AI-gebaseerde aanvallen en malware die het bedrijf heeft zien ontstaan.
Het bedrijf identificeert deze pogingen als modelmining-aanvallen, die volgens het bedrijf “komen wanneer een tegenstander legitieme toegang gebruikt om systematisch een volwassen machine learning-model te onderzoeken om informatie te extraheren die wordt gebruikt om een nieuw model te trainen.”
Dit zou kunnen betekenen dat kunstmatige intelligentie moet worden gebruikt om Gemini te overspoelen met duizenden aanwijzingen om de modeleigenschappen te repliceren. Google merkte in het rapport op dat dit geen bedreiging vormt voor zijn gebruikers, maar eerder voor dienstverleners en modelbouwers, die mogelijk kwetsbaar zijn voor diefstal en replicatie van hun werk.
AI-concurrentie en AI-diefstal
John Hultquist, hoofdanalist van de Google Threat Intelligence Group, die het rapport heeft samengesteld: vertelde NBC News dat Google misschien wel een van de eerste bedrijven is die met dit soort pogingen tot diefstal wordt geconfronteerd, maar er kunnen er nog veel meer zijn. “Wij zullen de kanarie in de kolenmijn zijn voor nog veel meer incidenten”, zei hij.
De oorlog om AI-modellen is op verschillende fronten geïntensiveerd, meest recentelijk doordat Chinese bedrijven zoals ByteDance geavanceerde modellen introduceerden hulpmiddelen voor het genereren van video’s. Vorig jaar deed het Chinese AI-bedrijf DeepSeek bracht de AI-industrie in rep en roerdie voornamelijk door Amerikaanse bedrijven werd geleid, door een model te introduceren dat kon wedijveren met de beste AI-technologie ter wereld. Open AI later beschuldigd DeepSeek traint zijn AI op bestaande technologie op manieren die vergelijkbaar zijn met die beschreven door Google in zijn nieuwe rapport.
(Openbaarmaking: Ziff Davis, het moederbedrijf van CNET, heeft in 2025 een rechtszaak aangespannen tegen OpenAI, waarbij hij beweerde dat het de auteursrechten van Ziff Davis had geschonden bij het trainen en exploiteren van zijn AI-systemen.)
