Hallo en welkom bij TechScape. Ik ben uw gastheer, Blake Montgomery, de Amerikaanse technologieredacteur van de Guardian, en schrijf u vanuit mijn gelukkige dorp in Papaver.
Waar ligt de waarheid over AI?
Bedrijven op het gebied van kunstmatige intelligentie maken krachtige producten. Ze doen ook bizarre beweringen.
Vorige week bracht Anthropic Claude Mythos uit, een AI-model gericht op cyberbeveiliging dat wijdverspreide opwinding en paniek heeft veroorzaakt over hoe capabel het zou zijn. Er zit echter een addertje onder het gras: het publiek kan er niet aan komen. OpenAI verklaarde eind vorige week dat het ook een angstaanjagend capabele cyberbeveiligings-AI had ontwikkeld.
Anthropic noemde Mythos een “afrekening” voor de cyberbeveiligingsindustrie vanwege de bedrevenheid in het blootleggen van softwarekwetsbaarheden die de nieuwe tool had bewezen. Volgens Anthropic heeft Mythos duizenden kwetsbaarheden blootgelegd in veelgebruikte applicaties waarvoor geen patch of oplossing bestaat, wat de startup ertoe heeft aangezet een alliantie te vormen met cybersecurity-specialisten, genaamd Project Glasswing, om de verdediging tegen hacking te versterken en te voorkomen dat het model op grote schaal wordt verspreid, zoals een arthouse-film exclusief in Los Angeles en New York.
Shakeel Hashim schrijft in een Guardian opiniestuk:
Mythos, zo beweert het bedrijf, heeft kwetsbaarheden gevonden in alle grote browsers en besturingssystemen. Met andere woorden: dit nieuwe AI-model zou hackers kunnen helpen een groot deel van de belangrijkste software ter wereld te ontwrichten.
Als dergelijke technologie op grote schaal beschikbaar zou zijn en zo capabel zou zijn als Anthropic beweert, zouden de gevolgen catastrofaal kunnen zijn. Cyberaanvallen zijn niet langer een uitsluitend digitaal probleem. Bijna alles waar we in de fysieke wereld op vertrouwen, heeft te maken met software. De afgelopen jaren zijn luchthavens, ziekenhuizen en transportnetwerken verlamd door cyberaanvallen. Tot nu toe vereisten aanvallen van deze omvang serieuze expertise. Mythos zou dit vermogen binnen het bereik van amateurs brengen – en het vermogen van de professional om grote schade aan te richten een boost geven.
Maar cybersecurity-experts verzetten zich nu al tegen de beweringen van Anthropic. Mijn collega Aisha Down meldt:
Het is onduidelijk of Anthropic de machinegod heeft gebouwd. Wat duidelijker is, is dat de startup uit San Francisco, algemeen gezien als het ‘verantwoordelijke’ AI-bedrijf, uitblinkt in marketing.
“Mythos is een echte ontwikkeling, en Anthropic had er gelijk in om het serieus te nemen”, zegt Jameison O’Reilly, een expert op het gebied van offensieve cyberbeveiliging. Maar, zei hij, sommige beweringen van Anthropic, zoals dat het duizenden ‘zero-day-kwetsbaarheden’ in grote besturingssystemen heeft gevonden, waren niet zo relevant voor cyberveiligheidsoverwegingen in de echte wereld.
In 2017 technisch redacteur van BuzzFeed News betoogd dat de constructie van verlangen de grootste kracht van Apple was. Ik ben het ermee eens en Anthropic lijkt een soortgelijk genie te bezitten. Technologie is krachtig, maar dat geldt ook voor de manipulatie van aandacht. Net als de werkelijk transformerende iPhone van Apple is Claude de real deal. Bedrijven kunnen geen genoeg krijgen van de codeermogelijkheden. Serieuze bedrijven – Apple, Nvidia, Google, JPMorganChase, Amazon Web Services, Broadcom – werken samen met Anthropic aan Project Glasswing. Maar het is ook een slim stukje marketing om te zeggen: “Dit kun je niet hebben; het is te sterk.” Niets wekt een sterker verlangen op dan terughoudendheid. Volgens BloombergAnthropic was vorige week het gesprek van de dag op de HumanX AI-conferentie in San Francisco.
Sinds de opkomst van de technologie heeft de hype het begrip van het publiek over generatieve AI vertroebeld. Journalisten en scherpzinnige waarnemers proberen het al net zo lang te doorbreken. In 2019 publiceerde Slate een stuk: “OpenAI zegt dat het tekstgenererende algoritme GPT-2 te gevaarlijk is om vrij te geven” (hoedentip voor @Banteg van X voor het tonen van het verhaal in een tweet). De krantenkoppen kunnen vergelijkbaar zijn omdat de CEO van Anthropic, Dario Amodei, ooit vice-president onderzoek bij OpenAI was. Hij verliet het bedrijf in 2020. OpenAI heeft ook maandenlang zijn videogenerator Sora onthouden van brede release. Heeft het Hollywood en het maken van films zoals wij die kennen, gedood? Nee. Het bedrijf heeft Sora eind vorige maand gesloten.
Bezorgdheid over de gevaren van het genereren van eenvoudige tekst lijkt misschien vreemd vergeleken met het volledige einde van de digitale veiligheid, maar het feit dat we de angsten van 2019 achter ons hebben gelaten wijst op een bemoedigende mogelijkheid: ook wij zullen de huidige angst voor de ondergang van cyberveiligheid achter ons laten en ons in een middenweg bevinden tussen de huidige status quo en het hyperbolische.
Herwerkt: een Guardian-serie over kunstmatige intelligentie en de toekomst van werk
Hoe een Guardian-onderzoek kindersekshandel op Facebook en Instagram aan het licht bracht
Twee weken geleden verloor Meta in New Mexico een juridische strijd ter waarde van meerdere miljoenen dollars vanwege haar onvermogen om te voorkomen dat kinderen op haar platforms werden verkocht. Katie McQue, een vaste schrijfster van Guardian, onthulde bewijsmateriaal dat deel ging uitmaken van de zaak tegen de technologiegigant. Ze beschreef haar onderzoeksrapportageproces vorige week in een stuk:
Het begon met een tip. Ik rapporteerde over de handel en uitbuiting van arbeidsmigranten in de Golf toen een bron die ik al meer dan tien jaar kende, contact opnam. Ze vertelden me dat de kindersekshandel in de VS toeneemt. Terwijl de Covid-pandemie online roofdieren aanjaagde, gebruikten sommigen Facebook en Instagram om kinderen te kopen en verkopen.
Het was 2021 en ik stond op het punt een onderzoek te beginnen met Mei-Ling McNamara, een mensenrechtenjournalist, wat ertoe zou leiden dat het technologiebedrijf Meta in maart van dit jaar een rechtszaak van meerdere miljoenen ponden zou verliezen. Het bedrijf had nog geen nieuwe merknaam gekregen en stond bekend als Facebook, en er was geen melding gemaakt van kinderhandel op zijn platforms. Deskundigen van non-profitorganisaties tegen mensenhandel en een Amerikaanse wetshandhavingsfunctionaris hebben mij verteld over de misdaden die zij hebben gezien.
Een groot deel van de handel op Facebook en Instagram vond plaats in niet-openbare delen van de platforms, zoals Facebook Messenger en privé Instagram-accounts, zo zou ik later vernemen. Mensenhandelaars zochten tieners op om hen te targeten en te verzorgen en later reclame te maken voor sekskopers.
In juli 2022 reisden we naar Washington DC om een onderduikadres te bezoeken dat wordt gerund door de non-profitorganisatie Courtney’s House, die zorgt voor gekleurde tienermeisjes die mensenhandel hebben overleefd of actief worden verhandeld.
De locatie is niet openbaar en we kregen het adres pas een uur voor onze afspraak toegestuurd. Courtney’s House wordt gerund door Tina Frundt, een overlevende van mensenhandel en voormalig lid van de United States Advisory Council on Human Trafficking tijdens de regering-Obama.
Lees hier de rest van haar kruis: ‘Het begon met een tip’: hoe een Guardian-onderzoek kindersekshandel op Facebook en Instagram aan het licht bracht
Lees hier haar hele onderzoek: Hoe Facebook en Instagram marktplaatsen werden voor de handel in kinderseks
