GGoed nieuws is tegenwoordig zo zeldzaam dat je niet helemaal weet hoe je het moet opvatten. Je wilt iets vieren, maar een rivaliserend instinct vertelt je dat het op de een of andere manier zal worden teruggetrokken, hetzelfde gevoel dat je krijgt als je team een late winnaar scoort, maar je bent vervuld van onmiddellijke angst dat het doelpunt ongedaan zal worden gemaakt in een videoherhaling.
Ik geef toe dat ik zo reageerde op de dubbele juridische klap die deze week werd uitgedeeld aan Meta, het bedrijf dat eigenaar is van Facebook en Instagram, toen twee Amerikaanse jury’s het bedrijf op opeenvolgende dagen in een paar baanbrekende zaken tegenspraken. Eerst kwam een veroordeling in New Mexicoen legde het bedrijf een boete op van $375 miljoen (£280 miljoen) voor het mogelijk maken van schade, waaronder de seksuele uitbuiting van kinderen, op zijn platforms en voor het misleiden van consumenten over hun veiligheid. Vierentwintig uur later kwamen de juryleden binnen Californië kende $ 6 miljoen aan schadevergoeding toe aan een jonge gebruiker die beweerde dat Meta (samen met YouTube) opzettelijk verslavende producten had ontworpen die haar van kinds af aan in hun greep hadden en haar ernstige schade hadden berokkend.
De actievoerders waren opgetogen en geloofden dat ze eindelijk een doorbraak hadden bereikt in hun lange strijd om de technologiebedrijven te temmen die een groot deel van ons dagelijks leven bepalen – en die beïnvloeden wat we weten over de wereld, hoe we met anderen praten en hoe we over onszelf denken. Ik sprak de dag na de uitspraak in Californië Frances Haugen, de voormalige Facebook-werknemer, werd klokkenluider dat, door in 2021 20.000 pagina’s aan interne documenten vrij te geven, duidelijk bewijs leverde dat het bedrijf wist dat zijn platforms schade aanrichtten, of het nu kinderen schaadde of de democratie destabiliseerde, maar doorging met het nastreven van “astronomische winsten”. Haugen vertelde me dat Meta mogelijk zijn ‘asbestmoment’ tegemoet gaat, waarbij zijn producten als giftig worden beschouwd en juridische uitbetalingen te wachten staan volgens haar berekening zelfs een biljoen dollar – een bedrag dat, zegt ze, een ‘faillissement’ tot een reële mogelijkheid zou maken.
Voordat we de waarschijnlijkheid van deze uitkomst beoordelen, is het de moeite waard om onszelf aan de toxiciteit te herinneren. Naast de bestanden van Haugen staat een nuttige tekst Onzorgvuldige mensende memoires uit 2025, geschreven door een andere Facebook-klokkenluider Sarah Wynn-Williams. Daar beschrijft ze hoe het bedrijf, dat de activiteit van gebruikers op en buiten het platform kon volgen, kon zien wanneer meisjes tussen de 13 en 17 jaar bijvoorbeeld een selfie verwijderden. Het bedrijf realiseerde zich dat dit de ontevredenheid van de meisjes over hun uiterlijk aangaf en zag een manier om geld te verdienen met dit ongeluk. Tegen betaling zou een cosmeticabedrijf op dat moment een beautyadvertentie aan deze kinderen kunnen laten zien.
Facebook heeft dit gedrag niet verborgen; ze schepten erover op. Wynn-Williams onthult hoe Facebook er een heeft gemaakt presentatie voor een Australische klanten beweert dat de mogelijkheid om het online leven van gebruikers te monitoren – hun berichten, hun foto’s, hun gesprekken met vrienden – hen in staat stelde precies te weten wanneer tienermeisjes zich ‘waardeloos’, ‘onzeker’, ‘gestrest’, ‘verslagen’, ‘angstig’, ‘dom’, ‘nutteloos’ en ‘als een mislukkeling’ voelden. Dit waren optimale tijden voor de verkoop.
Afwijkende stemmen in het bedrijf uitten hun ongemak, maar werden alleen afgewezen. De rechtbank in New Mexico hoorde hoe een voormalige Meta-medewerker schreef aan Mark Zuckerbergoprichter en CEO, en spoorde hem aan om het gevaar in te zien van het geven van toegang aan jonge meisjes tot een filter voor cosmetische chirurgie op Instagram waarmee gebruikers kunnen zien hoe ze eruit zouden zien met grotere ogen of dikkere lippen. De collega e-mailde om te zeggen dat een van zijn dochters “twee keer in het ziekenhuis was opgenomen wegens lichaamsdysmorfie” en dat als het om het lichaamsbeeld ging, “de druk op hen en hun leeftijdsgenoten die via sociale media komen groot is”. Zuckerberg was onaangedaan. Hij zei dat het ‘paternalistisch’ zou zijn om het “vermogen van gebruikers om zichzelf op deze manier te presenteren” te beperken.
Haugen, die in het civiele integriteitsteam van het bedrijf werkte, vertelde me hoe collega’s een kleine aanpassing konden voorstellen die de schade die het platform aanrichtte aanzienlijk zou verminderen. Maar als de aanpassing – laten we zeggen, niet laat in de nacht berichten naar kinderen sturen en hen aanmoedigen om terug te keren Instagram – maar liefst 1% daling van de gebruikersbetrokkenheid veroorzaakte, zouden de bazen hun veto uitspreken. Zoals Haugen het verwoordt: “Mark zei dat het belangrijkste is om de tijd die op het platform wordt doorgebracht te vergroten.”
Het is dus geen verrassing dat zo velen de uitspraken van de rechtbank van deze week hebben verwelkomd. Eindelijk, Davids neemt het op tegen de sociale media. Goliaths hebben een manier gevonden om het zogenaamde aansprakelijkheidsschild te omzeilen dat hen tientallen jaren had beschermd.
Sectie 230 van de belangrijkste wetgeving, aangenomen in de jaren negentig, besloot dat technologiebedrijven niet verantwoordelijk konden worden gehouden voor de inhoud die op hun platforms werd geplaatst, net zo min als je de postdienst verantwoordelijk kon houden voor de inhoud van een beledigende brief. Vooral de zaak Californië ging voorbij aan dit schild door zich niet te concentreren op de inhoud – deze of gene onaangename post – maar eerder op het inhoudaanbevelingssysteem, dat wil zeggen de machinerie die bepaalt wat gebruikers zien.
Die machinerie – verslavend van opzet, of het nu gaat om het automatisch afspelen van video’s of de oneindige feed die eeuwig scrollen aanmoedigt – is volledig bedacht en aangestuurd door de technologiebedrijven. Dat betekent dat zij verantwoordelijk zijn voor de schade die het aanricht. Als advocaat Ravi NaikIn opdracht van Wynn-Williams en anderen zei het tegen mij: “Deze systemen zijn gemaakt door mensen. Het zijn geen abstracte entiteiten die door de goden zijn doorgegeven. Dit gaat over de beslissingen van mensen en de verantwoordelijkheid voor de keuzes die ze hebben gemaakt. Is dat niet waar de wet voor is?”
Hoe zit het met mijn instinctieve bezorgdheid dat deze overwinning ongedaan zou kunnen worden gemaakt, in VAR-stijl? Het is waar dat tegen de uitspraken van deze week beroep zal worden aangetekend, dat ze zich een weg omhoog in het systeem kunnen opwerken totdat ze het Amerikaanse Hooggerechtshof bereiken, dat in zijn huidige, Trump-vormige vorm in het voordeel van de grote technologie zou kunnen beslissen. Het is ook waar dat jaren van juridisch gekibbel de technologiebedrijven in staat zullen stellen te blijven doen wat ze altijd hebben gedaan en miljarden te blijven verdienen. Maar juridische experts zeggen dat juryuitspraken minder snel zullen worden vernietigd dan die van rechters. En met duizenden soortgelijke gevallen in de pijplijn zou er slechts een heel klein deel van de Amerikaanse tieners nodig zijn om zich te verenigen in een succesvolle collectieve actie om de samenleving te vernietigen. Meta. Haugen heeft het rekenwerk gedaan: 150.000 tieners die elk zes miljoen dollar kregen, zouden Meta een biljet van een biljoen dollar opleveren.
Nog een zorg: dit zijn alleen de VS – hoe zit het met de rest van de wereld? Toegegeven, hoewel landen als Groot-Brittannië en de EU strikte regelgeving hebben, heeft de handhaving ervan ontbroken. Europese toezichthouders zijn bang geweest voor de Amerikaanse technologiegiganten, net zoals Europese regeringen bang zijn geweest voor de regering-Trump. Maar dat gaat misschien veranderen. Nu de Europeanen afstand nemen van de rampzalige oorlog van Trump tegen Iran, zijn er tekenen dat ze steeds meer bereid zijn hun eigen ‘digitale soevereiniteit’ te laten gelden. Anderen doen het al: let op het Australische verbod op sociale media voor jongeren onder de 16 jaar, een stap Indonesië volgt dit voorbeeld begint zaterdag.
Misschien wel de grootste zorg is AI. Is het mogelijk dat de wet eindelijk oude sociale-mediaplatforms heeft neergehaald, net nu een nieuwere, grotere dreiging de ring betreedt? Niet voor de eerste keer belooft Zuckerberg wat voor hem een mooie nieuwe toekomst is, maar die voor bijna alle anderen klinkt als een dystopische nachtmerrie. Hij wil dat AI één wordt goddelijke “superintelligentie” sterker dan het menselijk brein, en kijkt uit naar de dag waarop AI vervult de rol die onze vrienden nu spelen. De juridische overwinningen van deze week doen toch zeker niets om die dreiging te beteugelen?
Wees daar niet zo zeker van. De rechtbanken hebben nu geoordeeld dat technologiebedrijven verantwoordelijk zijn voor hun systemen, en AI, zegt Naik, “is volledig een door mensen ontworpen systeem”. Elke keuze gemaakt door bijvoorbeeld Elon Musk Grok produceert nepnaakten van echte vrouwen bestellen was iets menselijks – waarvoor de maker van Grok nu verantwoordelijk wordt gehouden, in de vorm van rechtszaken die door beide partijen zijn aangespannen Amerikaanse autoriteiten en mensen die zeggen misbruikt te zijn door de chatbot, waaronder Ashley St. Clairer is de moeder van een van Musks kinderen.
Natuurlijk bestaat de oligarchie uit vastberaden mannen met onvoorstelbaar diepe zakken en een vriend in het Witte Huis. Niemand mag ervan uitgaan dat ze snel of gemakkelijk zullen opvouwen. Maar in de lange oorlog tegen degenen die zoveel hebben gedaan om het leven in de 21e eeuw te consumeren, heeft deze week een belangrijke overwinning behaald – en een overwinning die we moeten vieren.
