Een stel historische rechtszaken heeft Meta en YouTube vorige week schuldig bevonden aan het schaden van jonge gebruikers door algoritmen te ontwerpen die verslavend waren en tot psychische aandoeningen leidden. De aan de bedrijven opgelegde schadevergoeding bedroeg een fractie van één procent van hun jaarinkomsten. De gevolgen op de lange termijn kunnen echter veel groter zijn.
Uit de besluiten bleek dat geprogrammeerde algoritmen niet worden beschermd door Sectie 230, de federale wet dat sociale-mediabedrijven beschermt tegen aansprakelijkheid voor door gebruikers ingediende inhoud. Het vertegenwoordigt een scheur in de juridische verdediging waar deze bedrijven al jaren op vertrouwen. En duizenden soortgelijke zaken zijn al in behandeling.
Sectie 230 ligt al enige tijd onder de loep. Wetgevers hebben herhaaldelijk opgeroepen tot de intrekking ervan, hoewel de inspanningen tot nu toe geen succes hebben opgeleverd. Velen in het Congres lijken de dreiging van intrekking te zien als een hefboom, in de hoop dat dit technologiebedrijven onder druk zal zetten om te onderhandelen over veranderingen die weerspiegelen hoe het internet zich heeft ontwikkeld sinds de wet werd aangenomen.
“Sectie 230 ontstond in de begindagen van het internet, toen wetgevers nieuwe onlinebedrijven de ruimte probeerden te geven om te innoveren en te experimenteren met technologieën die het publiek en beleidsmakers nauwelijks begrepen”, zegt JB Branch. AI Bestuurs- en technologiebeleidsadviseur bij Public Citizen. “Het was nooit bedoeld als permanent juridisch schild voor enkele van de machtigste bedrijven ter wereld.”
Het argument herformuleren
Heeft Sectie 230 zijn beschermende kracht verloren? Nog niet.
Het uitgangspunt van de wet geldt nog steeds: bedrijven zijn niet verantwoordelijk voor door gebruikers gegenereerde inhoud. Wat is veranderd, is de manier waarop eisers deze bescherming kunnen omzeilen. De nieuwe cases richten zich minder op wat gebruikers posten en meer op hoe platforms zijn ontworpen.
Met andere woorden, productontwerp misschien wel de grootste juridische kwetsbaarheid.
“CEO’s als Mark Zuckerberg, Tim Cook en Evan Spiegel moeten heroverwegen hoe ze producten ontwerpen die kinderen gebruiken, omdat ze zich niet langer volledig kunnen verschuilen achter Sectie 230”, zegt Sarah Gardner, CEO van het Heat Initiative, een organisatie die zich richt op online veiligheid voor kinderen.
Deze verschuiving gaat ervan uit dat de uitspraken hoger beroep overleven. Van Meta en YouTube wordt verwacht dat ze de beslissingen zullen aanvechten en waarschijnlijk een jarenlange juridische strijd zullen ontketenen nu eindelijk hooggerechtshof. Toch is het bredere debat al begonnen.
Afgedwongen verantwoording
De implicaties zijn aanzienlijk, vooral als het om jongere gebruikers gaat. De uitspraken duwen bedrijven in de richting van een niveau van verantwoordelijkheid dat in sommige opzichten het traject van de entertainmentindustrie voor volwassenen weerspiegelt.
Het is een imperfecte vergelijking, maar er zijn parallellen, zegt Ramnath Chellappa, professor aan de Goizueta School of Business van Emory University. Websites voor volwassenen moeten steeds vaker de leeftijd van gebruikers verifiëren. Soortgelijke mechanismen zouden kunnen ontstaan voor sociale media.
“Het mechanisme van monitoring… om ervoor te zorgen dat een minderjarige minderjarig is, enzovoort, is al een zeer complexe kwestie”, zegt hij. “Wat houdt dat in? Is er sprake van een derde partij of moet je hun rijbewijsgegevens delen?”
Lexi Hazam van Lieff Cabraser Heimann & Bernstein, LLP, medeleider van de Social Media MDL, is het ermee eens dat de uitspraken grote operationele veranderingen kunnen afdwingen, hoewel ze geen directe vergelijking maakt.
“De gevolgen zijn aanzienlijk en laten deze technologiegiganten zien dat geen enkel bedrijf boven verantwoordelijkheid staat als het om onze kinderen gaat”, zegt ze. “Bedrijven zullen in de toekomst opnieuw moeten evalueren hoe ze hun platforms ontwerpen en exploiteren… waardoor bedrijven mogelijk echte veranderingen moeten doorvoeren, waaronder een veiliger platformontwerp, effectieve leeftijdsverificatie en ouderlijk toezicht dat daadwerkelijk jonge gebruikers beschermt.”
Niet iedereen ziet een verzwakking van Sectie 230 als gunstig. Critici beweren dat het huidige debat de schade teveel benadrukt, terwijl de voordelen over het hoofd worden gezien.
“Het publieke debat over sociale media en de geestelijke gezondheid van jongeren richt zich bijna uitsluitend op mogelijke schade”, schreven Ben Sperry en Sabrina Pekarovic van het International Center for Law & Economics. laatste essayen stelt dat deze nadruk de manieren bagatelliseert waarop platforms zelfexpressie mogelijk kunnen maken en tieners met bredere gemeenschappen kunnen verbinden. Ze voegen eraan toe dat het behandelen van alle tieners als even kwetsbaar de kwestie te simpel maakt en niet door het bewijsmateriaal wordt ondersteund. “Een algemeen verbod gaat ervan uit dat alle tieners met vergelijkbare risico’s te maken hebben en gelijk behandeld moeten worden”, schreven ze. “Het bewijs suggereert iets anders.”
Een groot tabaksmoment
Sommige waarnemers hebben de uitspraken vergeleken met een ‘Big Tobacco’-moment voor sociale media, een langverwachte afrekening die zou kunnen leiden tot verregaande regulering.
Dat kunnen wijzigingen in Sectie 230 zijn of een bredere herziening van de manier waarop platforms werken. Beide uitkomsten zouden grote financiële gevolgen hebben voor bedrijven die lange tijd dominante spelers op Wall Street zijn geweest.
De potentiële impact op beleggers is aanzienlijk. Een rapport van de Computer and Communications Industry Association schat dat het intrekken van Sectie 230 investeerders 2,2 biljoen dollar zou kunnen kosten en zou kunnen leiden tot ongeveer 1,1 miljoen rechtszaken per jaar tegen bedrijven in de digitale dienstverlening.
Sommige analisten zijn van mening dat de richting al duidelijk is.
“De gevolgen voor sociale netwerken zullen verwoestend zijn”, zegt Igor Pejic, een technologie-investeringsstrateeg en auteur van Technisch geld. “De regelgeving zal escaleren, net als bij de tabaksindustrie, en op een dag zullen we misschien dingen zien als de vereiste ID-authenticatie. Deze regelgevende trend zal de sociale media niet doden, maar ik denk dat ze binnen een paar jaar op zijn minst hun status als Big Tech-bedrijf zullen verliezen.”
