De grootste technologiebedrijven ter wereld worden geconfronteerd met een juridische strijd die de manier waarop sociale media worden ontworpen fundamenteel zou kunnen veranderen.
Het proces zal plaatsvinden in het Los Angeles County Superior Court, waar de juryselectie op 27 januari begon. Er wordt een nieuwe juridische theorie getest om meer regulering van sociale-mediaplatforms zoals TikTokSnap, YouTube en Meta’s Facebook en Instagram: advocaten bereiden zich voor om te betogen dat de bedrijven achter deze platforms hun sites zo ontwerpen dat ze opzettelijk verslavend zijn, wat resulteert in directe schade voor gebruikers, vooral kinderen.
In totaal zal het proces naar verwachting uit negen zaken bestaan, die door rechters in het hele land zijn opgesteld als een van de sterkste indicatoren voor dit nieuwe argument. Als eerste op de planning staat een zaak aangespannen door een 20-jarige eiser geïdentificeerd als KGM, die zegt dat een gebrek aan adequate beperkingen op sociale media tijdens haar jeugd leidde tot dwangmatig gebruik en geestelijke gezondheidsproblemen zoals depressie, angst, lichaamsdysmorfie, zelfbeschadiging en het risico op zelfmoord.
De verdachten die in de aanvankelijke rechtszaak van KGM werden genoemd, waren Bytedance, de voormalige meerderheidsaandeelhouder van TikTok; Snap, eigenaar van Snapchat; Google, de eigenaar van YouTube; en Meta. Beide Snap en TikTok schikte de zaak in de dagen voorafgaand aan de juryselectie voor niet bekendgemaakte bedragen, waardoor alleen Meta en Google overbleven.
De resultaten van deze eerste beslissingen zullen naar verwachting als proeftuin dienen voor een nieuwe reeks federale zaken die deze zomer zullen worden berecht, waarin verschillende schooldistricten, staten en procureurs-generaal van plan zijn te betogen dat sociale media een maatschappelijke overlast en verslavend voor kinderen.
De kern van al deze rechtszaken is een op design gebaseerde claim: deze technologiebedrijven gebruiken doelbewust ontworpen trucs om verslavend gedrag onder jonge gebruikers aan te moedigen. Gerechtsdocumenten wijzen op verschillende specifieke keuzes voor gebruikerservaring (UX) als bewijs van dit patroon. Hier zijn enkele van de belangrijkste voorbeelden in kwestie.
Oneindige scroll
“Eindeloos (of oneindig) scrollen” is een belangrijk punt van zorg in bijna alle ingediende zaken. Het verwijst naar elke functie waarmee gebruikers continu en zonder onderbreking door video-inhoud kunnen scrollen.
Een juridisch documentingediend door het kantoor van de procureur-generaal van Florida tegen Meta, beweert dat oneindig scrollen “het moeilijk maakt voor jonge gebruikers om zich los te maken van de inhoud, omdat er geen natuurlijk eindpunt is voor het bekijken van nieuwe informatie.”
In een rechtszaak vóór de schikking van Bytedance getuigde KGM dat de eindeloze scrollfunctie van TikTok haar slaap verstoorde en ervoor zorgde dat ze verslaafd raakte aan de app. Dat blijkt uit vertrouwelijke interne berichten verkregen door NPR in oktoberTikTok is zich bewust van het verslavende karakter van de centrale, eindeloos scrollende “Verkennen”-pagina en heeft zelfs berekend dat het aantal video’s dat nodig is om verbinding te maken met de app 260 is.
Inhoud op korte termijn
Een ander ontwerppatroon voor sociale media dat vaak in deze juridische documenten wordt aangehaald, is ‘vluchtige inhoud’. Dit verwijst naar elk soort bericht dat alleen gedurende bepaalde tijdsparameters kan worden bekeken, zoals een eenmalige weergave op Snapchat of een 24-uurs Instagram-verhaal.
Het kantoor van de procureur-generaal van Florida maakte specifiek melding van Meta’s visuele ontwerpkenmerken op Instagram Stories, die aangaven dat “de inhoud spoedig voor altijd zou verdwijnen”, en merkte op dat deze tactiek ervoor zorgde dat jonge gebruikers zich meer gedwongen voelden om op nieuwe inhoud te blijven klikken om mogelijke sociale gevolgen te vermijden.
“Meta ontwierp dergelijke kortstondige inhoudskenmerken om bij jonge gebruikers een gevoel van ‘FOMO’ op te wekken, dat wil zeggen een ‘angst om iets te missen’, wat de betrokkenheid van tieners zou vergroten”, aldus het dossier.
Algoritmische aanbevelingen
Een van de meest verontrustende details in de getuigenis van KGM betreft de algoritmische aanbevelingen die ze op sociale media tegenkwam en die haar naar eigen zeggen herhaaldelijk naar inhoud met verontrustende of schadelijke thema’s leidden.
“Ik heb veel inhoud gekregen die dat soort dingen promoot – zoals bodychecks, posts (van) wat ik op een dag eet – alleen een komkommer – waardoor mensen zich slecht voelen als ze niet zo eten”, zei ze in haar verklaring.
Volgens de documenten van de procureur-generaal van Florida leiden de algoritmen van Meta gebruikers door hun ontwerp naar dit soort inhoud. De platforms, zo luidt het document, “betrekken periodiek (huidige) gebruikers met ‘emotioneel aangrijpende inhoud om intense reacties uit te lokken’ (bijvoorbeeld gerelateerd aan eetstoornissen, zelfbeschadiging, zelfmoord, geweld, lichaamsbeeld en meer), een resultaat van wat Meta naar verluidt de ‘voorkeursversterking’ van de algoritmen noemt. Ondanks Meta’s beweringen die het tegendeel beweren, leidt dit ontwerp tot schade aan jonge gebruikers.”
De advocaten van KGM baseren hun argumenten op eerdere precedenten die door zaken zijn geschapen dat producten met een doelbewust verslavend ontwerp voor kinderen verboden moeten worden.
“Door zwaar te leunen op de gedrags- en neurobiologische technieken die worden gebruikt door gokautomaten en uitgebuit door de sigarettenindustrie, hebben de beklaagden opzettelijk een aantal ontwerpkenmerken in hun producten ingebed, bedoeld om de betrokkenheid van jongeren te maximaliseren om advertentie-inkomsten te genereren.” beweert de rechtszaak. Het voegt eraan toe: “Net als de sigarettenindustrie een generatie eerder, begrijpen (d)beklaagden dat een kindergebruiker van vandaag morgen een volwassen gebruiker zal worden.”
