TikTok zou gedwongen kunnen worden wijzigingen aan te brengen om de app minder verslavend te maken voor gebruikers nadat de EU zei dat het platform de regels van het blok had geschonden digitale veiligheidsregels.
De uitvoerende macht van de EU zei in een prejudiciële uitspraak dat de populaire app de Digital Services Act (DSA) had geschonden vanwege zijn “verslavende ontwerp”.
De Europese Commissie zei dat TikTok, dat wereldwijd meer dan 1 miljard gebruikers heeft, niet adequaat heeft beoordeeld hoe het ontwerp ervan het fysieke en mentale welzijn van gebruikers, inclusief kinderen en kwetsbare volwassenen, zou kunnen schaden.
Door gebruikers voortdurend te ‘belonen’ met nieuwe inhoud, stimuleerde het Chinese platform het constante scrollen en bracht het de hersenen van gebruikers in de ‘automatische pilootmodus’, voegde de commissie eraan toe, wat zou kunnen leiden tot dwangmatig gedrag en de zelfcontrole van gebruikers zou kunnen verminderen.
De voorlopige beslissing van gedaagde TikTok indicatoren van dwangmatig gebruik te negeren, zoals de hoeveelheid tijd die kinderen ’s nachts aan de app besteden.
De commissie zei dat ze overweegt om wijzigingen in het ontwerp van de app af te dwingen, inclusief wijzigingen in het krachtige algoritme dat inhoud naar gebruikers pusht.
“In dit stadium is de commissie van mening dat TikTok het fundamentele ontwerp van zijn dienst moet veranderen”, aldus een verklaring. “Bijvoorbeeld door belangrijke verslavende functies zoals ‘oneindig scrollen’ in de loop van de tijd uit te schakelen, effectieve ‘schermtijdpauzes’ te implementeren, ook ’s nachts, en het aanbevelingssysteem aan te passen.”
De commissie zei dat het beveiligingsregime van TikTok ontoereikend leek en benadrukte dat de tools voor schermtijdbeheer en ouderlijk toezicht niet genoeg doen om de risico’s te beperken die door het verslavende ontwerp van de app worden veroorzaakt. Functies voor schermtijdbeheer waren te gemakkelijk te negeren en ouderlijk toezicht was tijdrovend om te installeren, aldus de prejudiciële beslissing.
De commissie zei dat haar voorlopige standpunten niet vooruitlopen op de uitkomst van het onderzoek en dat TikTok de mogelijkheid zou hebben om haar bevindingen aan te vechten.
Onlineveiligheidsactivisten hebben politici opgeroepen om functies op sociale mediaplatforms aan te pakken die gebruikers aanmoedigen online te blijven. De crossbench peer en online veiligheidscampagnevoerder Beeban Kidron, een leidende stem in het Britse debat, heeft dat wel gedaan drong er bij de Britse regering op aan om “de dopaminelussen” van verslavende sociale mediaplatforms te ontgiften.
Schending van de DSA kan resulteren in een boete van in totaal 6% van de jaaromzet van een bedrijf, evenals het opleggen van rechtsmiddelen, zoals een herontwerp van een app. TikTok maakt zijn inkomsten niet bekend, maar volgens schattingen van het World Advertising Research Center zal het dit jaar een omzet van $35 miljard genereren. (£ 26 miljard).
TikTok zei dat het de bevindingen van de commissie verwierp. “De voorlopige bevindingen van de commissie presenteren een categorisch onjuist en volledig waardeloos beeld van ons platform, en we zullen de nodige stappen ondernemen om deze bevindingen met alle beschikbare middelen aan te vechten”, aldus een woordvoerder van het bedrijf.
Vorig jaar kreeg X van Elon Musk een boete van 120 miljoen DKK. EUR (£104 miljoen) voor het overtreden van de DSA in de allereerste boete onder de wetgeving. De inbreuken omvatten onder meer wat volgens de EU een “misleidende” blauwe vinkjesverificatiebadge was die aan gebruikers werd gegeven en die het onderzoek naar welke advertenties het platform hostte, belemmerde.
