Instagram gaat ouders waarschuwen als hun kinderen herhaaldelijk zoeken naar uitingen die duidelijk verband houden met zelfmoord of zelfbeschadiging.
De aankondiging donderdag komt als Instagramhet moederbedrijf, Metazit midden in twee rechtszaken over verwondingen van kinderen.
Er loopt een rechtszaak Los Angeles vraagt zich af of de platforms van Meta opzettelijk minderjarigen verslavend maken en schade berokkenen. Een andere in New Mexico probeert vast te stellen of Meta er niet in is geslaagd kinderen te beschermen tegen seksuele uitbuiting op haar platforms.
De waarschuwingen gaan alleen naar ouders die zijn ingeschreven voor het ouderlijk toezichtprogramma van Instagram. Het bedrijf zei dat het dergelijke inhoud al heeft geblokkeerd in de zoekresultaten van tieneraccounts en mensen in plaats daarvan doorverwijst naar hulplijnen.
Duizenden gezinnen – samen met schooldistricten en overheidsinstanties – hebben een rechtszaak aangespannen Meta en andere sociale-mediabedrijven die beweren dat ze hun platforms opzettelijk zo ontwerpen dat ze verslavend zijn en er niet in slagen kinderen te beschermen tegen inhoud die kan leiden tot depressie, eetstoornissen en zelfmoord.
Meta directeuren, incl Mark Zuckerberghebben betwist dat de platforms verslaving veroorzaken. Tijdens een verhoor bij de rechtbank in Los Angeles afgelopen woensdag zei Zuckerberg dat hij het nog steeds eens was met een eerdere verklaring die hij aflegde dat bestaand wetenschappelijk werk niet had bewezen dat sociale media psychologische schade veroorzaakten.
Het hoofd van Instagram, Adam Mosseri, nam een standpunt in een week eerder en duwde ook de wetenschap achter sociale-mediaverslaving terug, door te ontkennen dat gebruikers “klinisch verslaafd” zouden kunnen zijn. Mosseri beschreef het hoge gebruik van Instagram door kinderen als ‘problematisch gebruik’ – vergelijkbaar met ‘langer tv kijken dan je prettig vindt’.
Psychologen classificeren sociale media-verslaving niet als een officiële diagnose, maar onderzoekers wel gedocumenteerd de schadelijke gevolgen van dwangmatig gebruik onder jongeren, en wetgevers over de hele wereld hebben herhaaldelijk hun bezorgdheid geuit over het verslavende potentieel van sociale netwerken.
De nieuwe waarschuwingen van Instagram worden verzonden via e-mail, sms of WhatsApp, afhankelijk van de beschikbare contactgegevens van de ouder, evenals een melding via het Instagram-account van de ouder.
Voor het instellen van ouderlijk toezicht op Instagram moeten zowel de tiener als zijn/haar ouder akkoord gaan door een uitnodiging via het platform te sturen. Tieners moeten tussen de 13 en 17 jaar oud zijn en slechts één ouder mag toezicht houden op het account van hun kind.
“Ons doel is om ouders in staat te stellen in te grijpen als uit de zoekopdrachten van hun tieners blijkt dat ze mogelijk ondersteuning nodig hebben. We willen ook voorkomen dat deze meldingen onnodig worden verzonden, wat, als ze te veel worden gedaan, de meldingen in het algemeen minder nuttig zou kunnen maken”, zei Meta in een blogpost.
Meta zei dat het ook werkte aan soortgelijke meldingen aan ouders over de interacties van hun kinderen met kunstmatige intelligentie.
“Deze zullen ouders op de hoogte stellen als een tiener probeert deel te nemen aan bepaalde soorten gesprekken over zelfmoord of zelfbeschadiging met onze AI”, aldus Meta. “Dit is belangrijk werk en we zullen de komende maanden nog meer te delen hebben.”
Belangengroepen zeggen dat dit soort tools niet genoeg doen om tieners op sociale media te beschermen. “Ouders moeten zich niet laten misleiden door te denken dat Instagram veilig is voor hun kinderen”, zegt Josh Golin, CEO van Fairplay, in een verklaring.
“Meta verschuift de last naar de ouders in plaats van de gevaarlijke tekortkomingen in de manier waarop het zijn algoritmen en platforms ontwerpt op te lossen”, aldus Golin. “Alle kinderen verdienen bescherming, ongeacht of hun ouders zich hebben aangemeld en de toezichttools van Meta gebruiken. Als een product niet veilig is voor tieners om te gebruiken zonder ouderlijke tussenkomst, mag het helemaal niet aan tieners op de markt worden gebracht.”
