Meta Het management wist dat de AI-metgezellen van het bedrijf, ook wel AI-personages genoemd, dat wel konden deelnemen aan ongepaste en seksuele interacties en lanceerden ze nog steeds zonder strengere controles, volgens nieuwe interne documenten die maandag (28 januari) werden onthuld als onderdeel van een rechtszaak tegen het bedrijf door de procureur-generaal van New Mexico.
Communicatie tussen Meta-beveiligingsteams en platformmanagement, waarbij CEO Mark Zuckerberg niet betrokken was, bevat onder meer bezwaren tegen het bouwen van begeleidende chatbots die door volwassenen en minderjarigen kunnen worden gebruikt voor expliciete romantische interacties. Ravi Sinha, hoofd van Meta’s kinderveiligheidsbeleid, en Meta’s mondiale veiligheidschef Antigone Davis stuurden berichten waarin ze overeenkwamen dat chatbot-begeleiders bescherming zouden moeten hebben tegen seksueel expliciete interactie van gebruikers onder de 18 jaar. Andere communicatie beweert dat Zuckerberg aanbevelingen om ouderlijk toezicht toe te voegen, inclusief de mogelijkheid om genAI-functies uit te schakelen, heeft afgewezen voordat kort daarna AI-begeleiders werden gelanceerd.
Meta wordt geconfronteerd met verschillende rechtszaken over zijn producten en hun impact op kleinere gebruikers, waaronder een mogelijk baanbrekend juryproces over het zogenaamd verslavende ontwerp van sites als Facebook en Instagram. De concurrenten van Meta, waaronder YouTube, TikTok en Snapchat, staan ook onder verscherpt juridisch toezicht.
De onlangs vrijgegeven communicatie maakte deel uit van de gerechtelijke ontdekking in een zaak tegen Meta, aangespannen door procureur-generaal Raúl Torrez uit New Mexico. Torrez eerst ingediend een civiele rechtszaak tegen Meta in 2023, waarin werd beweerd dat het bedrijf toestond dat zijn platforms ‘roofzuchtige marktplaatsen’ werden. De interne communicatie tussen de leidinggevenden van Meta werd gesloten en vrijgegeven, aangezien de zaak volgende maand voor de rechter komt.
Mashbare lichtsnelheid
In november werd in de brief van een eiser uit een grote rechtszaak die in meerdere districten was aangespannen in het noordelijke district van Californië een soepel beleid gevoerd ten aanzien van gebruikers die de veiligheidsregels overtraden, waaronder de regels die zijn gerapporteerd voor “mensenhandel met het oog op seksDocumenten toonden ook aan dat leidinggevenden van Meta naar verluidt op de hoogte waren van ‘miljoenen’ volwassenen die via hun sites contact opnemen met minderjarigen. ‘Het volledige verslag zal aantonen dat we al meer dan tien jaar naar ouders hebben geluisterd, kwesties hebben onderzocht die er het meest toe doen, en echte veranderingen hebben doorgevoerd om tieners te beschermen’, vertelde een woordvoerder van Meta aan TIME.
Na het schikken van een rechtszaak voegt Snapchat nieuw ouderlijk toezicht voor tieners toe
“Dit is het zoveelste voorbeeld van de manier waarop de procureur-generaal van New Mexico documenten uitkiest om een gebrekkig en onnauwkeurig beeld te schetsen”, zei Meta-woordvoerder Andy Stone in reactie op de nieuwe documenten.
Meta zet het gebruik van chatbots door tieners stop in augustus, na een rapport van Reuters waarin de interne AI-regels van Meta werden gevonden toegestane chatbots deelnemen aan gesprekken die ‘sensueel’ of ‘romantisch’ van aard waren. Het bedrijf achteraf heeft zijn veiligheidsrichtlijnen herzienuitgesloten inhoud die seksueel misbruik van kinderen, romantische rollenspellen waarbij minderjarigen betrokken zijn, en andere gevoelige onderwerpen “mogelijk maakt, aanmoedigt of ondersteunt”. Vorige week Meta opnieuw AI-vergrendelde chatbots voor jonge gebruikers toen het een nieuwe versie verkende met verbeterd ouderlijk toezicht.
Torrez heeft andere procureurs-generaal ertoe aangezet om ernaar te streven grote sociale mediaplatforms voor de rechter slepen over zorgen over de veiligheid van kinderen. In 2024, Torrez heeft Snapchat aangeklaagden beweert dat het platform het mogelijk maakte dat sextortion en verzorging van minderjarigen zich verspreidde, terwijl het zichzelf nog steeds als veilig voor jonge gebruikers op de markt bracht.
