Een wetgever uit Californië heeft een wetsvoorstel ingediend dat het eerste in het land is dat bedrijven verbiedt AI-chatbottechnologie in te bouwen in speelgoed dat voor kinderen is ontworpen. De maatregel, die vrijdag werd aangekondigd, komt voort uit een groeiende bezorgdheid over de gevolgen van de klimaatverandering kunstmatige intelligentie over kinderwelzijn en een aantal lokale en federale voorstellen om de toegang van kinderen tot LLM-chatbots te beperken.
Deze specifieke wetgeving zou zich richten op speelgoed dat vriendschap en kameraadschap simuleert door middel van grote taaltechnologie. Voor speelgoedfabrikanten kunnen LLM’s een gemakkelijke, zij het riskante, manier zijn om een persoonlijkheid voor een bepaalde pop of personage te creëren. AI-modellen zijn niet prescriptief zoals het meeste pratende speelgoed dat is – wat betekent dat speelgoed dat met de technologie is geïntegreerd uiteindelijk allerlei ongepaste inhoud met een jong kind kan delen. Voorbeeld: de verkoop van een op AI gebaseerde teddybeer werd in november opgeschort nadat het speelgoed, bij onderzoek, begon te praten over seksueel rollenspel en verhitte gevechten.
Het wetsvoorstel van de Senaat, geschreven door senator Steve Padilla, is ontworpen als moratorium en zal, tot ten minste 1 januari 2031, de verkoop verbieden van speelgoed dat een “metgezelchatbot” bevat, bedoeld voor kinderen van 12 jaar en jonger.
Het voorstel definieert een begeleidende chatbot als “een kunstmatig intelligentiesysteem met een natuurlijke taalinterface dat adaptieve, mensachtige reacties op gebruikersinvoer biedt en in staat is om aan de sociale behoeften van een gebruiker te voldoen.” Het wetsvoorstel richt zich ook op chatbottechnologie die is ontworpen om een voortdurende band met een potentieel kind te ondersteunen, “onder meer door antropomorfe eigenschappen te vertonen en een relatie te kunnen onderhouden tijdens meerdere interacties.”
“Chatbots en andere AI-tools kunnen in de toekomst een integraal onderdeel van ons leven worden, maar de gevaren die ze met zich meebrengen vereisen dat we gedurfde maatregelen nemen om onze kinderen te beschermen”, zei Padilla in een verklaring. “Onze veiligheidsvoorschriften rond dit soort technologie staan nog in de kinderschoenen en zullen net zo exponentieel moeten groeien als de mogelijkheden van deze technologie. … Onze kinderen kunnen niet worden gebruikt als laboratoriumratten voor Big Tech om mee te experimenteren.”
Het is niet meteen duidelijk of het wetsvoorstel poten heeft. Maar de impact van kunstmatige intelligentie op kinderen heeft zowel lokale als federale wetgevers en aan beide kanten van het gangpad woedend gemaakt. Een tweeledig federaal voorstel van de Republikeinse senator Josh Hawley uit Missouri en de Democratische senator Richard Blumenthal uit Connecticut zou bijvoorbeeld het gebruik van AI-metgezellen voor minderjarigen in het algemeen verbieden en AI-bedrijven straffen die inhoud produceren die toegankelijk is voor minderjarigen met betrekking tot seks of het verzoeken om seksuele inhoud.
In het bijzonder heeft het Witte Huis de staatswetgevers teruggedrongen die hoopten de AI-technologie te reguleren. Eind vorig jaar president Donald Trump een uitvoeringsbesluit ondertekend die zich zal richten op staten die hun eigen wetten schrijven met rechtszaken en een aantal stappen zal ondernemen om een nationale aanpak van AI-regulering vast te stellen met betrekking tot kwesties als de veiligheid van kinderen en vermeende censuur. Op dit moment is het echter niet duidelijk hoe serieus de inspanningen van de regering-Trump daadwerkelijk zijn.
Vertegenwoordigers van verschillende organisaties die zich richten op het digitale welzijn van kinderen hebben niet gereageerd op een verzoek om commentaar op de wetgeving, die een dag na nieuwjaar naar buiten kwam.
.png "Een ode aan F*g Hags")
