Wetgevers in de staat Washington zijn bezig met het reguleren van kunstmatige intelligentie. Deze sessie hebben ze een reeks wetsvoorstellen geïntroduceerd die gericht zijn op het beteugelen van discriminatie, het beperken van het gebruik van kunstmatige intelligentie op scholen en het opleggen van nieuwe verplichtingen aan bedrijven die emotioneel responsieve kunstmatige intelligentieproducten bouwen.
De staat heeft eerder smalle AI-gerelateerde wetten aangenomen – waaronder beperkingen op gezichtsherkenning en de verspreiding van deepfakes – maar bredere inspanningen zijn vaak tot stilstand gekomen. voorstel Vorig jaar lag de nadruk op transparantie en openbaarmaking van AI-ontwikkeling.
Het wetsvoorstel van dit jaar richt zich op kinderen, geestelijke gezondheid en grote beslissingen zoals werkgelegenheid, huisvesting en leningen. De wetsvoorstellen kunnen gevolgen hebben voor HR-softwareleveranciers, ed-techbedrijven, startups in de geestelijke gezondheidszorg en generatieve AI-platforms die in Washington actief zijn.
De voorstellen komen op een moment dat het Congres blijft debatteren over het toezicht op AI, zonder dat er concrete actie wordt ondernomen, waardoor staten met hun eigen vangrails kunnen experimenteren. Een voorlopig rapport onlangs uitgegeven van de staat Washington AI-taskforce merkt op dat de ‘hands-off’ benadering van AI van de federale overheid ‘een cruciale leemte in de regelgeving heeft gecreëerd die de inwoners van Washington kwetsbaar maakt’.
Hier is een blik op vijf AI-gerelateerde wetsvoorstellen die vooraf zijn ingediend vóór de officiële start van de zittingsperiode, die maandag begint.
Dit ingrijpende wetsvoorstel zou zogenaamde AI-systemen met een hoog risico reguleren die worden gebruikt om beslissingen te nemen of aanzienlijk te beïnvloeden over werkgelegenheid, huisvesting, krediet, gezondheidszorg, onderwijs, verzekeringen en voorwaardelijke vrijlating.
Bedrijven die deze systemen in Washington ontwikkelen of implementeren, zullen verplicht worden de risico’s van discriminatie te beoordelen en te beperken, bekend te maken wanneer mensen met AI omgaan en uit te leggen hoe AI heeft bijgedragen aan ongunstige beslissingen. Consumenten zouden ook uitleg kunnen krijgen voor beslissingen die zijn beïnvloed door kunstmatige intelligentie.
Het voorstel is niet van toepassing op tools met een laag risico, zoals spamfilters of eenvoudige chatbots voor de klantenservice, en ook niet op AI die uitsluitend voor onderzoek wordt gebruikt. Toch kan dit gevolgen hebben voor een breed scala aan technologiebedrijven, waaronder leveranciers van HR-software, fintech-bedrijven, verzekeringsplatforms en grote werkgevers die geautomatiseerde screeningtools gebruiken. Het wetsvoorstel treedt in werking op 1 januari 2027.
Dit wetsvoorstel, aangevraagd door gouverneur Bob Ferguson, richt zich op AI-chatbots en vereist herhaalde onthullingen dat een AI-chatbot geen mens is, seksueel expliciete inhoud aan minderjarigen verbiedt en protocollen voor zelfmoordpreventie verplicht stelt. Schendingen zouden onder de Consumer Protection Act van Washington vallen.
De bevindingen van het wetsvoorstel waarschuwen dat AI-chatbots de grens tussen menselijke en kunstmatige interactie kunnen doen vervagen en kunnen bijdragen aan emotionele verslaving of schadelijke ideeën kunnen versterken, waaronder zelfbeschadiging, vooral onder minderjarigen.
Deze regelgeving zou directe gevolgen kunnen hebben voor startups op het gebied van de geestelijke gezondheidszorg en het welzijn die experimenteren met door AI aangedreven therapieën of hulpmiddelen voor emotionele ondersteuning – inclusief bedrijven die op AI gebaseerde diensten op het gebied van de geestelijke gezondheidszorg onderzoeken, zoals de startup in Seattle. Nieuwe dagen.
Babak Parviz, CEO van NewDays en voormalig directeur bij Amazon, zei dat hij gelooft dat het wetsvoorstel goede bedoelingen heeft, maar voegde eraan toe dat het moeilijk te handhaven zou zijn omdat “het opbouwen van een langetermijnrelatie hier zo vaag gedefinieerd is.”
Parviz zei dat het belangrijk is om systemen die interactie hebben met minderjarigen onder de loep te nemen om er zeker van te zijn dat ze geen schade aanrichten. “Voor kritische AI-systemen die interactie hebben met mensen, is het belangrijk om een laag van menselijk toezicht te hebben”, zei hij. “Ons AI-systeem wordt bijvoorbeeld klinisch gebruikt onder toezicht van een deskundige menselijke arts.”
OpenAI en Common Sense-media samenwerken aan een steminitiatief in Californië richtte zich ook op chatbots en minderjarigen.
Een aanverwant wetsvoorstel gaat zelfs nog verder en creëert mogelijke wettelijke aansprakelijkheid wanneer een AI-systeem zou hebben bijgedragen aan iemands zelfmoord.
Volgens dit wetsvoorstel zouden bedrijven te maken kunnen krijgen met rechtszaken als hun AI-systeem zelfbeschadiging zou aanmoedigen, instructies zou geven of er niet in zou slagen gebruikers naar crisisbronnen te leiden – en zouden ze niet kunnen beweren dat de schade uitsluitend werd veroorzaakt door autonoom AI-gedrag.
Als de maatregel wordt aangenomen, zou het ontwerp en de werking van het AI-systeem expliciet worden gekoppeld aan claims wegens onrechtmatige dood. Het wetsvoorstel komt te midden van een groeiend juridisch onderzoek naar chatbots in begeleidende stijl, waaronder rechtszaken waarbij Character.AI en OpenAI betrokken zijn.
Richt zich op het gebruik van AI op basisscholen, verbiedt voorspellende ‘risicoscores’ die leerlingen bestempelen als waarschijnlijke onruststokers, en verbiedt realtime biometrische monitoring zoals gezichtsherkenning.
Scholen zouden ook geen gebruik mogen maken van kunstmatige intelligentie als enige basis voor schorsingen, uitzettingen of verwijzingen naar wetshandhavingsinstanties, wat zou versterken dat menselijk oordeel centraal moet blijven staan bij disciplinaire beslissingen.
Opvoeders en pleitbezorgers van burgerrechten hebben alarm geslagen over voorspellende hulpmiddelen die dat wel kunnen versterken de ongelijkheid op het gebied van discipline.
Dit voorstel actualiseert het publiciteitsrecht van Washington om expliciet door AI gegenereerde nep-digitale gelijkenissen te dekken, inclusief overtuigende stemklonen en synthetische beelden.
Het zonder toestemming gebruiken van de door AI gegenereerde gelijkenis van een persoon voor commerciële doeleinden kan bedrijven blootstellen aan aansprakelijkheid, waardoor wordt versterkt dat bestaande identiteitsbeschermingen van toepassing zijn in het AI-tijdperk – en niet alleen op beroemdheden en publieke figuren.
