Onlangs Grok AI kreeg kritiek nadat gebruikers ontdekten dat het expliciete afbeeldingen van echte mensen creëerde, inclusief vrouwen en kinderen. Hoewel xAI er nu enkele heeft geïmplementeerd beperkingendit incident bracht een ernstige zwakte aan het licht. Zonder waarborgen en uiteenlopende perspectieven lopen meisjes en vrouwen een groter risico. De gevaren die kunstmatige intelligentie met zich meebrengt voor vrouwen en meisjes zijn reëel en gebeuren nu, en hebben gevolgen voor hun geestelijke gezondheid, veiligheid, gezondheidszorg en economische kansen.
Afgelopen herfst een moeder ontdekt waarom de geestelijke gezondheid van haar tienerdochter was verslechterd: het was het resultaat van gesprekken met een Character.AI-chatbot. Ze is niet de enige. Aura’s Verslag over de toestand van jongerenUit het onderzoek dat in december werd gepubliceerd, bleek dat ouders van mening zijn dat technologie een negatiever effect heeft op de emoties van meisjes, waaronder stress, jaloezie en eenzaamheid: 51% vergeleken met 36% voor jongens. Dit is onaanvaardbaar en we moeten beter ons best doen.
Het risico reikt verder dan de geestelijke gezondheid. OpenAI meldde onlangs dat meer dan 40 miljoen Amerikanen naar gezondheidsinformatie zoeken op ChatGPT dagelijks. Naarmate AI in de gezondheidszorg zich verder uitbreidt, kunnen de gevolgen van bevooroordeelde trainingsgegevens gevaarlijk zijn. AI-modellen die voornamelijk zijn getraind op gezondheidsgegevens van mannen leveren slechtere resultaten op voor vrouwen. Een AI bijvoorbeeld model ontworpen om leverziekten op te sporen uit bloedonderzoeken werd 44% van de gevallen bij vrouwen gemist, vergeleken met 23% bij mannen.
Ongelijk speelveld
Op de werkvloer zorgt AI niet voor een gelijk speelveld. Ondanks wetten die discriminatie verbieden, aangedreven door AI werkgelegenheid instrumenten hebben herhaaldelijk aanleiding gegeven tot bezorgdheid over vooringenomenheid, eerlijkheid en gegevensbescherming. EEN studie Uit een onderzoek van de Universiteit van Washington bleek dat bij AI-cv-screenings de technologie slechts 11% van de tijd de voorkeur gaf aan vrouwelijke namen.
Deze bugs weerspiegelen wie onze technologie bouwt. Vrouwen doen gewoon make-up op 22% van het AI-personeel. Wanneer systemen worden ontworpen zonder het perspectief van vrouwen, repliceren ze bestaande ongelijkheden en introduceren ze nieuwe risico’s. Het patroon is duidelijk. AI faalt meisjes en vrouwen.
Het beslissende moment
Dit kan niet op een cruciaaler moment op de arbeidsmarkt gebeuren. Een kwart van de rollen op LinkedIn’s nieuwste lijst van de 25 snelst groeiende banen in de VS zijn technologiegerelateerd, met AI-ingenieurs aan de top. Beslissingen over hoe kunstmatige intelligentie vandaag de dag wordt ontworpen, zullen de toegang tot banen, gezondheidszorg, onderwijs en het gemeenschapsleven decennialang bepalen. Het is van cruciaal belang dat vrouwen een actieve rol spelen bij de ontwikkeling van nieuwe AI-instrumenten, zodat ongelijkheid niet ingebakken wordt in de systemen die ons leven steeds meer beheersen.
Jonge vrouwen staan niet los van AI. Onderzoek vorig jaar uitgevoerd door Girls Who Code, in samenwerking met UCLA, bleek dat jonge vrouwen diep nadenken over de dubbele aard van technologie. Ze zien het potentieel ervan om de gezondheidszorg vooruit te helpen, de toegang tot onderwijs uit te breiden en de klimaatverandering aan te pakken. Ze zijn zich ook bewust van de gevaren ervan, zoals vooringenomenheid, toezicht en uitsluiting van ontwikkeling. Dit is geen blind optimisme. In plaats daarvan biedt het een perspectief dat vaak ontbreekt in de huidige AI-ontwikkeling.
Het creëren van technologie is een machtsuitoefening en brengt een grote verantwoordelijkheid met zich mee. Omdat meisjes vaak het meest getroffen worden door de mislukkingen van AI, moeten zij de mogelijkheid krijgen om leiding te geven aan de oplossingen. Vrouwen houden van Girls Who Code-alumna Trisha Prabhu, die zich ontwikkelde Heroverweegeen hulpmiddel tegen pesten is hiervan een voorbeeld. Latanya Sweeney, erkend richtte als een van de topdenkers op het gebied van AI het Public Interest Tech Lab van Harvard op. Hun prestaties tonen het potentieel aan als vrouwen het voortouw nemen in de technologische ontwikkeling.
Slimme stappen
Als we veiligere en meer verantwoordelijke AI-systemen willen, zijn drie stappen essentieel.
Ten eerste moet het computerwetenschappelijk onderwijs de sociale impact integreren. Coderen kan niet los van de gevolgen ervan worden onderwezen. Studenten moeten technische vaardigheden leren, samen met een kritische analyse van hoe technologie gemeenschappen en levens vormt. Deze aanpak levert resultaat op. Een student van Girls Who Code gebruikte de vaardigheden die ze had geleerd bijvoorbeeld om een app te maken met de naam AIFinTech om immigrantengezinnen te helpen hun persoonlijke financiën te beheren.
Ten tweede moeten vrouwen vertegenwoordigd zijn in de ontwikkeling en het bestuur van AI, vooral vrouwen uit historisch achtergestelde gemeenschappen. Ze hebben zitplaatsen nodig aan de tafels waar AI-systemen worden ontworpen, getest en gereguleerd. Dit betekent dat er moet worden gezorgd voor genderdiversiteit in de AI-ethiekraden en dat de AI-commissies van de overheid representatief zijn voor de demografische groepen die het zwaarst getroffen zijn.
Ten slotte moet de manier waarop we kunstmatige intelligentie evalueren, evolueren. Tegenwoordig wordt AI beoordeeld op efficiëntie, nauwkeurigheid en winstgevendheid. We moeten ook de gezondheid, gelijkheid en het welzijn evalueren, vooral voor meisjes en jonge vrouwen. Voordat een AI-systeem wordt geïmplementeerd in een omgeving waar veel op het spel staat, zoals de gezondheidszorg, moet het worden verplicht tests op gendervooroordelen te doorstaan en aan te tonen dat het geen uiteenlopende resultaten oplevert. New York City vereist bijvoorbeeld dat werkgevers die geautomatiseerde besluitvormingsinstrumenten gebruiken, jaarlijks een onafhankelijke bias-audit ondergaan.
We hoeven de fouten van AI niet als standaard te accepteren. We zijn in realtime getuige van de impact van AI op meisjes, en we moeten de kans grijpen om van koers te veranderen terwijl de technologie nog vorm krijgt. Wanneer meisjes de kans krijgen om voorop te lopen op het gebied van kunstmatige intelligentie, zullen ze veiligere systemen bouwen, niet alleen voor zichzelf, maar voor iedereen.
