Caitlin Kalinowski, een OpenAI-medewerker die toezicht hield op de hardware binnen de robotica-divisie, verlaat het bedrijf. De beslissing van Kalinowski kwam kort na die van OpenAI overeenkomst met het Pentagon werd aangekondigd eind februari.
In één berichten op sociale mediaKalinowski legde uit dat het besluit ging over het “principe” in relatie tot de recente overeenkomst. “Ik geef veel om het Robotics-team en het werk dat we samen hebben opgebouwd. Dit was geen gemakkelijke opgave”, schreef Kalinowski. “AI speelt een belangrijke rol in de nationale veiligheid. Maar het toezicht op Amerikanen zonder gerechtelijk toezicht en dodelijke autonomie zonder menselijke toestemming zijn lijnen die meer aandacht verdienen dan ze hebben gekregen.”
De deal van OpenAI met het Pentagon kwam tot stand nadat een soortgelijke deal met Anthropic niet doorging. Anthropic weigerde zijn product daarvoor te laten gebruiken binnenlandse massasurveillance en autonome wapensystemen zonder goed toezicht.
Nadat Anthropic een deal met het Pentagon had geweigerd, verklaarde het Pentagon het bedrijf een “toeleveringsketenrisico” en dreigde het bedrijf te straffen, waarvan Dario Amodi, CEO van Anthropic, zei dat hij voor de rechtbank zou vechten. Nadat de deal met het Pentagon mislukte, maakte Anthropic’s chatbot Claude van de gelegenheid gebruik Nummer 1 in de ranglijst van gratis apps in de Apple App Store.
Andere AI-medewerkers, van zowel OpenAI als Google, steunen ook het besluit van Anthropic om niet ook een deal met het Pentagon te sluiten. Een online open brief en petitie getiteld ‘We Will Not Be Divided’ riep AI-leiders op om weerstand te bieden aan de eisen van het Ministerie van Oorlog. Momenteel heeft de petitie bijna 1.000 handtekeningen van werknemers van beide bedrijven. Er stond: “Ze proberen elk bedrijf te verdelen uit angst dat het andere zal toegeven.”
De petitie vervolgde: “We hopen dat onze leiders hun meningsverschillen opzij zullen zetten en zich zullen verenigen om de huidige eisen van het Ministerie van Oorlog voor toestemming om onze modellen te gebruiken voor binnenlandse massasurveillance en om autonoom mensen te doden zonder menselijk toezicht te blijven verwerpen.”
Ongeacht de tegenstand blijft OpenAI achter de overeenkomst en zegt dat deze daarin is opgenomen aanvullende veiligheidsmaatregelen daarin. Dat zegt een woordvoerder van het bedrijf Snel bedrijf in een e-mail, “Wij geloven dat onze overeenkomst met het Pentagon een haalbaar pad creëert voor een verantwoord gebruik van kunstmatige intelligentie door de nationale veiligheid, terwijl onze rode lijnen worden verduidelijkt: geen binnenlands toezicht en geen autonome wapens.”
De verklaring vervolgde: “We erkennen dat mensen een uitgesproken mening hebben over deze kwesties en we zullen de discussie blijven aangaan met werknemers, de overheid, het maatschappelijk middenveld en gemeenschappen over de hele wereld.” De woordvoerder voegde eraan toe dat het bedrijf niet van plan is Kalinowski te vervangen.
Toch voorspellen sommige deskundigen dat dit soort ontslagen waarschijnlijk zullen aanhouden. Leider op het gebied van AI-beheer Zahra Timsah, PhD, CEO van i-GENTIC AI, legt uit Snel bedrijf“Mensen moeten niet verbaasd zijn dat sommige AI-onderzoekers zich ongemakkelijk voelen bij militaire partnerschappen.” Timsah zegt dat dit vooral waar is, aangezien “velen van hen het veld in zijn gegaan omdat ze veel waarde hechten aan veiligheid en maatschappelijke impact, dus wanneer AI zich in defensie- of surveillancecontexten begeeft, wordt het voor velen in het veld een persoonlijke lijn”.
Toch zegt Timsah dat we kunnen verwachten dat AI zich zal blijven ontwikkelen in termen van gebruik door de overheid. “De verantwoorde weg vooruit is niet te doen alsof de technologie niet wordt gebruikt, maar het bouwen van een sterk bestuur rond de manier waarop deze wordt gebruikt.” Timsah voegt eraan toe dat deze barrières eruit zouden kunnen zien als “gedefinieerde toegang, duidelijke autorisatielagen en volledige traceerbaarheid van wat AI-systemen doen en wie ze gebruikt.”
Wat Kalinowski betreft, de leider op het gebied van de robotica is van plan zijn werk in de industrie voort te zetten. “Ik neem wat vrije tijd, maar ik blijf erg gefocust op het bouwen van verantwoorde fysieke AI”, zei ze antwoord op een vraag op haar bericht.
