AI is inmiddels aangekomen bij het Ministerie van Financiën.
Sam Corcoseen voormalige startup-manager en een dochteronderneming van het Department of Government Efficiency die nu fungeert als Chief Information Officer bij het ministerie van Financiën lijkt te hebben goedgekeurd om minstens $ 1,5 miljoen te besteden aan tot 3.000 licenties voor ChatGPTHet OpenAI-platform toont federale uitgaven. Het bureau heeft toezeggingen om 1,5 miljoen dollar aan de diensten te besteden en heeft al meer dan 500.000 dollar aan de technologie besteed, zo blijkt uit deze gegevens.
Snel bedrijf heeft een gebruikersovereenkomst verkregen waaruit blijkt dat Treasury werknemers toestaat ChatGPT te gebruiken voor “geautoriseerde” missiedoeleinden. Dergelijke doeleinden omvatten onder bepaalde omstandigheden het gebruik van de technologie met wat bekend staat als ‘gecontroleerde niet-geclassificeerde informatie’, een aanduiding die door de overheid wordt gegeven aan informatie die niet geclassificeerd is maar toch enige bescherming vereist. Het uitgebreide gebruik van de tool komt voort uit de toenemende druk op federale agentschappen om kunstmatige-intelligentiesystemen in te voeren waarvan voorstanders zeggen dat ze de efficiëntie kunnen vergroten en de administratieve rompslomp kunnen verminderen.
In dit geval omvatten de regels in de gebruikersovereenkomst sterke beperkingen op de manier waarop AI-systemen kunnen worden gebruikt – vooral bijvoorbeeld met betrekking tot persoonlijk identificeerbare informatie, marktgevoelige financiële informatie en federale belastinggegevens. De regels verbieden ook dat medewerkers van het ministerie van Financiën zonder uitdrukkelijke toestemming proberen de beveiligingsmaatregelen van een AI-chatbot te manipuleren of te omzeilen. Het is volgens de gebruikersovereenkomst niet de bedoeling dat werknemers de output van een AI-systeem gebruiken zonder dat een mens dat werk beoordeelt, of de rol die AI speelt bij het maken van een bepaald product verdoezelen. Een overtreding van deze regels kan ertoe leiden dat iemand wordt ontslagen, zo staat in de cao.
Een voormalige minister van Financiën zei dat afdelingspersoneel de technologie waarschijnlijk zal gebruiken voor zwaar werk voor taken die normaal gesproken lang duren. Tony Arcadi, de officiële opvolger van Sam Corcos, zegt Snel bedrijf dat er talloze gebruiksscenario’s waren die konden profiteren van de technologie, inclusief de automatisering van administratief werk. “Als ze op de juiste manier en met robuuste controles worden uitgevoerd, kunnen LLM’s een krachtvermenigvuldiger zijn voor inlichtingen, operaties, financiën, handhaving en publieke betrokkenheid”, zegt hij. Het agentschap had eerder geïnvesteerd in een kleinere cache van ChatGPT-licenties.
Het Ministerie van Financiën en OpenAI hebben niet gereageerd op een verzoek om commentaar. Toch kwam het bureau in september een nalevingsplan gepubliceerd richt zich ook op het bevorderen van het gebruik van AI een strategie legt zijn benadering van de technologie uit.
Te midden van pogingen om het gebruik van kunstmatige intelligentie in de hele regering te versnellen, inclusief de nieuwe van het leger GenAI.mil-toolEr bestaat nog steeds een ernstig risico dat ambtenaren te veel vertrouwen stellen in de verre van onberispelijke technologie.
Het lijkt er bijvoorbeeld op dat er een recent rapport van het ministerie van Volksgezondheid en Human Services is gemaakt met behulp van kunstmatige intelligentie – en bevatte valse citaten. Federale griffiers hebben ChatGPT en Perplexity gebruikt en zijn er uiteindelijk ook in geslaagd verkeerde aanhalingstekens en andere fouten in documenten.
