Vijf maanden na de release van zijn “verantwoord AI-plan”, dat richtlijnen geeft voor het gebruik van kunstmatige intelligentie door de gemeente, heeft de stad Seattle de officiële implementatie van de technologie voor stadsmedewerkers op de rem gezet.
Burgemeester Katie Wilson heeft vorige maand de geplande uitrol van Microsoft Copilot in de hele stad opgeschort, zoals maandag voor het eerst werd gemeld Seattle Times. Haar voorganger, burgemeester Bruce Harrell, had de lancering goedgekeurd voordat ze in december haar ambt verliet.
“Hoewel de implementatie van de technologie wordt uitgesteld, gaan de werkzaamheden op het gebied van onderwijs en bestuur door”, vertelde Megan Erb, woordvoerder van de afdeling Informatietechnologie van Seattle, aan GeekWire. “De stad houdt nog steeds educatieve roadshows voor afdelingen en werkt aan het bevorderen van ons fundamentele werk op het gebied van databeheer en datagereedheid.”
In september bracht Seattle zijn AI uit niveaudat mogelijkheden voor opleiding en het opbouwen van vaardigheden voor stadswerknemers omvat, en een raamwerk schept om het gebruik van AI-instrumenten bij stadsoperaties te vergemakkelijken en te evalueren. De stad voerde ook een pilot uit van Copilot met 500 medewerkers. De technologie is zonder extra kosten beschikbaar voor Microsoft 365-gebruikers onder de Seattle Enterprise Agreement.
Deelnemers rapporteerden:
- In totaal scheelt het ruim 450 uur werk per week, zoals het voorbereiden van communicatie, het maken van rapporten, documentanalyse en onderzoek.
- De technologie bleek vooral nuttig voor het duidelijker schrijven, het produceren van snellere samenvattingen van documenten en vergadernotities, en snelle toegang tot beleid en regelgeving.
- 83% zei dat Copilot Chat ‘zakelijke waarde’ bood.
- 79% zei dat het een positieve gebruikerservaring was.
Seattle is een leider geweest in het adopteren van AI-tools van de volgende generatie en zegt dat het de eerste van het land heeft uitgebracht generatief AI-beleid in de herfst van 2023. Zelfs vóór het onlangs uitgebrachte AI-plan had Seattle dat al gedaan beleid vereist ‘human-in-the-loop’-toezicht, wat betekent dat werknemers de generatieve AI-output moeten beoordelen vóór officieel gebruik en bekend moeten maken wanneer het werk door AI wordt ondersteund. De stad identificeerde ook verboden toepassingen, zoals kunstmatige intelligentie bij aanwervingsbeslissingen en gezichtsherkenning, vanwege zorgen over vooringenomenheid en betrouwbaarheid.
Zorgen over gemeentelijke AI-regelgeving en -toezicht zijn wijdverbreid. Een onderzoeksreeks eerder dit jaar gepubliceerd door nieuwsorganisatie Cascade PBS ontdekte dat verschillende steden in Washington beperkte vangrails hadden rond het gebruik van kunstmatige intelligentie, waardoor het publieke vertrouwen en de privacykwesties toenamen. Seattle behoorde niet tot de onderzochte steden.
De leiders van Seattle hebben hun inspanningen in het verleden ingekaderd als een evenwicht tussen het omarmen van nieuwe technologie en het handhaven van hun fundamentele toewijding aan het dienen van het publiek, waarbij ze benadrukten dat AI een hulpmiddel is – en geen vervanging voor werknemers.
Erb zei dat de uitgestelde uitrol van Copilot deel uitmaakt van een ‘gefaseerde aanpak’ om ervoor te zorgen dat ‘de stad AI-tools op verantwoorde wijze test en adopteert, aan alle privacy- en beveiligingsvereisten voldoet en oplossingen implementeert die duidelijke voordelen bieden voor werknemers, terwijl de verantwoordelijke AI-verplichtingen van de stad worden nageleefd.’
Rob Lloyd, Chief Technology Officer van Seattle, vorige maand ontslag genomenwordt met ingang van 27 maart directeur van het Centrum voor Digitaal Management. De gemeente is op zoek naar een vervanger.
In december benoemde de stad Lisa Qian als zijn eerste AI-officier. Haar ervaring omvat onder meer het dienen als senior manager data science bij LinkedIn, evenals als andere leidinggevenden in technologiebedrijven.
Tijdens het herfstbegrotingsproces heeft de gemeenteraad van Seattle de IT-afdeling van Seattle gevraagd om kwartaalrapporten te verstrekken over het gebruik van kunstmatige intelligentie, en die informatie zal op 1 april worden ingediend.
De stad identificeerde eerder 41 prioritaire projecten waarbij AI de overheidsprestaties en openbare diensten mogelijk zou kunnen verbeteren. Updates over deze inspanningen zullen worden opgenomen in het komende rapport, zei Erb.
