Een politiechef heeft toegegeven dat kunstmatige intelligentie die wordt gebruikt om de misdaadbestrijding te stimuleren, vooroordelen zal bevatten, maar heeft beloofd de risico’s aan te pakken.
Labour wil een dramatische uitbreiding van het gebruik van kunstmatige intelligentie door de politie in Engeland en Wales, waar politiechefs ook denken dat dit kan helpen de wetshandhaving op de hoogte te houden van nieuwe criminele dreigingen.
Alex Murray vertelde de Guardian dat een nieuw AI-centrum van de nationale politie de risico’s van vooringenomenheid zou onderkennen en deze zou minimaliseren.
Vooroordelen bij het gebruik van AI bij het politiewerk kunnen resulteren in gevallen waarin algoritmen – vaak getraind op historische gegevens die menselijke vooroordelen uit het verleden weerspiegelen – systematisch oneerlijke resultaten opleveren, zoals het overmatig richten van minderheidsgemeenschappen of het verkeerd identificeren van individuen op basis van ras, geslacht of sociaal-economische status.
Murray, directeur dreigingsbeheer bij de National Crime Agency en nationaal hoofd voor AI, zei: “Als je eenmaal (voor)oordeel hebt herkend en geminimaliseerd, hoe train je dan officieren om de output te beheren en ervoor te zorgen dat deze verder wordt geminimaliseerd?
“Als je het hebt over live gezichtsherkenning of voorspellend politiewerk, zal er sprake zijn van vooringenomenheid en moet je de datawetenschappers en de data-ingenieurs inschakelen om de gegevens op te schonen, het model goed te trainen en het vervolgens te testen.
“Het heeft geen zin om iets aan de politie vrij te geven dat vooringenomenheid bevat en niet wordt erkend, en alles moet worden gedaan om dit te minimaliseren tot een niveau waarop het kan worden begrepen en verzacht.”
Er zijn al voorbeelden van vooringenomenheid naar voren gekomen bij het gebruik door de politie van retrospectieve gezichtsherkenning, mogelijk gemaakt door AI. Hierbij wordt een verdachte na een misdrijf vergeleken met een database met beelden.
Live gezichtsherkenning, die meer controversieel is en minder door de politie wordt gebruikt, spoort verdachten in realtime op en bevat ook vooroordelen. Een verslag in december ontdekte dat een retrospectief gezichtsherkenningssysteem die door de politie waren gebruikt, waren gebruikt met ontoereikende veiligheidsmaatregelen.
De vereniging van Politie en Crime Commissioners (APCC), die toezicht houdt op lokale strijdkrachten in Engeland en Wales, zeiden: “Systeemfouten zijn al een tijdje bekend, maar deze zijn niet gedeeld met de getroffen gemeenschappen of met vooraanstaande belanghebbenden in de sector.”
Het hoofd forensisch onderzoek van de APCC, Darryl Preston, politie- en misdaadcommissaris voor Cambridgeshire, zei: “De ontdekking van een ingebouwde bias in het retrospectieve gezichtsherkenningssysteem van de nationale politiedatabase, zelfs al is het maar in beperkte omstandigheden, toont de noodzaak aan van onafhankelijk toezicht op deze krachtige instrumenten.
“Het is niet acceptabel dat technologie wordt gebruikt tenzij en totdat deze grondig is getest om vooringenomenheid te elimineren. Dat was in dit geval duidelijk niet het geval.”
Het nieuwe nationale AI-centrum van £115 miljoen zal tot doel hebben om vooringenomenheid te verminderen, zei Murray, en om te beoordelen en te beslissen welke producten van particuliere leveranciers werken. Momenteel neemt elk van de strijdkrachten in Groot-Brittannië zijn eigen beslissingen, die als traag en verkwistend worden gezien.
Murray zei dat de politie zich in een ‘wapenwedloop’ bevond waarbij criminelen de technologie gebruikten: ‘Iedereen met verbeeldingskracht kan AI gebruiken.’
In één geval beweerde een pedofiel dat foto’s waarop te zien was dat hij betrokken was bij kindermisbruik een diepe nepvervalsing waren, die de politie vervolgens moest weerleggen om hem te kunnen veroordelen.
Murray zei dat de voordelen van AI veel verder gingen dan ‘het cliché dat er is Minderheidsrapport en voorspellend politiewerk”.
Hij voegde eraan toe dat AI bij een reeks misdaden en uitdagingen waarmee de politie wordt geconfronteerd, niet alleen een game-changer is, maar dat een menselijke politieagent de uiteindelijke beslissingen zal moeten nemen over wat te doen met de resultaten die de AI produceert.
Hij zei dat het de politie zou kunnen helpen om te gaan met politieke agitatoren die sociale media infecteren met nepbeelden om te proberen geweld op straat aan te wakkeren.
Op termijn zou het kunnen helpen bij klopjachten of het zoeken naar auto’s die verband houden met verdachten versnellen en de honderden uren besparen die rechercheurs nodig hebben om uitgebreide camerabeelden te doorzoeken, of het doorzoeken van in beslag genomen digitale apparaten van verdachten op zoek naar belastend bewijsmateriaal versnellen.
‘Wat dagen, weken, soms maanden duurde, kan mogelijk uren duren’, zei hij.
In een recente zaakvier in Luton gevestigde verdachten werden gearresteerd wegens aanvallen op – en diefstallen uit – geldautomaten. De politie downloadde de gegevens van de telefoons van de verdachten en kon dankzij AI de daders binnen enkele weken oppakken.
De gegevens waren in het Roemeens en de AI scande ze, vertaalde ze, identificeerde het materiaal met betrekking tot mogelijke misdaden, identificeerde de overtredingen en presenteerde het allemaal in een pakket aan rechercheurs.
Trevor Rodenhurst, hoofdcommissaris van de strijdmacht in Bedfordshire, zei tegen de Guardian: “Hierdoor konden we bewijsmateriaal uit veel apparaten met een enorme hoeveelheid gegevens halen, wat we anders niet hadden kunnen doen.”
Rodenhurst zei dat naarmate officieren AI gebruiken en de voordelen ervan zien, dit de kijk op de frontlinie verandert: “Ze zijn niet langer achterdochtig, ze vragen wanneer ze het kunnen krijgen. Die mogelijkheid is transformatief.”
