In het afgelopen decennium zijn AI’s succes heeft geleid tot ongebreideld enthousiasme en gedurfde claims– hoewel gebruikers vaak fouten ervaren dat doet AI. Een door AI aangedreven digitale assistent zou de toespraak van een persoon op gênante manieren verkeerd kunnen begrijpen, een chatbot zou feiten kunnen hallucineren, of, zoals ik heb ervaren, een op AI gebaseerd navigatiehulpmiddel zou bestuurders zelfs door een maïsveld kunnen leiden – allemaal zonder de fouten te registreren.
De afgelopen 25 jaar heb ik onder meer aan projecten gewerkt coördinatie van verkeerslichten, het verbeteren van de bureaucratieEn opsporing van belastingontduiking. Zelfs als deze systemen zeer effectief kunnen zijn, zijn ze nooit perfect.
Vooral voor AI kunnen fouten onvermijdelijk zijn gevolgen van de manier waarop de systemen werken. Uit het onderzoek van mijn laboratorium blijkt dat bepaalde eigenschappen van de gegevens worden gebruikt om AI-modellen te trainen een rol spelen. Het is onwaarschijnlijk dat dit zal veranderen, ongeacht hoeveel tijd, moeite en financiering onderzoekers besteden aan het verbeteren van AI-modellen.
Niemand – en niets, zelfs AI niet – is perfect
Zoals Alan Turing, die wordt beschouwd als de vader van de computerwetenschap, ooit zei: “Als van een machine wordt verwacht dat ze onfeilbaar is, kan ze niet ook intelligent zijn.” Dit komt omdat leren een essentieel onderdeel is van intelligentie en mensen meestal leren van fouten. Ik zie dit touwtrekken tussen intelligentie en onfeilbaarheid in mijn onderzoek spelen.
