OpenAI-CEO Sam Altman heeft zijn excuses aangeboden aan leden van een Canadese gemeenschap waar een massale schietpartij vond eerder dit jaar plaats om het ChatGPT-account niet te markeren de schutter voor wetshandhaving.
‘De pijn die uw gemeenschap heeft moeten doorstaan is onvoorstelbaar’, schreef Altman in een brief gedeeld Vrijdag op sociale media door premier David Eby van British Columbia. “Ik heb de afgelopen maanden vaak aan je gedacht.”
Acht mensen kwamen om bij het bloedbad van 10 februari in de kleine gemeenschap van Tumbler Ridge in het noordoosten van British Columbia. Zes mensen werden dodelijk neergeschoten toen de 18-jarige Jesse Van Rootselaar het vuur opende op de Tumbler Ridge Secondary School, zeiden de autoriteiten, en de moeder van de schutter en de 11-jarige broer werden gedood in een nabijgelegen woning. Van Rootselaar stierf aan een zelf toegebrachte schotwond, zeiden ambtenaren.
Altman schreef in de brief, gedateerd donderdag, dat Van Rootselaars ChatGPT-account in juni 2025 was verboden – ongeveer acht maanden voor de schietpartij.
‘Ik betreur het ten zeerste dat we de politie niet hebben gewaarschuwd voor het account dat in juni werd verboden’, zei Altman.
In februari vertelde OpenAI aan CBS News dat het account van Van Rootselaar vorig jaar was gemarkeerd door geautomatiseerde misbruikdetectietools en menselijke onderzoekers die potentieel misbruik van ChatGPT voor gewelddadige activiteiten signaleerden. OpenAI zei dat het account vervolgens werd verboden wegens schending van het gebruiksbeleid.
OpenAI zei dat het bedrijf had overwogen om het account te markeren voor wetshandhaving, maar destijds had vastgesteld dat het geen onmiddellijk en geloofwaardig risico op ernstig lichamelijk letsel voor anderen vormde, omdat het niet voldeed aan de drempel voor verwijzing.
“Onze gedachten gaan uit naar iedereen die getroffen is door de Tumbler Ridge-tragedie”, zei OpenAI in februari in een verklaring aan CBS News na de schietpartij. “We hebben proactief contact opgenomen met de Royal Canadian Mounted Police met informatie over het individu en hun gebruik van ChatGPT, en we zullen hun onderzoek blijven ondersteunen.”
OpenAI zegt dat ChatGPT is getraind om schade in de echte wereld tegen te gaan en de opdracht heeft om te weigeren hulp te bieden wanneer het illegale bedoelingen detecteert. Gebruikers die plannen aangeven om anderen schade toe te brengen, worden gerapporteerd aan menselijke beoordelaars, die bepalen of een zaak een onmiddellijke dreiging van lichamelijk letsel met zich meebrengt en volgens het bedrijf moet worden doorverwezen naar de wetshandhaving.
Altman schreef in zijn brief dat OpenAI gefocust zal blijven op preventieve inspanningen “om ervoor te zorgen dat zoiets nooit meer gebeurt.”
“Ik wil mijn diepste medeleven betuigen aan de hele gemeenschap”, zei Altman. “Niemand zou ooit een tragedie als deze moeten meemaken.”
Eerder deze week zei procureur-generaal James Uthmeier uit Florida aangekondigd een strafrechtelijk onderzoek naar OpenAI na het bekijken van berichten tussen ChatGPT en een student van de Florida State University beschuldigd van een schietpartij op de campus in april 2025 waarbij twee mensen omkwamen en verscheidene anderen gewond raakten.
Uthmeier zei dat zijn team had vastgesteld dat ChatGPT “significante begeleiding” bood aan de vermeende schutter. Zijn kantoor vaardigt dagvaardingen uit aan OpenAI en vraagt om registratie van de protocollen van het bedrijf voor het melden van mogelijke misdaden aan de wetshandhavingsinstanties en de afhandeling van gebruikersbedreigingen.
Met betrekking tot de schietpartij in Florida zei een woordvoerder van OpenAI dinsdag in een verklaring aan CBS News dat het “na kennis te hebben genomen van het incident” een ChatGPT-account identificeerde waarvan werd aangenomen dat het verband hield met de verdachte en die informatie proactief deelde met wetshandhavingsinstanties.
