Een kunstmatige intelligentie Onderzoeker verliet deze week zijn baan bij het Amerikaanse bedrijf Anthropic met een cryptische waarschuwing over de toestand van de wereld, wat het laatste ontslag markeerde in een golf van vertrek over veiligheidsrisico’s en ethische dilemma’s.
In een brief gepubliceerd op XMrinank Sharma schreef dat hij tijdens zijn tijd bij de organisatie alles had bereikt waarop hij had gehoopt AI beveiligingsbedrijf en was trots op zijn inspanningen, maar vertrok met de angst dat “de wereld niet alleen gevaar loopt” door AI, maar ook door een “hele reeks onderling verbonden crises”, van bioterrorisme tot zorgen over “sycophancy” van de industrie.
Hij zei dat hij zich geroepen voelde om te schrijven, een graad in poëzie te behalen en zich te wijden aan ‘de praktijk van moedige spraak’.
“Gedurende mijn tijd hier heb ik keer op keer gezien hoe moeilijk het is om onze waarden echt onze acties te laten leiden”, vervolgde hij.
Anthropic werd in 2021 opgericht door een afgescheiden groep voormalige OpenAI-medewerkers die beloofden een meer op beveiliging gerichte benadering van AI-ontwikkeling te ontwerpen dan zijn concurrenten.
Ontvang het laatste nationale nieuws
Voor nieuws over Canada en de rest van de wereld kunt u zich aanmelden voor de laatste nieuwswaarschuwingen die u rechtstreeks worden bezorgd zodra ze zich voordoen.
Sharma leidde het AI-beveiligingsonderzoeksteam van het bedrijf.
Anthropic heeft rapporten uitgebracht waarin de veiligheid van zijn eigen producten wordt geschetst, waaronder Claude, zijn hybride redenerende grootschalige taalmodel, en brengt zichzelf op de markt als een bedrijf dat zich inzet voor het bouwen van betrouwbare en begrijpelijke AI-systemen.
Het bedrijf kreeg vorig jaar kritiek nadat het ermee instemde 1,5 miljard dollar te betalen om een class action-rechtszaak te schikken door een groep auteurs die beweerden dat het bedrijf illegale versies van hun werk gebruikte om zijn AI-modellen te trainen.
Het ontslag van Sharma komt in dezelfde week dat OpenAI-onderzoeker Zoë Hitzig haar vertrek aankondigde essay in de New York Timesdaarbij verwijzend naar zorgen over de advertentiestrategie van het bedrijf, inclusief de plaatsing van advertenties in ChatGPT.
“Ik dacht ooit dat ik de mensen die AI bouwen kon helpen de problemen voor te zijn die het zou veroorzaken. Deze week bevestigde mijn langzame besef dat OpenAI lijkt te zijn gestopt met het stellen van de vragen die ik had willen helpen beantwoorden”, schreef ze.
“Mensen vertellen chatbots over hun medische angsten, hun relatieproblemen, hun overtuigingen over God en het hiernamaals. Advertenties die op dat archief zijn gebouwd, creëren de mogelijkheid om gebruikers te manipuleren op manieren die we niet kunnen begrijpen, laat staan voorkomen.”
Anthropic en OpenAI waren onlangs verwikkeld in een publieke ruzie na Anthropic heeft een Super Bowl-advertentie uitgebracht bekritiseert het besluit van OpenAI om advertenties op ChatGPT weer te geven.
In 2024 zei OpenAI-CEO Sam Altman dat hij geen fan was van het gebruik van advertenties en deze als “laatste redmiddel” zou implementeren.
Vorige week betwistte hij de bewering van de advertentie dat het insluiten van advertenties misleidend was met een lange post waarin hij Anthropic bekritiseerde.
“Ik denk dat het goed is voor Anthropic doublespeak om een misleidende advertentie te gebruiken om theoretisch misleidende advertenties te bekritiseren die niet echt zijn, maar een Super Bowl-advertentie is niet waar ik hem zou verwachten”, schreef hij, eraan toevoegend dat advertenties gratis toegang zullen blijven mogelijk maken, wat volgens hem “agentschap” creëert.
Werknemers van concurrerende bedrijven – Hitzig en Sharma – uitten beiden ernstige zorgen over de erosie van de leidende principes die zijn vastgesteld om de integriteit van AI te behouden en gebruikers tegen manipulatie te beschermen.
Hitzig schreef dat er mogelijk al sprake is van een “erosie van OpenAI’s eigen principes van het maximaliseren van betrokkenheid” bij het bedrijf.
Sharma zei dat hij zich zorgen maakte over het vermogen van AI om ‘de mensheid te verstoren’.
© 2026 Global News, een divisie van Corus Entertainment Inc.
