Ontgrendel Editor’s Digest gratis
Roula Khalaf, redacteur van de FT, kiest haar favoriete verhalen in deze wekelijkse nieuwsbrief.
Toen Dario Amodei OpenAI in 2020 verliet, wenste CEO Sam Altman hem het beste, in de verwachting dat het geplande project van Amodei, zijn zus Daniela en andere overledenen zich waarschijnlijk “minder op productontwikkeling en meer op onderzoek” zou concentreren.
“We kijken ernaar uit om de komende jaren met hen samen te werken”, schreef Altman in een blog.
In plaats daarvan is Amodei de scherpste doorn in Altmans oog geworden. Anthropic, de start-up voor kunstmatige intelligentie die hij medeoprichtte, zal het jaar afsluiten met ongeveer 10 miljard. USD in jaarlijkse omzet en groeit snel. Er worden gesprekken gevoerd om fondsen ter waarde van ruim 300 miljard dollar op te halen. en legt nu de basis voor een blockbuster beursnotering.
Amodei’s beslissing om OpenAI te verlaten, en het werk dat hij sindsdien heeft gedaan, wordt ondersteund door twee veroordelingen, volgens verschillende mensen die hem kennen. Ten eerste dat hij beter in staat is om almachtige AI te bouwen dan zijn voormalige baas; en ten tweede dat de wereld veiliger zou zijn als hij dat doet.
“Hij heeft een sterke visie over waar hij naartoe wil. Dario begrijpt dat je een goed bedrijf moet hebben om de missie na te streven”, zegt Matt Murphy, partner bij investeringsmaatschappij Menlo Ventures uit Silicon Valley, die vorig jaar een financieringsronde voor Anthropic leidde.
Investeerders in het bedrijf omschrijven Amodei als iemand wiens evangelisatie voor ‘veilige AI’ gekoppeld is aan scherpe commerciële instincten. “Oprichters zijn technisch, goed in producten of goed in verkoop. Dario is een van de weinige CEO’s die ik in mijn leven heb ontmoet en die alle drie de taken doet”, zegt Divesh Makan, oprichter van Iconiq Capital, dat de laatste financieringsronde van Anthropic leidde.
Amodei is geboren en getogen in San Francisco als zoon van een moeder die bibliotheken renoveerde en een vader van een leersmid. De 42-jarige studeerde natuurkunde aan Stanford en promoveerde in de biofysica voordat hij aan een carrière als AI-onderzoeker begon. Hij trad in 2014 in dienst bij de Chinese internetgigant Baidu, voordat hij een korte periode bij Google Brain werkte.
In 2016 was hij een van de eerste medewerkers van OpenAI, opgericht door Altman, Elon Musk en negen anderen als een plek om AI-onderzoek na te streven zonder de commerciële druk van een technologiebedrijf. Amodei speelde een belangrijke rol bij de ontwikkeling van de belangrijkste taalmodellen achter chatbot ChatGPT.
Maar na vijf jaar vertrok Amodei na meningsverschillen met Altman over de richting van OpenAI en uit bezorgdheid over de mogelijke schade van AI als er geen adequate waarborgen zouden worden getroffen. In 2021 richtte hij samen met zijn zus Anthropic op.
“Wat hij belangrijk vond, was het ontwikkelen van een bedrijf waar deze dingen veilig en transparant in de wereld konden worden ingezet”, zegt Ravi Mhatre, medeoprichter van durfkapitaalbedrijf Lightspeed Venture Partners, dat meer dan $ 1 miljard investeerde. in Antropisch dit jaar. “Hij vond dat hij een schone lei nodig had.”
Maar deze focus op veilige AI-ontwikkeling heeft hem kritiek opgeleverd in zowel Washington als Silicon Valley. David Sacks, de AI-tsaar van Trump, beweerde in oktober dat Anthropic een “verfijnde strategie voor het innemen van regelgeving hanteerde, gebaseerd op angstzaaierij”. Investeerder Marc Andreessen stelt dat extra AI-regulering Amerikaanse start-ups zal belemmeren.
Critici beschouwen Amodei als een ‘doomor’, beïnvloed door de effectieve altruïsmebeweging, die gelooft dat AI een existentiële bedreiging voor de mensheid vormt. De broers en zussen van Amodei ontkennen dat ze effectieve altruïsten of doomers zijn. Maar de vroege financiering van het bedrijf kwam van investeerders die betrokken waren bij de beweging, waaronder Facebook-medeoprichter Dustin Moskovitz en FTX-medeoprichter Sam Bankman-Fried, die later werden veroordeeld voor fraude.
Er zijn ook zorgen van sommigen in de AI-sector dat de snelle groei van Anthropic nu het vermogen van Amodei op de proef stelt om het streven naar ‘veilige’ AI in evenwicht te brengen met de behoeften van zijn aandeelhouders.
“In de beginfase van Anthropic zeiden ze veel: ‘we willen de AI-race niet pushen, we willen vlak achter de grens staan en AI-beveiligingsonderzoek doen’. Dat is nu duidelijk niet het geval. Sommige mensen in de AI-beveiligingsgemeenschap zijn daar behoorlijk ontevreden over”, zegt iemand die aan AI-beveiliging werkt.
Anthropic heeft steun gekregen van Google, Amazon, Microsoft en Nvidia, en veranderde eerder dit jaar zijn standpunt over het accepteren van financiering uit het Midden-Oosten. “Helaas denk ik dat ‘geen slecht persoon ooit mag profiteren van ons succes’ een behoorlijk moeilijk principe is om zaken mee te doen,” zei Amodei tegen het personeel.
Om zijn strategische verschuivingen en kijk op de wereld te verwoorden, schrijft Amodi graag lange openbare essays (de laatste bedroeg meer dan 13.000 woorden). Vorig jaar nam hij tijdens een vijf uur durend podcastinterview ook een korte pauze van het bespreken van programmeertalen om de zin van het leven vast te houden.
Zijn oprechte boodschappen zijn goed ontvangen door het publiek. En zijn uitbundigheid over de missie van zijn bedrijf is populair bij werknemers, waardoor Anthropic topwetenschappers kan behouden in een competitieve markt. “Hij heeft de status van sekteleider”, zegt de persoon van AI-beveiliging.
Het bedrijf bevindt zich nu in de eerste fase van de voorbereiding op een beursnotering. Er is een grote vraag van investeerders om een deel van wat Amodei heeft gebouwd te bezitten.
“Ik kan me het bedrijf niet voorstellen zonder Dario. Hij is de persoon die de belangrijkste technische uitdagingen aangaat en iedereen motiveert”, zegt Mhatre van Lightspeed. “Wat is Apple zonder Steve Jobs of Microsoft zonder Bill Gates?”
Aanvullende rapportage door Cristina Criddle en Tabby Kinder
