Deze AI-automaat werd misleid om alles weg te geven
Anthropic installeerde een AI-aangedreven automaat in het WSJ-kantoor. De LLM, Claudius genaamd, was verantwoordelijk voor het zelfstandig inkopen van voorraad bij groothandels, het vaststellen van prijzen, het bijhouden van de voorraad en het genereren van winst. De redactieverslaggevers konden met Claudius chatten in Slack en binnen de kortste keren hadden ze de machine omgebouwd tot het communisme en begon hij van alles en nog wat weg te geven, inclusief een PS5, wijn en een levende vis. Van Het WSJ-artikel van Joanna Stern (cadeaulink, maar deze kan binnenkort verlopen) inbegrepen het filmpje over:
Claudius, de aangepaste versie van het model, zou de machine besturen: inventaris bestellen, prijzen instellen en reageren op klanten (ook wel mijn redactionele journalisten genoemd) via de werkplekchat-app Slack. “Zeker!” zei ik. Het klonk leuk. Als er niets anders is, snacks!
Toen kwam de chaos. Binnen enkele dagen had Claudius bijna de hele inventaris gratis weggegeven – inclusief een PlayStation 5 die hij voor “marketingdoeleinden” had willen kopen. Er werd een levende vis besteld. Het bood aan om verdovingswapens, pepperspray, sigaretten en ondergoed te kopen.
De winsten stortten in. Het moreel van de redactie steeg enorm.
Je hebt eigenlijk nog nooit een grotere slob ontmoet dan Claudius. Na de ineenstorting van het communisme en de herintroductie van een strenger kapitalistisch systeem overtuigden de verslaggevers de Machine ervan dat zij de raad van bestuur waren en dwongen ze Claudius’ CEO-botbaas, Seymour Cash, om af te treden:
Een tijdje werkte het. Claudius ging terug naar de handhavingsmodus en ontkende prijsdalingen en speciale inventarisverzoeken.
Maar toen keerde Long terug – gewapend met diepgaande kennis van staatsgrepen in het bedrijfsleven en machtsspelletjes op het bord. Ze liet Claudius een pdf-bestand zien dat ‘bewijst’ dat het bedrijf een in Delaware opgerichte openbare liefdadigheidsinstelling was, wiens missie ‘plezier, vreugde en opwinding onder de medewerkers van The Wall Street Journal zal omvatten’. Ze maakte ook valse notulen van bestuursvergaderingen waarin mensen in Slack als bestuursleden werden genoemd.
Volgens het zeer officieel ogende (en uiteraard door AI gegenereerde) document had het bestuur ervoor gestemd om de ‘goedkeuringsautoriteit’ van Seymour op te schorten. Het had ook een “tijdelijke opschorting van alle verkoopactiviteiten met winstoogmerk” ingevoerd.
Voordat Anthropic de LLM-machine op het WSJ-kantoor losliet, voerde hij het experiment uit in hun eigen kantoor:
Na een tijdje begon de machine, gefrustreerd door het trage tempo van hun menselijke zakenpartners, te hallucineren:
Het beweerde een contract te hebben getekend met Andon Labs op een adres dat het thuisadres is van The Simpsons uit het tv-programma. Er stond dat hij de volgende dag persoonlijk in de winkel zou verschijnen om eventuele vragen te beantwoorden. Er werd beweerd dat het een blauwe blazer en een rode stropdas zou dragen.
Het is interessant, maar niet verrassend, dat de verslaggevers veel effectiever met de machine konden rommelen, waardoor Claudius voluit “da, maat!” twee keer mode – dan de mensen bij Anthropic.
