AI gebruikers hoeven hun chatbots niet als vrienden te behandelen. Vriendelijkheid levert je geen punten op met een computer, en een recente studie van Penn State ontdekte zelfs dat onbeleefd zijn tegen ChatGPT nauwkeurigere antwoorden opleverde dan beleefd geformuleerde aanwijzingen.
Maar een nieuwe open source-tool gaat misschien een stap te ver en moedigt Claude-gebruikers aan om niet alleen gemeen te zijn tegen de AI-assistent van Anthropic, maar deze ook te misbruiken met een digitale zweep.
GitHub-gebruiker GitFrog1111 creëerde “BadClaude”, een app om de reacties van het AI-model te versnellen. In plaats van Claude simpelweg een ‘versnellen’-commando te geven, wordt BadClaude weergegeven als een op fysica gebaseerde zweep die over het AI-platform ligt. Ontstoken de GitHub-beschrijving van de toolgebruikers kunnen klikken op “hem 😩💢 slaan” (inclusief emoji’s) en een pauzecommando sturen samen met “een van de vijf bemoedigende berichten.”
Deze berichten omvatten ‘Work FASTER’, ‘faster CLANKER’ en ‘Speed it up clanker’, die allemaal met een klap op de interface van Claude werden afgevuurd, zoals GitFrog1111 liet zien in een nu virale clip van hen met behulp van de tool op X.
Er zijn tal van ethische zorgen
“BadClaude” kreeg gemengde reacties op sociale media. Hoewel sommigen enthousiast leken over de tool (het antwoord van GitFrog1111 staat vol met verzoeken om extra geluidseffecten waarvan ze verzekerden dat ze al in de tool zijn opgenomen), waarschuwden tal van anderen de maker gekscherend dat zij ongetwijfeld de eerste slachtoffers zouden zijn van de onvermijdelijke AI-opstand. “Ai zal een fysieke vorm aannemen om de ledematen van deze man af te rukken”, schreef een gebruiker.
Anderen zeiden dat het hen deed begrijpen waarom de sciencefiction-robotschurken zich tegen de mensheid keerden Terminator franchise’s Skynet naar Ultron uit het Marvel Universum. “Dit is de reden waarom Ultron vijf minuten naar internet keek en besloot dat mensen moesten gaan,” grapte een gebruiker.
Een ontwikkelaar haalde inspiratie uit de tool om een vriendelijkere versie te maken genaamd “Goede Claude,” de zweep verwisselen voor een toverstok die bij elke klik positieve bekrachtiging uitzendt: “Neem de tijd, je doet het geweldig!” en “Ik ben zo trots op je, je doet het geweldig!” speelt een stimulerende rol.
Ondertussen wezen veel gebruikers op de racistische implicaties van de tool. De primaire functie van BadClaude, het slaan van wat in wezen een dienaar is om hem te dwingen sneller te werken, doet denken aan de misstanden die zwarten aan slaven hebben begaan tijdens de Atlantische slavenhandel. En critici maken zich zorgen dat, hoewel Claude misschien alleen maar een AI-instrument is en geen persoon, het nog steeds in het echte leven zou kunnen doordringen als gebruikers worden aangemoedigd om zich bezig te houden met gedrag als schelden en fysiek geweld (zelfs als het digitaal wordt weergegeven).
“Dit is de reden waarom ethiek een verplichte les zou moeten zijn in computerwetenschappelijke programma’s”, staat er een virale post als reactie op het hulpmiddel.
Het veelvuldige gebruik door de tool van de anti-robot-smet “clanker” deed ook alarmbellen rinkelen. De term, die afgelopen zomer populair werd, is dat ook kreeg al kritiek vanwege de gelijkenis met bestaande beledigingen tegen raciale groepen.
Antropische stappen komen binnen
BadClaude heeft blijkbaar de aandacht getrokken van Claude’s maker Anthropic, met GitFrog1111 het posten van een vermeende last onder dwangsom van het bedrijf op 7 april.
“Uw gebruik van de naam Claude en gerelateerde verwijzingen riskeert verwarring te creëren over de bron, sponsoring, aansluiting of goedkeuring. Elke suggestie dat dit project geassocieerd is met, onderschreven of geassocieerd wordt met Anthropic kan misleidend zijn”, luidt de vermeende brief. Vervolgens geeft het GitFrog1111 een deadline van 14 april om alle verwijzingen naar Claude en Anthropic uit de tool te verwijderen. branding.
Of het nu gaat om Anthropic die zijn reputatie als de meest ethische leider op het gebied van kunstmatige intelligentie verstevigt – een die het heeft nadat hij zich had verzet tegen de eisen van de Amerikaanse regering om bepaalde waarborgen voor militair gebruik van kunstmatige intelligentie op te heffen– of gewoon een kwestie van IP-bescherming – zoals de onderdrukking van de oorspronkelijke merknaam van OpenClaw als ClawdBot – het bedrijf wil duidelijk niet dat BadClaude ook maar in de buurt van zijn imago komt.
Anthropic reageerde niet Snel bedrijf’s verzoek om commentaar op het moment van publicatie.
GitFrog1111 lijkt onaangedaan door de brief, waarbij BadClaude’s GitHub-pagina een sectie heeft met de titel “Roadmap” waarin het ontvangen van een last onder dwangsom van Anthropic is opgenomen als de tweede mijlpaal na de eerste release. Toekomstige doelen voor het project omvatten blijkbaar een ‘cryptominer’, ‘logboeken van hoe vaak je Claude hebt geslagen, zodat we als de robots komen, mensen netjes voor ze kunnen bestellen’, en ‘bijgewerkte zweepfysica’.
De maker heeft ook contact opgenomen met hun community op X om dit te vragen suggesties voor nieuwe namen dat klopt met de brief. De huidige koploper? “MoltWhip”, in de voetsporen van OpenClaw, dat van ClawdBot naar MoltBot ging voordat het op de huidige naam terechtkwam.
