Grammaticaal verwijdert de AI-functie die de identiteit van echte auteurs gebruikte en wordt geconfronteerd met een class action-rechtszaak

Grammarly heeft zijn AI-aangedreven Expert Review-functie ingetrokken nadat het werd opgeroepen voor gebruik identiteit van journalisten en schrijvers zonder toestemming. De schrijfassistentsoftware wordt nu geconfronteerd met een klasse actie beschuldigt het bedrijf ervan auteursnamen voor eigen gewin te exploiteren.

Expert Review werd afgelopen augustus samen met zeven andere AI-agenten gelanceerd en was bij de lancering beschikbaar op Grammarly’s gratis en $ 12 Pro-abonnementen en werd gepromoot om gebruikers feedback te geven over de inhoud van hun schrijven. Op een pagina op de website van Grammarly, die inmiddels is verwijderd, staat dat Expert Review “inzichten (haalde) van vakdeskundigen en vertrouwde publicaties” en door AI gegenereerde feedback gaf “gebaseerd op openbaar beschikbare inhoud van deskundigen” (via de Wayback-machine). Gebruikers konden zelfs aanpassen uit welke “expert” bronnen Grammarly putte door de namen van specifieke auteurs te selecteren.

“Expert Review Agent biedt inhoudelijke expertise en gepersonaliseerde, onderwerpspecifieke feedback om schrijven te verbeteren dat voldoet aan strenge academische of professionele normen, afgestemd op het vakgebied van de gebruiker.” Grammarly schreef in zijn blogpost waarin de functie werd aangekondigd.

Grammarly’s Expert Review kwam vorige week onder de aandacht Bedraad gemeld dat de functie door AI gegenereerde bewerkingen bood in naam van echte auteurs en academici, zowel levend als dood. De gebruikershandleiding van het hulpmiddel geeft de disclaimer aan dat de verwijzingen naar experts “slechts voor informatieve doeleinden zijn en geen enkele band met Grammarly of goedkeuring door die individuen of entiteiten aangeven.” Maar dezelfde site beweert ook dat Expert Review “inzichten biedt van vooraanstaande professionals, auteurs en vakexperts.”

Velen zeiden dat deskundigen op het gebied van grammatica niet vriendelijk zijn geweest om hun identiteit te gebruiken zonder hun medeweten of toestemming.

“(Grammatica) stelde een lijst samen van echte mensen, gaf hun modellen de vrije hand om namens hen plausibel klinkend advies te hallucineren, en plaatste het allemaal achter een abonnement.” schreef Platformer-oprichter Casey Newton, die tot de door Grammarly geciteerde personen behoorde. Het is een bewuste keuze om de identiteit van echte mensen te gelde te maken zonder hen erbij te betrekken, en dat stinkt.”

‘Dit moet een soort laster zijn of zoiets’ historicus Mar Hicks schreef aan Bluesky: na het delen van een screenshot van hun identiteit opgenomen in de Expert Review. “Je kunt niet zomaar het IP-adres van mensen stelen en dan doen alsof ze iets zeggen dat ze nooit hebben gezegd.”

Grammaticaal reageert op reactie van experts

Als reactie op de reactie vertelde Grammarly maandag aan Platformer dat auteurs hen een e-mail zouden kunnen sturen om zich af te melden voor opname in de Expert Review-functie. Dit leidde tot verdere kritiek omdat experts niet te horen kregen dat Grammarly hun identiteit gebruikte, en ze er ook niet in de eerste plaats toestemming voor hadden gegeven. Betrokken auteurs zouden niet weten dat ze zich moesten afmelden, tenzij een Grammarly-gebruiker hun naam zag tijdens het gebruik van Expert Review en hen op de hoogte bracht.

Bovendien had de optie om zich af te melden geen betrekking op Grammarly’s gebruik van de identiteit van dode auteurs. Tot de overleden auteurs die door Expert Review werden gebruikt, behoorden naar verluidt astronoom Carl Sagan en intersectionele academische belhaken.

“Dus Grammerly (sic) schendt het geheugen van belhaken EN maakt AI-versies van de rest van ons voordat we zelfs maar dood zijn.” schreef onderzoeker Sarah J. Jackson. ‘Zeg me wie ik moet aanklagen, zonder een grapje.’

Shishir Mehrotra, CEO van Grammarly-ontwikkelaar Superhuman, kondigde vervolgens woensdag aan dat het Expert Review offline haalt. Hij liet echter ook doorschemeren dat het bedrijf van plan is het in een of andere vorm terug te brengen.

“De afgelopen week hebben we terechte kritische feedback ontvangen van experts die bezorgd zijn dat de agent hun stem verkeerd heeft weergegeven”, aldus de woordvoerder. Mehrotra heeft op LinkedIn geschreven. “Als context is de agent ontworpen om gebruikers te helpen invloedrijke perspectieven en wetenschappelijke kennis te ontdekken die relevant zijn voor hun werk, terwijl het experts zinvolle manieren biedt om diepere relaties met hun fans op te bouwen. We luisteren naar de feedback en erkennen dat we hierin tekort zijn geschoten. Ik wil mijn excuses aanbieden en erkennen dat we onze aanpak in de toekomst zullen heroverwegen.”

“Na zorgvuldige overweging hebben we besloten Expert Review uit te schakelen, terwijl we de functie opnieuw ontwerpen om deze nuttiger te maken voor gebruikers, terwijl experts echte controle krijgen over hoe ze vertegenwoordigd willen worden – of helemaal niet vertegenwoordigd willen worden.”

“Dat dit überhaupt al bestond, suggereert een totale ontkoppeling van de normale menselijke samenleving,” klimaatschrijver Ketan Joshi reageerde op het bericht van Mehrotra. “Het had meteen duidelijk moeten zijn dat dit uitbuitend, griezelig en wreed was.”

“Met al het gepraat over hoe AI bestaande inhoud ‘voortbouwt’ (lees: ‘steelt’), en een tool creëert die feitelijk ‘advies’ is van echte mensen die zich hun hele leven zorgen maken over schrijven en expertise… is het moeilijk te doorgronden,” schreef Dan Saltzstein van de New York Times. “Hier zouden consequenties aan verbonden moeten zijn die verder gaan dan ‘we moeten heroverwegen’. Een belofte om op zijn minst nooit meer zoiets als dit te doen.”

Class action-rechtszaak beschuldigt Grammarly ervan de identiteit van auteurs zonder toestemming te gebruiken

Hoewel Grammarly op dit moment een dergelijke belofte niet heeft gedaan, wordt het nu al geconfronteerd met gevolgen voor zijn acties die verder gaan dan reputatieschade. New York Times-schrijfster Julia Angwin diende een klacht in een class action tegen Superhuman op woensdag, nadat ze had ontdekt dat Grammarly’s Expert Review haar identiteit zonder haar toestemming had gebruikt. Het advocatenkantoor dat haar vertegenwoordigt, Peter Romer-Friedman Law PLLC, heeft alle betrokken schrijvers opgeroepen om zich bij de class action aan te sluiten.

Hoewel het niet precies duidelijk is hoeveel identiteiten van auteurs onrechtmatig zijn toegeëigend, kan het om een ​​aanzienlijk cohort gaan. Als we alleen naar technologiejournalisten kijken, Dat meldt The Verge die Expert Review noemde verschillende leden van de redactie, evenals schrijvers van Wired, Bloomberg, The New York Times, The Atlantic, PC Gamer, Gizmodo, Digital Foundry, Tom’s Guide en Mashable’s zustersites IGN en Rock Paper Shotgun. Angwin heeft dat beweerd “veel mensen” heb er al navraag naar gedaan sluit zich aan bij de rechtszaak.

“Ik onderneem deze actie niet alleen namens mijzelf, maar namens iedereen die jaren en decennia heeft besteed aan het aanscherpen van hun vaardigheden als schrijver en redacteur, om vervolgens een AI te vinden die hen imiteert,” Angwin schreef in een LinkedIn-post.

“Al meer dan 100 jaar verbiedt de wet van New York bedrijven om de naam van een persoon te gebruiken voor commerciële doeleinden zonder hun toestemming”, zegt Peter Romer-Friedman van Peter Romer-Friedman Law PLLC. “De wet voorziet niet in een uitzondering voor technologiebedrijven of AI.”

De class action, ingediend bij een districtsrechtbank in New York, eist schadevergoeding en een bevel om te voorkomen dat Grammarly de identiteit van auteurs gebruikt zonder hun toestemming.

Mashable heeft Superhuman benaderd voor commentaar.