Wat heeft de overheid bepaald over AI-labeling? | Uitgelegd

Het verhaal tot nu toe: Het Ministerie van Elektronica en Informatietechnologie (MeitY) heeft eerder deze week een wijziging van de IT-regels voor 2021 aangekondigd die gebruikers en sociale-mediaplatforms verplicht om door AI gegenereerde inhoud te labelen en de verwijderingstijden voor alle inhoud – niet alleen door AI gegenereerde berichten – aan te scherpen van 24-36 uur naar twee tot drie uur. De regels treden op 20 februari in werking.

Lees ook | Het IT-ministerie stelt etiquette verplicht voor door AI gegenereerde inhoud, waardoor de verwijderingstijd wordt teruggebracht tot 2-3 uur

Hoe zit het met door AI gegenereerde inhoud?

De Information Technology (Digital Media Intermediary Guidelines and Code of Ethics) Amendment Rules, 2026 vereisen dat sociale-mediaplatforms “prominent” “synthetisch gegenereerde” inhoud of door AI gegenereerde afbeeldingen en video’s labelen. De claim werd afgelopen oktober voor het eerst voorgesteld en deze week aangekondigd. Socialemediaplatforms met meer dan vijf miljoen gebruikers moeten een “gebruikersverklaring (voor door AI gegenereerde inhoud) verkrijgen en een technische verificatie (uitvoeren) voordat zij (door AI gegenereerde inhoud) publiceren”.

MeitY zei in een toelichtend document dat deze vereiste is ingevoerd om “deepfakes, verkeerde informatie en andere illegale inhoud tegen te gaan die gebruikers kan misleiden, gebruikers schade kan berokkenen, de privacy kan schenden of de nationale integriteit kan bedreigen”, en dat het belangrijk is dat gebruikers zich ervan bewust zijn of wat ze zien nep is.

De ontwerpdefinitie van “Synthetisch gegenereerde informatie” (SGI) van oktober was breder en omvatte alle audiovisuele inhoud die door AI was aangepast of gegenereerd. De definitieve regels voorzien enkele uitzonderingen: foto’s waarop op een smartphone is geklikt en die automatisch worden geretoucheerd door de camera-app, worden bijvoorbeeld niet als SGI beschouwd, en speciale effecten in films worden niet beschouwd als iets dat moet worden geëtiketteerd. De regels verbieden ook bepaalde soorten DAB: materiaal over seksuele uitbuiting en misbruik van kinderen, vervalste documenten, informatie over de ontwikkeling van explosieven en deepfakes die ten onrechte een echte persoon vertegenwoordigen.

Lees ook | De regels voor AI-labeling naderen hun voltooiing, zegt IT-secretaris S. Krishnan

Hoe kan AI-gegenereerde inhoud worden gedetecteerd?

De regering heeft grote platforms gevraagd om “redelijke en passende technische maatregelen te treffen om illegale DAB te voorkomen en te zorgen voor etiketterings-/herkomst-/identificatievereisten voor toegestane DAB”. Een hoge functionaris van het IT-ministerie betoogde dat grote platforms over geavanceerde tools beschikken om SGI te detecteren en dat deze vereiste eenvoudigweg vereist dat ze detectie uitvoeren zoals ze dat al doen. Bovendien hebben sommige AI-bedrijven en -platforms zich aangesloten bij de Coalition for Content Provenance and Authenticity (C2PA), die technische standaarden biedt om door AI gegenereerde inhoud onzichtbaar te labelen op een manier die door andere platforms kan worden gelezen als op AI gebaseerde detectie mislukt. De regels verwijzen naar die inspanning door ‘herkomst-/identificatievereisten’ te eisen, maar de ambtenaar zei dat ze geen enkele inspanning willen steunen, maar de doelen van dergelijke samenwerkingen graag willen formaliseren.

Lees ook | De nieuwe AI-governancerichtlijnen van India dringen aan op een hands-off aanpak

Hoe zijn de deadlines veranderd?

De IT-regels staan ​​sommige overheidsinstanties en politiefunctionarissen toe verwijderingskennisgevingen uit te vaardigen op grond van Regel 3(1)(b) en gebruikers kunnen klachten indienen over “illegale” inhoudscategorieën die in de IT-regels worden vermeld. Deze categorieën omvatten desinformatie, naaktheid en bedreigingen voor de soevereiniteit. Voor zowel door de overheid als de rechtbank uitgevaardigde verwijderingskennisgevingen zijn de deadlines teruggebracht tot 2 à 3 uur, terwijl de reactiedeadlines voor alle andere categorieën gebruikersklachten (zoals laster en verkeerde informatie) zijn teruggebracht van twee weken naar één week. De tijdlijnen voor het reageren op gebruikersrapporten (op grond van regel 3, lid 2, onder b)) over ‘gevoelige’ inhoud zijn ook teruggebracht van 72 uur naar 36 uur. De regering redeneerde dat de eerdere limieten zelfs binnen die tijdlijnen veel schade toestonden, waardoor een heronderzoek van de tijd waarop platforms moesten handelen noodzakelijk was.

BEHEERDER | Te nep om goed te zijn: over door AI gegenereerde afbeeldingen, etikettering

Welke andere wijzigingen zijn er doorgevoerd?

Gebruikers zullen nu vaker een herinnering moeten ontvangen over de algemene voorwaarden van het platform. “De veranderingen omvatten herzieningen van regel 3(1)(c) van de Interim Rules, waardoor de frequentie van gebruikersmeldingen wordt verhoogd van één keer per jaar naar minstens één keer per drie (drie) maanden en de inhoud van dergelijke kennisgevingen wordt uitgebreid om de mogelijke gevolgen van niet-naleving en rapportageverplichtingen te verduidelijken”, aldus JSA Advocates and Solicitors in een analyse.

De regels vereisen ook dat platforms gebruikers specifiek waarschuwen dat schadelijke deepfakes en andere illegale, door AI gegenereerde inhoud hen kunnen blootstellen aan juridische stappen, waaronder openbaarmaking van hun identiteit aan wetshandhavingsautoriteiten en “onmiddellijke uitschakeling van de toegang of verwijdering van dergelijke inhoud, opschorting of beëindiging van gebruikersaccounts”, aldus de JSA in haar analyse.