Google vergroot de bescherming tegen AI-fraude in India, maar er blijven hiaten bestaan

Google voegt meer AI-kracht toe aan de strijd van India tegen digitale fraude door fraudedetectie op het apparaat voor Pixel 9-apparaten uit te rollen en nieuwe waarschuwingen voor het delen van schermen voor financiële apps.

Digitale fraude blijft toenemen in India, omdat steeds meer mensen voor het eerst online gaan en steeds meer afhankelijk zijn van smartphones om te betalen, te winkelen en toegang te krijgen tot overheidsdiensten. Fraude met digitale transacties ruim de helft van alle gerapporteerde bankfraude in 2024 – 13.516 gevallen, resulterend in verliezen van INR 5,2 miljard (ongeveer USD 58,61 miljoen), volgens de Reserve Bank of India (RBI). Onlinefraude veroorzaakte naar schatting INR 70 miljard (ongeveer $789 miljoen) aan verliezen in de eerste vijf maanden van 2025, aldus het ministerie van Binnenlandse Zaken. Veel incidenten zullen waarschijnlijk niet worden gemeld, omdat slachtoffers niet zeker weten hoe ze een klacht moeten indienen of omdat ze verder onderzoek willen vermijden.

Donderdag Google aangekondigd de uitbreiding van de real-time zwendeldetectiefunctie, die de Gemini Nano gebruikt om oproepen op het apparaat te analyseren en potentiële fraude te signaleren zonder audio op te nemen of gegevens naar de servers van Google te verzenden. De functie is standaard uitgeschakeld en is alleen van toepassing op oproepen van onbekende nummers, en er klinkt een pieptoon tijdens het gesprek om deelnemers te waarschuwen. De debuteerde in maart in de VS als bètaversie voor Engelstalige Pixel 9-gebruikers.

Google heeft aan TechCrunch bevestigd dat de fraudedetectie op het apparaat in eerste instantie alleen zal werken op de Pixel 9 en latere modellen in India en beperkt zal zijn tot Engelssprekende gebruikers, met de waarschuwing alleen in het Engels. Het beperkt het bereik in een markt waar Android staat bijna 96% van de smartphonesper Statcounter, maar Pixel-apparaten minder dan 1% van de aandelen had in 2024. De taalbeperking is ook opmerkelijk in een land waar de meeste gebruikers voornamelijk afhankelijk zijn van niet-Engelse talen – een publiek dat Googlen en anderen vinden het leuk Amazone heeft dit erkend door de afgelopen jaren ondersteuning voor Indiase talen toe te voegen aan zijn diensten.

De technologiegigant zei dat het ook werkt aan het detecteren van oplichting naar niet-Pixel Android-telefoons, zonder een tijdlijn aan te bieden.

Google kondigde ook een pilot aan in India met de financiële apps Navi, Paytm en Google Pay, gericht op het tegengaan van oplichting met het delen van schermen, waarbij oplichters slachtoffers ertoe verleiden hun scherm te delen om tijdens een gesprek eenmalige wachtwoorden, pincodes en andere inloggegevens te verkrijgen. De functie was voor het eerst aangekondigd op Google I/O in mei en aanvankelijk getest in Groot-Brittannië

Gebruikers met apparaten met Android 11 of hoger hebben toegang tot de waarschuwingen, waaronder een optie met één tik om het gesprek te beëindigen en het delen van het scherm te stoppen. Google bevestigde tegenover TechCrunch dat het van plan is meer app-partners toe te voegen en dat de functie ook waarschuwingen in Indiase talen zal weergeven, maar gaf geen details.

Sinds enkele maanden is Google dat ook met behulp van de Play Protect-service om ongewenste leenapps in India te beteugelen door het laden van pagina’s te blokkeren van apps van derden die om gevoelige toestemming vragen en die vaak worden misbruikt voor fraude. Het bedrijf zei dat de dienst dit jaar meer dan 115 miljoen van dergelijke installatiepogingen blokkeerde. Google Pay geeft ondertussen elke week meer dan een miljoen waarschuwingen weer voor transacties die volgens het bedrijf als mogelijk frauduleus zijn gemarkeerd.

Google voert ook zijn digitale fraudebewustmakingscampagne DigiKavach, die naar eigen zeggen meer dan 250 miljoen mensen heeft bereikt. Het bedrijf heeft samengewerkt met de Reserve Bank of India om een ​​openbare lijst te publiceren van geautoriseerde digitale leenapps en hun niet-bancaire dochterondernemingen om kwaadwillende actoren te helpen beteugelen.

Eerder dit jaar, Google een veiligheidscharter gelanceerd in India om zijn door AI aangedreven fraudedetectie- en beveiligingsinspanningen uit te breiden, als onderdeel van een breder plan om meer AI-instrumenten in het land in te zetten om de toenemende fraude aan te pakken.

Toch wordt Google nog steeds geconfronteerd met aanzienlijke hiaten in het terugdringen van digitale fraude in India. Het bedrijf is – net als Apple – ondervraagd staat valse en misleidende apps toe om in de app store te verschijnen ondanks beoordelingsprocessen die gericht zijn op het blokkeren van frauduleuze inzendingen.

De afgelopen jaren wel politie En veiligheidsonderzoekers heeft investerings- en lening-apps gemarkeerd die bij oplichting werden gebruikt en die tot interventie beschikbaar bleven in de Play Store. Deze gevallen onderstrepen de uitdagingen waarmee Google wordt geconfronteerd bij het toezicht houden op een ecosysteem dat de smartphonemarkt van het land domineert.