OpenAI lanceert Privacy Filter, een open-source model voor gegevensopschoning op apparaten dat persoonlijke informatie uit bedrijfsdatasets verwijdert

In een belangrijke verschuiving naar een lokaal-eerste privacy-infrastructuur heeft OpenAI een release uitgebracht Privacyfiltereen gespecialiseerd open source-model dat is ontworpen om persoonlijk identificeerbare informatie (PII) te ontdekken en te redigeren voordat deze ooit een cloudgebaseerde server bereikt.

Vandaag gelanceerd op de AI Code Sharing Community Knuffel gezicht onder een toelaatbaar Apache 2.0-licentieDe tool pakt een groeiend knelpunt in de sector aan: het risico dat gevoelige gegevens in trainingssets “lekken” of worden onthuld tijdens gevolgtrekkingen met hoge doorvoer.

Door een model te bieden met 1,5 miljard parameters die op een standaardlaptop of rechtstreeks in een webbrowser kunnen worden uitgevoerd, biedt het bedrijf ontwikkelaars een ‘privacy-by-design’-toolkit die fungeert als een geavanceerde, contextbewuste digitale versnipperaar.

Hoewel OpenAI werd opgericht met een focus op dit soort open source-modellen, schakelde het bedrijf in het ChatGPT-tijdperk over op het aanbieden van meer propriëtaire (“closed source”) modellen die alleen beschikbaar waren via zijn website, apps en API – om vorig jaar op grote schaal terug te keren naar open source met de lancering van gpt-us-familie van taalmodellen.

In dat licht, en gecombineerd met OpenAI’s nieuwste open sourcing van agentorkestratie tools en raamwerken is het veilig om te zeggen dat de generatieve AI-gigant duidelijk nog steeds zwaar geïnvesteerd heeft in het bevorderen van dit minder direct lucratieve deel van het AI-ecosysteem.

Technologie: een gpt-oss-variant met bidirectionele tokenclassifier die vanuit beide richtingen leest

Architectonisch gezien is Privacy Filter een afgeleide van OpenAI’s gpt-os family, een reeks open-weight redeneermodellen die eerder dit jaar zijn uitgebracht.

Maar hoewel standaard grote taalmodellen (LLM’s) doorgaans autoregressief zijn (het voorspellen van het volgende token in een reeks) zijn privacyfilters een tweeweg-tokenclassificator.

Dit onderscheid is van cruciaal belang voor de nauwkeurigheid. Door tegelijkertijd vanuit beide richtingen naar een zin te kijken, krijgt het model een dieper inzicht in de context dat een alleen-voorwaarts model misschien mist.

Het kan bijvoorbeeld beter onderscheiden of ‘Alice’ verwijst naar een privépersoon of een publiek literair personage op basis van de woorden die op de naam volgen, en niet alleen op basis van de woorden die eraan voorafgaan.

Het model maakt gebruik van een Sparse Mixture-of-Experts (MoE)-framework. Hoewel het in totaal 1,5 miljard parameters bevat, zijn slechts 50 miljoen parameters actief tijdens een enkele voorwaartse doorgang.

Deze spaarzame activering zorgt voor een hoge doorvoer zonder de enorme rekenoverhead die doorgaans gepaard gaat met LLM’s. Bovendien heeft het een enorme Contextvenster van 128.000 tokenswaardoor het volledige juridische documenten of lange e-mailgesprekken in één keer kan verwerken zonder de noodzaak om tekst te fragmenteren – een proces dat er vaak voor zorgt dat traditionele PII-filters de entiteiten over pagina-einden uit het oog verliezen.

Om ervoor te zorgen dat de bewerkte uitvoer coherent blijft, heeft OpenAI een beperkte Viterbi-decoder geïmplementeerd. In plaats van voor elk woord een onafhankelijke beslissing te nemen, evalueert de decoder de gehele reeks om logische overgangen af ​​te dwingen.

Het maakt gebruik van een ‘BIOES’-labelingschema (Begin, Inside, Outside, End, Single), dat ervoor zorgt dat als het model ‘John’ identificeert als het begin van een naam, het statistisch waarschijnlijk is dat ‘Smith’ wordt bestempeld als de voortzetting of het einde van dezelfde naam, in plaats van als een afzonderlijke entiteit.

Gegevensopschoning op het apparaat

Privacy Filter is ontworpen voor workflows met hoge doorvoer waarbij het bewaren van gegevens een niet-onderhandelbare vereiste is. Het ondersteunt momenteel de detectie van acht primaire PII-categorieën:

• Privé namen: Individuele personen.

• Contactgegevens: Fysieke adressen, e-mailadressen en telefoonnummers.

• Digitale identificatiegegevens: URL’s, rekeningnummers en datums.

• Geheimen: Een gespecialiseerde categorie voor inloggegevens, API-sleutels en wachtwoorden.

In de praktijk stelt dit bedrijven in staat het model on-premise of in hun eigen private clouds te implementeren. Door gegevens lokaal te maskeren voordat ze naar een krachtiger redeneermodel (zoals GPT-5 of gpt-oss-120b) worden gestuurd, kunnen bedrijven voldoen aan de strikte AVG- of HIPAA-normen en toch gebruik maken van de nieuwste AI-mogelijkheden.

De eerste benchmarks zijn veelbelovend: het model haalt naar verluidt een F1-score van 96% op de PII-Masking-300k-benchmark, out-of-the-box.

Voor ontwikkelaars is het model beschikbaar via Hugging Face, met ingebouwde ondersteuning voor transformers.jszodat het volledig in de browser van een gebruiker kan worden uitgevoerd met behulp van WebGPU.

Volledig open source, commercieel haalbare Apache 2.0-licentie

Misschien wel het belangrijkste aspect van de aankondiging voor de ontwikkelaarsgemeenschap Apache 2.0-licentie. In tegenstelling tot licenties met een ‘beschikbaar gewicht’ die vaak het commerciële gebruik beperken of het ‘copyleft’ delen van afgeleide werken vereisen, is Apache 2.0 een van de meest tolerante licenties in de softwarewereld. Voor startups en toolontwikkelaars betekent dit:

1. Commerciële vrijheid: Bedrijven kunnen Privacy Filter in hun eigen producten integreren en deze verkopen zonder royalty’s aan OpenAI te betalen.

2. Aanpassing: Teams kunnen het model verfijnen op basis van hun specifieke datasets (zoals medisch jargon of eigen logformaten) om de nauwkeurigheid voor niche-industrieën te verbeteren.

3. Geen virale verplichtingen: In tegenstelling tot de GPL-licentie hoeven ontwikkelaars niet hun volledige codebase te openen als ze Privacy Filter als component gebruiken.

Door dit licentiepad te kiezen positioneert OpenAI Privacy Filter als een standaardtool voor het AI-tijdperk – in wezen “SSL voor tekst”.

Reacties van de gemeenschap

De technische gemeenschap reageerde snel op de release, waarbij velen de indrukwekkende technische beperkingen opmerkten die OpenAI wist te overwinnen.

Elie Bakouch (@eliebakouch), een onderzoeksingenieur bij startup Prime Intellect voor agentic model training platform, prees de effectiviteit van de architectuur van Privacy Filter op X:

“Zeer mooie release van @OpenAI! Een 50 miljoen actieve, 1,5 miljard totale gpt-oss arch MoE, om privé-informatie goedkoop uit biljoenen schaalgegevens te filteren. Het behouden van 128k-context met zo’n klein model is ook behoorlijk indrukwekkend”.

Het sentiment weerspiegelt een bredere trend in de sector naar ‘kleine maar machtige’ modellen. Terwijl de wereld zich heeft geconcentreerd op enorme giganten met honderd biljoen parameters, vereist de praktische realiteit van zakelijke AI vaak kleine, snelle modellen die één taak (zoals privacyfiltering) uitzonderlijk goed en tegen lage kosten kunnen uitvoeren.

Maar OpenAI heeft een “High-Risk Deployment Caution” in zijn documentatie opgenomen. Het bedrijf waarschuwde dat de tool moet worden gezien als een “redactioneel hulpmiddel” in plaats van een “veiligheidsgarantie”, en merkte op dat een te groot vertrouwen op één enkel model zou kunnen leiden tot “gemiste spanwijdten” in zeer gevoelige medische of juridische workflows.

Het privacyfilter van OpenAI is duidelijk een poging van het bedrijf om de AI-pijplijn fundamenteel veiliger te maken.

Door de efficiëntie van een Mixture-of-Experts-architectuur te combineren met de openheid van een Apache 2.0-licentie, biedt OpenAI voor veel bedrijven een manier om PII-gegevens gemakkelijker, goedkoper en veiliger te bewerken.