AI trainen met gezichtsscans en trackers: klachten tegen Scale AI

De kunstmatige intelligentie die steeds vaker ons werk en dagelijks leven beïnvloedt, wordt niet vanzelf slimmer. Achter AI-systemen zit veel menselijk werk: mensen beoordelen antwoorden, labelen gegevens en helpen modellen leren wat bruikbaar, juist of veilig is. Maar hoe worden die mensen zelf behandeld?

Op 27 oktober 2026 maakte de Europese privacyorganisatie noyb bekend dat zij, samen met partners, vijf privacyklachten heeft ingediend tegen Scale AI in Frankrijk, Italië, Nederland en Oostenrijk. De klachten gaan over de werkomgeving van Outlier, het AI-trainingsplatform van het Amerikaanse bedrijf. Volgens noyb worden werkers daar gevolgd door trackers en moeten zij herhaaldelijk hun identiteit biometrisch laten controleren om werk te kunnen uitvoeren.

Werkplatform of surveillancesysteem?

Outlier brengt mensen samen die bijdragen aan het trainen van AI-systemen, bijvoorbeeld door opdrachten te beoordelen of antwoorden van modellen te vergelijken. Volgens noyb werkt het platform met meer dan 900.000 zogenoemde freelancers. Dat is een enorme groep mensen die voor hun inkomsten afhankelijk kan zijn van digitale systemen waarover zij zelf weinig controle hebben.

De klachten verwijzen naar een technische analyse waarin trackers van onder meer sociale-mediabedrijven op de werkplatformomgeving werden aangetroffen. Volgens die analyse zouden trackers om de paar seconden gegevens doorsturen naar derden. Het gaat onder andere om IP-adressen, contactgegevens, unieke identificatoren en informatie over bezochte pagina’s. Zulke gegevens kunnen inzicht geven in iemands online gedrag en mogelijk worden gebruikt voor profilering of gerichte advertenties.

Een werkplatform heeft gegevens nodig om opdrachten toe te wijzen en betalingen te verwerken. Dat betekent niet dat elke vorm van volgen gerechtvaardigd is. Wie een taak uitvoert, hoeft niet automatisch zijn volledige digitale spoor achter te laten bij partijen die niets met die taak te maken hebben.

Je gezicht als toegangsbewijs voor werk

Een tweede punt in de klachten is de identiteitscontrole. Volgens noyb moeten werkers herhaaldelijk een biometrische controle doorlopen via verificatiebedrijf Persona. Daarbij worden video-opnamen van het gezicht gemaakt en identiteitsdocumenten geüpload. Scale AI zou dit rechtvaardigen met het voorkomen van identiteitsfraude en het controleren van vaardigheden.

Biometrische gegevens zijn niet zomaar een wachtwoord dat kan worden vervangen als het uitlekt. Een gezicht hoort bij een persoon. Juist daarom moet de verwerking ervan aantoonbaar noodzakelijk, zorgvuldig begrensd en goed beveiligd zijn. De vraag is niet alleen of identiteitsfraude voorkomen mag worden, maar ook of herhaalde gezichtsscans en het verzamelen van identiteitsdocumenten daarvoor echt nodig en evenredig zijn.

Noyb stelt dat de beschreven werkwijze mogelijk in strijd is met de AVG, onder meer met de regels over een geldige rechtsgrond, dataminimalisatie en biometrische gegevens. Ook zouden betrokken werkers geen antwoord hebben gekregen op verzoeken om inzage in hun persoonsgegevens. Het gaat op dit moment om klachten en beschuldigingen die door toezichthouders moeten worden onderzocht, niet om een definitief rechterlijk oordeel.

Vrijwillig akkoord is niet altijd echte keuze

Bij digitale diensten wordt vaak gezegd dat iemand akkoord kan gaan of de dienst kan verlaten. Voor mensen die afhankelijk zijn van opdrachten en inkomen is die keuze minder eenvoudig. Als een werkplatform vergaande controle eist voordat iemand kan werken, is het niet genoeg om te wijzen op een vinkje in de voorwaarden. Er moet ook een overtuigende reden zijn waarom die gegevens nodig zijn en waarom minder ingrijpende middelen niet volstaan.

Toegang tot werk mag geen vrijbrief zijn om mensen voortdurend te volgen of hun gezicht als toegangsbewijs op te eisen. Wie AI bouwt, moet ook de waardigheid en privacy beschermen van de mensen die dat werk mogelijk maken.

Dit is geen pleidooi tegen AI of tegen het controleren van fraude. Het is een pleidooi voor grenzen. Een platform moet kunnen uitleggen welke gegevens het verzamelt, met wie die worden gedeeld, hoe lang ze worden bewaard en hoe iemand daar bezwaar tegen kan maken. Biometrische controles horen geen gemakzuchtige standaardoplossing te zijn. En trackers van derden horen niet ongemerkt mee te kijken met iemands werk.

Toezicht moet verder kijken dan de gebruiker

Het publieke debat over kunstmatige intelligentie gaat vaak over de risico’s voor consumenten, leerlingen of burgers die met algoritmen te maken krijgen. De mensen die AI-systemen trainen en beoordelen blijven veel minder zichtbaar. Toch zijn hun rechten net zo belangrijk. Een technologie die aan de buitenkant slim en efficiënt lijkt, mag niet gebouwd worden op ondoorzichtige controle van de mensen achter de schermen.

De klachten tegen Scale AI vragen om serieus onderzoek door de bevoegde privacytoezichthouders. Daarbij moet helder worden welke gegevens werkelijk nodig zijn, welke partijen ze ontvangen en of de verwerking aan de AVG voldoet. Als de klachten worden bevestigd, moeten de gevolgen niet beperkt blijven tot een aanpassing van de privacyverklaring: de ingrijpende werkwijze zelf moet dan veranderen.

Menselijke waardigheid houdt niet op bij de deur van een digitaal platform. Ook in de AI-industrie moet werk kunnen worden gedaan zonder dat privacy en autonomie worden behandeld als luxe waarvoor je eerst moet betalen.