Stel je voor: je organisatie gebruikt een systeem dat automatisch iets of iemand blokkeert – zonder waarschuwing of uitleg. Klinkt ver van je bed? Toch kan dit ook bij kleine ondernemers, zorgorganisaties of verenigingen gebeuren.
In een zaak tegen X (voorheen Twitter) werd duidelijk: zoiets mag niet zomaar volgens de AVG. En die uitspraak is ook voor jouw organisatie belangrijk.
Uit het recht
In deze rubriek lichten we actuele rechterlijke uitspraken toe die te maken hebben met de AVG. Wat speelde er, wat besloot de rechter – en wat kun jij daar als organisatie van leren?
Wat speelde er?
Een gebruiker van X merkte dat zijn berichten nauwelijks nog bereik hadden. Via anderen ontdekte hij dat zijn account ongemerkt was beperkt, nadat hij een bericht had geplaatst met daarin het woord ‘kinderpornografie’ – weliswaar in de context van Europese regelgeving, dus niet met verkeerde bedoelingen.
Twitter gebruikte een geautomatiseerd systeem om dit soort berichten te signaleren en het account werd daarop beperkt. Maar de gebruiker kreeg geen uitleg, geen waarschuwing, geen mogelijkheid om bezwaar te maken.
Wat zegt de rechtbank?
De rechter oordeelde dat dit een vorm is van geautomatiseerde besluitvorming zonder menselijke tussenkomst. En dat valt onder artikel 22 van de AVG (Algemene Verordening Gegevensbescherming).
Wat ging er mis?
- Twitter had niet duidelijk gemaakt dat en hoe die geautomatiseerde beslissing tot stand kwam.
- De gebruiker kreeg geen inzicht in de redenen achter de beperking.
- Er was geen mogelijkheid tot verweer of bezwaar.
Lees de gehele uitspraak hier.
Wat betekent dit voor jouw organisatie?
Ook als je geen techgigant bent zoals X, kun je met vergelijkbare situaties te maken krijgen. Denk aan:
- Automatische afwijzingen van sollicitanten op basis van een scan van hun cv.
- Een systeem dat op basis van gedrag of woorden gebruikers of klanten flagt of blokkeert.
- Automatische risicoscores in je software, zonder dat medewerkers begrijpen waarop die gebaseerd zijn.
Als je geautomatiseerde beslissingen neemt die gevolgen hebben voor mensen, moet je daar transparant en zorgvuldig in zijn. Dat betekent:
- Je moet mensen laten weten dat je zo’n systeem gebruikt.
- Je moet uitleggen hoe het werkt en wat de gevolgen zijn.
- Je moet de mogelijkheid bieden om bezwaar te maken of een mens naar de beslissing te laten kijken.
De uitspraak in het kort
De rechtbank gaf de klager gelijk en oordeelde dat X de regels van de AVG had geschonden. Twitter moet nu:
- Binnen een maand volledige inzage geven in het besluitvormingsproces.
- Doet X dat niet? Dan volgt een dwangsom van € 4.000 per dag.
Wat kun jij doen?
Loop je processen eens na: zijn er stappen in je dienstverlening die automatisch plaatsvinden en serieuze gevolgen hebben voor klanten, leden of medewerkers? Denk aan automatische e-mails, toegang tot diensten, of zelfs beoordelingen? Dan is dit hét moment om te checken of je voldoet aan de AVG.
Gebruik je systemen die automatisch risico’s inschatten of mensen filteren? Zorg dan dat je kunt uitleggen hoe het werkt, waarom je het doet, en geef altijd een menselijke uitweg.
Download de gratis checklist: ben jij AVG OK?
Voldoet je organisatie aan de AVG-wetgeving? Check het eenvoudig met onze gratis checklist.
- 15 checks om gelijk uit te voeren
- Kom erachter of jij aan de AVG voldoet
- Direct inzicht in wat je nog moet regelen
