Inspiratie uit Frankrijk: reguleren van de toepassing van algoritmen door de overheid

De toepassing van algoritmen op basis van kunstmatige intelligentie neemt snel toe, ook bij overheden. Algoritmen die wet- en regelgeving bevatten maken het mogelijk om overheidsprocessen verregaand te digitaliseren en bijvoorbeeld automatische besluiten te nemen. Dit soort algoritmen bieden allerlei nieuwe kansen en mogelijkheden, iets waar wij vanuit Slimmer met Regelgeving ook actief over nadenken en aan meedoen. Maar het dwingt ons ook om na te denken over de vraag of en hoe regulering nodig is. Frankrijk is daar al actief mee bezig, zoals Marlies van Eck laat zien in een blog op openrecht.nl.

Wat Frankrijk heeft gedaan, is om het nemen van besluiten door technologie, zoals door algoritmen gebaseerd op kunstmatige intelligentie, te reguleren via het algemeen bestuursrecht.

Marlies noemt een paar voorbeelden. Als de Franse overheid een algoritme gebruikt om een besluit te nemen, dan moet dat worden medegedeeld aan de belanghebbende. Die mededeling is tamelijk uitgebreid, zo moet o.a. het doel worden beschreven, hoe het algoritme werkt, de gebruikte gegevens en bronnen, en de uitvoeringshandelingen die het gevolg zijn geweest. Dat gaat dus verder dan de regels uit de AVG.

De plicht om uit te leggen hoe het algoritme werkt, biedt dus ook enige garantie tegen zelflerende algoritmes, die hun regels continu zelf verfijnen en aanpassen: de overheid moet altijd kunnen uitleggen hoe het algoritme tot een besluit is gekomen.

Ook is gereguleerd dat, als een belanghebbende bezwaar maakt tegen een besluit van een algoritme, dat het afhandelen van dat bezwaar niet ook door een algoritme mag worden gedaan.

Op deze manier ontstaat rechtsbescherming van belanghebbenden, die verder gaat dan de regels van de AVG. Eigenlijk heel logisch. Mooie inspiratie voor de Nederlandse overheid! Marlies heeft haar blog dan ook opgesteld als een open brief  aan de leden van de Tweede Kamer. Lees de blog hier.