Steun ons en help Nederland vooruit

zaterdag 17 oktober 2020

D66: meer openheid over gebruik algoritmes door gemeenten

Gemeenten moeten open zijn over het gebruik van algoritmes. Daartoe roepen tientallen D66-gemeenteraadsleden hun colleges van burgemeester en wethouders op na aanleiding van een rapport van de Mr. Hans van Mierlo Stichting, het wetenschappelijk bureau van D66. D66 raadsleden Koen van der Krieken en Yaşar Sazak hebben over het gebruik van algoritmes door de gemeente Tilburg vragen gesteld aan het college. Van der Krieken “algoritmes worden steeds vaker ingezet door gemeenten en kunnen een grote impact hebben op de levens van inwoners. Transparantie over het gebruik ervan is van groot belang.” Sazak: “Op dit moment weet niemand welke algoritmes we gebruiken en op welke manier dat gebeurt, en of er sprake is van geautomatiseerd profileren. En dat is verontrustend.”

Toenemend gebruik
Uit onderzoek blijkt dat minstens vijftig procent van de gemeenten gebruik maakt van algoritmes: digitale formules die verbanden kunnen vinden in enorme datasets. Ze worden bijvoorbeeld gebruikt bij het opsporen van sociale zekerheidsfraudeurs, het voorspellen van voortijdige schoolverlating of het bepalen van de inzet van politieagenten. Maar het risico van discriminatie ligt op de loer, bijvoorbeeld als algoritmes helpen bepalen welke groepen mensen vaker gecontroleerd worden op crimineel gedrag of fraude. Onderzoeker Laura de Vries van de Van Mierlo Stichting: “Dit zijn urgente vragen waar politici zich over moeten ontfermen. Juist binnen gemeenteraden zou het debat over dit onderwerp flink aangezwengeld moeten worden. Daarom is het zo mooi dat hier raadsvragen over worden ingediend.”

Democratische controle
Er is weinig bekend over de inzet door gemeenten en daardoor hebben burgers en lokale politici hier vaak onvoldoende zicht op. Dit belemmert de controlerende taak van gemeenteraadsleden. Daarom wil D66 dat er meer openheid komt over de manier waarop algoritmes bij gemeenten in besluitvorming worden ingezet. D66-Kamerlid Kees Verhoeven: “Algoritmes zijn onzichtbaar en ongrijpbaar, maar kunnen wel zeer ingrijpend zijn. Alle overheden moeten ze overwogen inzetten en er open over zijn. Anders krijgen we wildgroei die mensen en de samenleving kan schaden.”


Schriftelijke vragen aan het college over openheid over algoritmes (16 oktober 2020)

Geacht college,

Gemeenten maken volop gebruik van algoritmes. Niet altijd is even duidelijk voor welk doel en op wat voor manier algoritmes worden ingezet. Het is van belang om te weten wat de gemeente Tilburg met algoritmes doet. Algoritmes zijn namelijk niet per definitie eerlijker of objectiever dan menselijke besluitvorming. Vaak worden ze ingezet bij besluiten die een grote impact kunnen hebben op de levens van mensen.

Algoritmische toepassingen bieden veel mogelijkheden. Zo kunnen ze grote hoeveelheden informatie in korte tijd analyseren en verbanden vinden in grote datasets. Maar algoritmes brengen ook risico’s met zich mee. Ze kunnen bevooroordeeld zijn, met het risico dat bepaalde groepen door algoritmische besluitvorming worden benadeeld of gediscrimineerd. Een bekend voorbeeld is de Belastingdienst, die aangiftes van mensen met een tweede nationaliteit aan extra controles onderwierp.

Individuele vrijheid kan in het gedrang komen wanneer algoritmische besluitvorming een zelfversterkend effect heeft. Denk bijvoorbeeld aan het toepassen van algoritmes bij politiecontroles: meer politiecontroles in bepaalde wijken kunnen leiden tot meer datapunten over die wijk, wat vervolgens weer kan worden gebruikt als argument voor meer politie-inzet in diezelfde wijk.

Tot slot raakt de ondoorzichtigheid rond het gebruik van algoritmes aan een fundamenteel aspect van onze rechtsstaat: de mogelijkheid voor burgers, volksvertegenwoordigers en rechters om inzicht te hebben in de redenen hoe overheidsbesluiten tot stand zijn gekomen.

D66 Tilburg zet zich in voor eerlijke algoritmes die voldoen aan de kernbegrippen gelijkheid, vrijheid en rechtsstatelijkheid. Daarom stelden wij eerder vragen over Open data en digitale archivering en is op ons initiatief in september 2019 een expertmeeting over Open Data georganiseerd.

Bovenstaande noopt ons tot het stellen van de volgende vragen:

  1. Maakt de gemeente Tilburg op enigerlei wijze gebruik van algoritmes die zijn getraind door middel van supervised learning of geeft zij hiertoe opdracht aan andere organisaties?
    1. Zo ja, ter beantwoording van welke vraagstukken gebruikt zij deze algoritmes? Is het opstellen van (risico)profielen van mensen hier onderdeel van?
    2. Hoe zijn deze algoritmes tot stand gekomen?
    3. Welke gegevens worden door de gemeente Tilburg gebruikt voor het trainen van deze algoritmes? Welke gegevens worden door de gemeente Tilburg gebruikt voor de implementatie van deze algoritmes?

Toelichting:
Graag ontvangen we per algoritme een beschrijving welk soort het betreft en voor welk vraagstuk zij dient. Evenals een beschrijving van het proces van het algoritme vanaf de dataverzameling, de dataverwerking en codering/omvorming de data-analyse, de uitkomst, decodering en de vervolgacties. Wat voor data zijn er verzameld en hoe zijn deze verzameld? Welke variabelen worden meegenomen in het model en welke niet? Hoe ziet de output eruit (bijvoorbeeld de kans per individu)? Hoe wordt besloten welke variabelen wel/niet mee worden genomen?

2. Maakt de gemeente Tilburg gebruik van algoritmes die zijn getraind door middel van unsupervised learning of geeft zij hiertoe opdracht aan andere organisaties?

    1. Zo ja, ter beantwoording van welke vraagstukken gebruikt zij deze algoritmes? Is het opstellen van (risico)profielen van mensen hier onderdeel van?
    2. Hoe zijn deze algoritmes tot stand gekomen? (zie toelichting bij de voorgaande vraag)
    3. Welke (persoons)gegevens worden door de gemeente Tilburg voor het trainen en testen van deze algoritmes? Welke (persoons)gegevens worden door de gemeente Tilburg gebruikt voor de implementatie van deze algoritmes?

3. Is het college bereid om een openbaar registeren te publiceren waar zij haar algoritmische toepassingen omschrijft en toelicht? Zo ja, per wanneer? Zo nee, waarom niet?

4.In hoeverre neemt de gemeente Tilburg ethische aspecten van algoritmes mee in inkoopvoorwaarden richting leveranciers? Zo ja, welke voorwaarden zijn dit?

5. In hoeverre is het college zich bewust van de (onbewuste) keuzes in het proces van het gebruik van algoritmes die onethisch gebruik van algoritmes in de hand werken? Zo ja, waaruit blijkt dit?

6. In hoeverre neemt de gemeente Tilburg ethische aspecten van algoritmes mee in inkoopvoorwaarden richting leveranciers? Zo ja, welke voorwaarden zijn dit?

7. Heeft de gemeente Tilburg een ethische commissie, met als voorbeeld de gemeente Enschede[1], aangesteld die zich ontfermt over de vraag of er wel of niet ethisch gebruik wordt gemaakt van algoritmes door de gemeente? Zo nee, ziet het college het nut in van een dergelijke commissie en overweegt zij om deze aan te stellen en/of om expertise in te schakelen?

8.Is het college bereid om een (jaarlijkse) audit uit te voeren ter controle van de algoritmische toepassingen van de gemeente Tilburg?

9. Heeft de gemeente Tilburg advies ingewonnen over het implementeren van algoritmes bij een onafhankelijke organisatie? Zo ja, welke organisatie is dit? Heeft deze organisatie ook geëvalueerd of het algoritme voldoet aan de eisen van de Algemene Verordening Gegevensbescherming (AVG) en de Algemene Wet Gelijke Behandeling (AWGB)?

10.Wordt door de Functionaris Gegevensbescherming (FG) naast privacy ook naar andere ethische aspecten gekeken, zoals gelijke behandeling en transparantie? Zo ja, hoe worden deze geborgd en bij wie ligt de verantwoordelijkheid? Is het college bereid om hiervoor een aparte functionaris aan te stellen?