Big Data in een vrije en veilige samenleving Opmerkingen naar aanleidng van het in april 2016 uitgebrachte rapport

Transcriptie

1 Big Data in een vrije en veilige samenleving Opmerkingen naar aanleidng van het in april 2016 uitgebrachte rapport

2 Antwoord van de minister van V&J op Kamervragen, ontvangen 2 september 2016, Vergaderjaar , Aanhangselnummer 3413: Binnen het Rijk wordt al op verschillende manieren gebruik gemaakt van big data-analyses, waaronder de analyses die de Infobox Crimineel en Onverklaarbaar Vermogen (icov) verricht. Verder kan ik wijzen op de proef met een «broedkamer» waarin op het domein van Veiligheid en Justitie naar het voorbeeld van andere organisaties stappen zullen worden gezet om beter gebruik te maken van informatie door deze te ontsluiten uit de ICT-systemen en effectiever te benutten (Kamerstuk , nr. 298, blz. 3).

3 Wat is Big Data? De 3 V s van Laney (2012): Volume, Variety & Velocity Van causaliteit naar correlatie Meer is beter Secundair gebruik van data

4 Wat maakt het het domein van veiligheid bijzonder? Informatie voor dwingend optreden: Amazon politie Het legaliteitsbeginsel en de waarborging van fundamentele rechten niet afwegen. Veiligheid en vrijheid in balans?

5 Meer data (publiek en privaat) Persoonsgegevens? Meer door data gedreven en real-time analyse Black box (algoritme) Voorspellend en probabilistisch (Semi-)automatische besluitvorming Geheimhouding

6 Beloftes Beter, sneller, effectiever, goedkoper, veiliger Historisch, real-time, voorspellend Beperkingen Bias ( no such thing as raw data ), Gebrekkige kwaliteit data, correlatie causaliteit, BD juiste instrument? Randvoorwaarden Beschikbaarheid data expertise en inbedding in de organisatie beveiliging van data

7 Risico s Profiling, datamining en discriminatie Function creep Chilling effects Uit niet-persoonlijke c.q. niet gevoelige gegevens kunnen gevoelige persoonsgegevens worden gereconstrueerd

8

9 Het Handvest van de grondrechten van de Europese Unie zegt: Artikel 6 - Recht op vrijheid en veiligheid Eenieder heeft recht op vrijheid en veiligheid van zijn persoon. Artikel 7 - Eerbiediging van het privé-leven en het familie- en gezinsleven Eenieder heeft recht op eerbiediging van zijn privé-leven, zijn familie- en gezinsleven, zijn woning en zijn communicatie. Artikel 8 - Bescherming van persoonsgegevens 1. Eenieder heeft recht op bescherming van de hem betreffende persoonsgegevens. 2. Deze gegevens moeten eerlijk worden verwerkt, voor bepaalde doeleinden en met toestemming van de betrokkene of op basis van een andere gerechtvaardigde grondslag waarin de wet voorziet. Eenieder heeft recht op toegang tot de over hem verzamelde gegevens en op rectificatie daarvan. 3. Een onafhankelijke autoriteit ziet toe op de naleving van deze regels.

10 Big Data tart kernprincipes van het huidige recht Big Data Secundair gebruik N=all (meer is beter) Databescherming Doelbinding Dataminimalisatie Gebrekkig kader geeft zowel koudwatervrees als experimenteerlust Huidige kaders richten zich hoofdzakelijk op het moment het verzamelen van informatie

11

12 Geen aanvullende regulering van verzamelen, meerwaarde ligt bij de regulering van de fase van de analyse en het gebruik (package deal) Maak experimenten mogelijk, versterk de bescherming van fundamentele rechten Maak gegevensverwerkende partijen meer verantwoordelijk voor het voorkomen van schendingen van individuele en collectieve rechten

13 Zorgplicht voor gegevensverwerkers (kwaliteit, rechtmatig verkregen, toegankelijk) Externe audit/review van de analyse (data, algoritme, profielen) Het algoritmische hart van de analyse moet voor toezicht toegankelijk zijn Horizonbepaling grote Big Data projecten (Noodzaak? Effectief? Kosten-baten?)

14 Verbod op (semi-)automatische besluitvorming geen computer says no Verantwoordelijkheid/bewijslast juridisch verankeren bij gegevensverwerkende partij geen kastje naar de muur

15 Versterking van het externe toezicht Betere balans tussen geheimhouding en transparantie Meer ruimte voor toetsing van regels en beleid

16 Opmerkingen na en naar aanleiding van het rapport Het recht is een baanbrekende uitvinding van de mensheid, deel van de cognitieve revolutie Recht maakt vertrouwen mogelijk in onpersoonlijke relaties Recht verwoordt en bevestigt verwachtingen van door regels geleid gedrag en verklaart afwijkingen daarvan ongeldig (en vergeldt deze)

17 Opmerkingen na en naar aanleiding van het rapport Burgers delen met elkaar en verdelen over (staats)organen de bevoegdheid tot het geven van abstracte beoordelingen van gedrag Democratische Öffentlichkeit onttroont de heersers Distantie van de macht ten opzichte van het persoonlijk leven fundeert vrijheid

18 Opmerkingen na en naar aanleiding van het rapport Big data analyses onthullen interesses en bewegingen Onpersoonlijke en persoonlijke relaties kunnen steeds moeilijker worden onderscheiden Democratie verliest het vermogen tot abstracte representativiteit en leidt dus tot een totale (totalitaire?) transparantie Privacy, forgetting en forgiving in de bekende vormen worden onmogelijk (R. Simanowski, Data Love, 2016)

19 Opmerkingen na en naar aanleiding van het rapport Kunnen mensen zich terugtrekken uit de totale transparantie? Kan bescherming worden geboden tegen de druk van opgeroepen ongenoegen? Of is het een kwestie van wennen?

20