PROFILEREN & GEAUTOMATISEERDE BESLUITVORMING

Transcriptie

1 VERENIGING PRIVACY RECHT PROFILEREN & GEAUTOMATISEERDE BESLUITVORMING 28 SEPTEMBER 2018

2 WE ARE PROJECT MOORE. AN AMSTERDAM LAW FIRM SPECIALISING IN IT-LAW AND PRIVACY.

3 VAN ORAKEL

4 .TOT HEERSER?

5

6

7 PROFILEREN & GEAUTOMATISEERDE BESLUITVORMING

8 WAT IS PROFILEREN (ART. 4 LID 4 AVG)? Geautomatiseerde verwerking waarbij a.d.h.v. persoonsgegevens bepaalde persoonlijke aspecten van een individu worden geëvalueerd met als doel te analyseren of te voorspellen

9 PROFILEREN?

10

11 WAT IS GEAUTOMATISEERDE BESLUITVORMING (ART. 22)? Besluit uitsluitend gebaseerd op geautomatiseerde verwerking Waaraan voor het individu rechtsgevolgen zijn verbonden Of het individu anderszins in aanmerkelijke mate treft

12 COMMUNICATIEVOORKEUREN

13 AANBIEDINGEN AFGESTEMD OP LEVENSLOOP

14 ONLINE ADVERTISING

15 HOGERE RENTE VOOR MAC GEBRUIKERS

16 CREDIT SCORING

17 UITSLUITEND GEAUTOMATISEERD

18 WAT IS HET VERBAND? Uitsluitend geautomatiseerde besluitvorming Profiling Niet uitsluitend geautomatiseerde besluitvorming

19

20 PROFILEREN & GEAUTOMATISEERDE BESLUITVORMING AVG

21 EISEN AVG Art. 29 WG behandelt bepalingen uit AVG: Beginselen gegevensbescherming Grondslag Bijzondere gegevens Rechten van betrokkenen Specifieke bepalingen voor uitsluitend geautomatiseerde besluitvorming: verboden, tenzij

22 TOESTEMMING (ART. 6 SUB A AVG)

23 DECEIVED BY DESIGN How tech companies use dark patterns to discourage us from exercising our rights to privacy

24 GERECHTVAARDIGD BELANG Gerechtvaardigd belang verantwoordelijke, tenzij belang betrokkene zwaarder weegt (art. 6 sub f AVG) Recht op transparantie en inzage (art AVG) Verzetsrecht (art. 21 AVG) Direct marketing: absoluut Gerechtvaardigd belang: relatief, maar zwaardere toets dan gerechtvaardigd belang toets

25 In my work, I support a view of privacy as a balanced value. Yes, privacy promotes the interests of data subjects note interests, not only expressed preferences. Helen Nissenbaum, Harvard Business Review

26

27 Zelfs als bedrijven hun eigen klantgegevens delen met Facebook, is daarvoor toestemming van die klant nodig, laat de Autoriteit Persoonsgegevens weten in een reactie. (website NOS)

28 FACEBOOK CUSTOM AUDIENCES

29 FACEBOOK CUSTOM AUDIENCES

30 EXTRA EISEN AVG GEAUTOMATISEERDE BESLUITVORMING

31 ART 22 AVG: VERBOD GEAUT. BESLUITVORMING, TENZIJ Lid 1: verbod uitsluitend geautomatiseerde besluitvorming Uitzondering (lid 2)? Noodzakelijk voor overeenkomst Wettelijke toegestaan Uitdrukkelijke toestemming Uitzondering > implementeer passende maatregelen (lid 3)

32 PASSENDE MAATREGELEN (ART. 22 LID 3) Minimaal vereist: Recht op menselijke tussenkomst van de verwerkingsverantwoordelijke Recht om zijn standpunt kenbaar te maken Recht om het besluit aan te vechten

33 TRANSPARANTIE Informeer betrokkene (art. 13 en 14 AVG): Dat persoonsgegevens worden verwerkt voor geautomatiseerde besluitvorming Nuttige informatie over de onderliggende logica Het belang en de verwachte gevolgen van de verwerking voor de betrokkenen

34 HOW TO HOLD ALGORITHMS ACCOUNTABLE Five core principles for accountability: Responsibility Explainability Accuracy Auditability Fairness Nicholas Diakopoulos and Sorelle Friedler - MIT Technology Review

35 TO ERR IS HUMAN AND TO BLAME IT ON A COMPUTER IS EVEN MORE SO ROBERT ORBEN

36 ALGORITMEN MAKEN FOUTEN

37 EN SLUITEN MENSEN UIT

38 PASSENDE MAATREGELEN Aanbevelingen 29WG: Quality assurance controles Algorithmic auditing Pseudonimiseer of anonimiseer gegevens Dataminimalisatie en heldere bewaartermijnen profielen Ethics board

39 WAT KUNNEN WE NOG VERWACHTEN? Zelfregulering, zoals Codes of conduct Samenwerkingsverbanden Meer guidance van de EDPB en de EDPS? Meer regulering? Hippocratic Oath for data scientists?

40 VRAGEN? T of E lieneke.viergever@projectmoore.com L

41