DEDA: kennismaking met data-ethiek
DEDA (De Ethische Data Assistent):
de wet normen en waarden data-praktijken gedragscodes Ethiek? politiek publiek debat moraal samenleving
Data-praktijken hebben een effect A model is an embedded opinion, Cathy O'Neil, data scientist Data or numbers do not speak for themselves Danah Boyd, Kate Crawford Algorithms need accountability Julia Angwin
DATA-GEDREVEN BESTUUR Mogelijkheden Meer inzichten door datacombinatie en -analyse Van reactief naar pro-actief door voorspellende modellen en data analyse Verbetering in efficientie Meer veiligheid Hogere economische aantrekkingskracht van de organisatie of regio Valkuilen Databeheer en -opslag Biases (vooroordelen) Foutieve uitkomsten Het is moeilijk om kritisch te zijn over data Mogelijke publieke verontwaardiging
Wie krijgt onder welke voorwaarden toegang tot welke data? Opsporingsbevoegdheden? Privacy? Verantwoordelijkheid?
verantwoordelijkheid nemen en communiceren
Illegale onderhuur en huisjesmelkers Combinatie van data sets, bv kadaster, bevolkingsregister of dataficatie: aantal fietsen, aantal vuilniszakken by William Verbeek
Alcoholconsumptie minderjarigen monitoren Gebruik van data sets: bv social media, webfora by Gastev
Vroegtijdige schoolverlaters voorspellen Vroegtijdige schooluitval Door er meteen op af te gaan, creëren we een afschrikwekkend effect. Dat voorkomt recidive.
Van wie zijn de data? Is er toestemming, opt-out? Uitleg transparantie indicatoren en model? Hoe worden data bewaard, hoe lang? Welke groep wordt getroffen door de maatregel?
- Menselijk toezicht ontbrak - Verantwoordelijkheid lag bij het system - De aanvrager werd in principe als schuldig gezien
COMPAS Recidivism Algoritme Commerciële tool ontworpen door Northpoint, inc. Sommige onderdelen van de questionnaire: - Gescheide ouders - Residentiële stabiliteit - Criminaliteit in de buurt waar veroordeelde woont - Criminele geschiedenis van familie en vrienden - Drugsgebruik van familie en vrienden - Schrosing van school - Financiële situatie - Emotionele situatie
COMPAS Recidivism Algoritme Commerciële tool ontworpen door Northpoint, inc. Sommige onderdelen van de questionnaire: - Gescheide ouders - Residentiële stabiliteit - Criminaliteit in de buurt waar veroordeelde woont - Criminele geschiedenis van familie en vrienden - Drugsgebruik van familie en vrienden - Schrosing van school - Financiële situatie - Emotionele situatie Problemen: - Geen gelijke behandeling - Onrechtvaadigheid - Bias in the data
Taalherkenningssoftware Bundesamt für Migration und Flüchtlinge Language recognition software - Ingezet om herkomst van asielzoeker te achterhalen - Doel was versnelling van de Procedure - Uitkomst niet allesbepalend
Bundesamt für Migration und Flüchtlinge Language recognition software Taalherkenningssoftware - Objectiviteit van data - Foutieve uitkomsten - Generaliserend - Politieke opvattingen - Function creep
Predictive Policing CAS: Predictive Policing Voorspellen van crimineel gedrag Verzamelde gegevens: - criminaliteitshistorie - afstand tot bekende verdachten - soort en aantal bedrijven bekend bij de politie - afstand tot de dichtstbijzijnde snelwegoprit - demografische en socio-economische gegevens, afkomstig van het CBS.
Predictive Policing Problemen: - Feedback Loop - Transparantie - Veiligheidsgevoel
Wat is DEDA? - Toolkit voor overleg en documentatie - Ontwikkeld in de praktijk - Ontwikkeld in samenwerking met data-analisten - Ontworpen voor de gebruikers
Wat is het doel? - Bevordert het afleggen van verantwoording - Onderwijst de gebruikers - Maakt problemen bespreekbaar - Ondersteunt project management - Brengt prioriteiten naar voren
Wat valt ons op? Blind vertrouwen Panacea Big data lijkt ingewikkeld Data worden niet gezien als politiek Function creep Feedback Loop Menselijke reflectie op het systeem Transparantie
Downloads van DEDA materialen en meer informatie op dataschool.nl