Dohmen advocaten techneuten, designers en kunstenaars die advocaat geworden zijn Juridische aspecten rondom AI Mr. Hub Dohmen twitter: http://twitter.com/hdohmen LinkedIn:http://nl.linkedin.com/in/hubdohmen h.dohmen@dohmenadvocaten.nl voor: Universiteit Utrecht 3 mei 2018
Onderwerpen (onder meer).. Positie (evt. rechtssubject) robots. EU-resolutie. NL-kabinetsstandpunt. Aansprakelijkheid autonome auto s. Reacties verzekeraars/autofabrikanten. Aansprakelijkheid smart maintenance. Overeenkomst machine bestelt zelf onderhoud? Verhouding autonome technologieën en militaire besluitvorming Kan een AI recht spreken? Autonomie: gevaarlijk of niets nieuws? Command vs control Enz. enz.
Hoe omgaan met autonome robots? EU-resolutie 2017 Aansprakelijkheid en dergelijke: verplichte verzekering, garantiefonds, belasting (eigen beurs?) rechtssubject? (rechtspersoon vs legal status) registratienummer robot: info dekking/ fabrikant enz. Ontwerpers licentie : privacy by design kill switch reconstructiemogelijkheid besluitvorming, transparantie programmering, voorspelbaarheid je moet kunnen zien dat het een robot is robot zich houden aan juridische en ethische normen (ethische commissie, zie vlg slide) Gebruikers licentie : respecteer privacy, jur./ethische normen, geen ombouw naar wapen geen schaderisico, robot moet doen waarvoor ontworpen
EU-resolutie: ontwerpers licentie : eerst advies ethische cie Werken de wetten van Asimov hier nog? En wat te doen als de auto 4 inzittenden heeft?
Tegenstanders juridische status: open brief begin 2018 150 onderzoekers: robots minder geavanceerd dan in films/media heeft robot dan ook mensenrechten? mag je hem dan uitzetten? bij bedrijf altijd persoon achter de rechtspersoon Koen Hindriks (universitair hoofddocent TU Delft): welk probleem wil je oplossen? onwenselijk dat robot rechtszaak kan starten regels voor iets dat nog niet bestaat?
NL-kabinetsstandpunt maart 2018 Kabinetsreactie (brief aan Kamer) op: rapporten 'Opwaarderen. Het borgen van publieke waarden (feb 2017) en 'Mensenrechten in het robottijdperk (apr 2017): voorlopig geen wetswijziging, omdat: veel al geregeld in AVG, EVRM en Grondwet noodzaak meer onderzoek en advies er loopt al juridisch-wetenschappelijk onderzoek naar effecten gebruik algoritmen op mensenrechten. Reden: algoritmen in big data, IoT en KI
Aansprakelijkheid zelfrijdende auto s Grote hoeveelheid relaties: bestuurder vs aangereden auto/persoon auto-eigenaar vs verzekeraar auto-eigenaar vs fabrikant softwareleverancier, wegdataleverancier, navigatiesoftwareleverancier, weerdataleverancier, garage (onderhoud/updates) enz. Bescherming: ongemotoriseerde slachtoffers: goed beschermd door artikel 185 WVW gemotoriseerde slachtoffers: redelijk grote bescherming: 6:162, 6:173, 6:185 BW afhankelijk interpretatie 6:173 eigenaar autonoom voertuig ontwikkelrisico (tenzij fabrikant overneemt): uitgaan beperkte stand techniek (vgl 6:185) of maatman-bestuurder?
Aansprakelijkheid zelfrijdende auto s reacties autofabrikanten: reacties verzekeraars: General Motors (okt 2017): bij autonomielevel 4 en 5 (van 5) wij aansprakelijk variëren tussen: geen idee (Verbond Verzekeraars jan 18) privacy inruilen voor verzekering (Achmea okt 2017) verkeersverzekering
Smart maintenance: aansprakelijkheid? Wie aansprakelijk bij bug die schade veroorzaakt? softwareleverancier? systeembeheerder? maker van de componenten? machine-eigenaar die onvoldoende controle heeft uitgeoefend? machine zelf? Afspraken maken dus! Hoe moet systeem schadevergoeding betalen? eigen portemonnee? EU-resolutie (herhaling): verplichte verzekering/waarborgfonds juridische status als elektronisch persoon
Smart maintenance: overeenkomst? Is er een overeenkomst als machine eigen onderhoud bestelt? Door partijen via robots voorbeeld: EDI (bijv supermarktkassa die voorraad bijbestelt) je kunt nu al afspreken dat partijen via hun robots overeenkomst met elkaar kunnen sluiten. Als robot vervolgens verkeerde overeenkomst sluit: beroep op dwaling (tenzij wederpartij beroep op 3:35 BW) Door robots zelf (robot = partij) onduidelijk of EU robots ook juridische status wil geven in die zin dat robot (en dus niet de eigenaar van de robot via de robot) overeenkomsten sluit
Verhouding autonome technologieën en militaire besluitvorming (volkenrecht/humanitair oorlogsrecht) AIV-advies aan regering besluitvorming schuift naar voren, dus bij training militairen (met name commandanten) aandacht voor ethiek betekenisvolle menselijke controle in de wider loop (dus geen doelselectie en aanval op basis van machine learning ) bij elke wapenaanschaf/ontwikkeling advies vragen: strijd met internationaal recht/humanitair oorlogsrecht (o.a. conventie Geneve)? streven naar internationale juridische gids met o.a. best practices
Kunnen computers recht spreken? schaakcomputers struikelen ook niet over de onvolledigheid van beslissingsfactoren: bij schaken is bijna elke stelling nieuw en zijn niet alle factoren voorspelbaar, toch weet de schaakcomputer feilloos wat hij moet doen rechtsprekende computer dient rechtszekerheid en rechtsgelijkheid Jaap van den Herik (hoogleraar Recht en Informatica, Universiteit Leiden), inaugurele rede (1991!): Als computers kunnen leren schaken, dan kunnen ze ook recht leren spreken maar rechtlijnigheid vs interpretatie & weging opties?
Autonome robots: angst voor het bekende? TU Delft-professor Chris Verhoeven (maart 2018): al duizenden jaren autonome vervoermiddelen (paard) heeft een valkenier geen autonome drone (valk)? robot kan het beter dan een mens (bijv. 90% auto-ongevallen door menselijke fouten)
AI en Intellectuele Eigendom kan een self learning machine IE creëren? zo ja, van wie is die IE dan?
Dank voor jullie aandacht! Mr. Hub Dohmen twitter: http://twitter.com/hdohmen LinkedIn:http://nl.linkedin.com/in/hubdohmen h.dohmen@dohmenadvocaten.nl