Artificiële Intelligentie en publieke waarden
Artificiële intelligentie (AI) wordt op steeds meer terreinen ingezet. Het kan bijdragen aan het oplossen van maatschappelijke vraagstukken, kan de productiviteit verhogen en de werkgelegenheid stimuleren. Tegelijkertijd zijn er ook risico’s aan verbonden voor publieke waarden en mensenrechten.
Om de kansen van AI te kunnen benutten en daarnaast goed voorbereid te zijn op de risico’s van AI-toepassingen is interdepartementale kennisuitwisseling en beleidsafstemming nodig. Hiervoor is een interdepartementaal samenwerkingsplatform opgericht. Het bestaat uit vier onderdelen: een interdepartementale beleidsgroep, een nieuwsbrief, kennisbijeenkomsten en deze themapagina. Deze themapagina geeft een overzicht van recente beleidsstukken evenals (wetenschappelijke) rapporten en publicaties, die op dit dossier zijn verschenen.
Met de zoekfunctie kan direct naar specifieke documenten gezocht worden. Het is ook mogelijk een lijst met alle documenten over Artificiële Intelligentie en publieke waarden in te zien.
Kamerstukken
1. Kamerbrieven (4)
Recente brieven:
- Kamerbrief Waarborgen en kaders bij gebruik gezichtsherkenningstechnologie Datum 20 november 2019, kamerstuk 32 761, nr. 152.
- Kamerbrief AI, publieke waarden en mensenrechten Datum 8 oktober 2019, kamerstuk 26 643, nr. 642.
- Kamerbrief Strategisch Actieplan voor Artificiële Intelligentie Datum 8 oktober 2019, kamerstuk 26 643, nr. 640.
- Kamerbrief Waarborgen tegen risico’s van data-analyses door de overheid Datum 8 oktober 2019, kamerstuk 26 643, nr. 641.
2. Kamervragen en -antwoorden (7)
Recente vragen en -antwoorden:
- Kamervragen over de mogelijke inzet van apps in het kader van het ‘testen, traceren en thuisblijven’-beleid Ingezonden op 10 april 2020, nr. 2020D14739.
- Kamervragen over fundamentele rechten in het strafrecht Ingezonden op 8 mei 2020, nr. 2020D19385.
- Kamervragen over het bericht ‘Studenten protesteren tegen tentamensoftware die beelden van hun huiskamer opslaat’ Ingezonden op 22 april 2020, nr. 2020D19347.
- Kamervragen over het bericht dat universiteiten met surveillance-software studenten thuis in de gaten houden Ingezonden op 9 april 2020, nr. 2020D16219.
- Kamervragen over de berichtgeving ‘Ook in Nederland gezichtsherkenning met omstreden programma Clearview’ Ingezonden op 5 maart 2020, nr. 2020D15039.
- Kamervragen over het artikel ‘Autosector voldoet niet aan strenge privacy norm’ Ingezonden op 3 maart 2020, Kamervragen (Aanhangsel) 2019-2020, nr. 2176.
- Kamervragen over het bericht ‘Overheid voor rechter om etnische profileren: ‘Zo vernederend dat je kleur bepalend is’ Ingezonden op 27 februari 2020, nr. 2020D13519.
3. Beleidsdocumenten (4)
Recente beleidsdocumenten:
- Onderzoek Toezicht op het gebruik van algoritmen door de overheid Dit onafhankelijke onderzoek geeft nader inzicht in de wijze waarop het huidige toezicht op algoritmen bij de overheid is ingericht en op de manier waarop dit mogelijk nog beter kan.
- Kabinetsreactie op het onderzoek ‘Toezicht op het gebruik van algoritmen door de overheid’ Datum 20 april 2020, bijlage bij kamerstuk 35 212, nr. 3.
- Eindbrief van de Autoriteit Persoonsgegevens over het onderzoek naar de informatiebeveiliging bij Belastingdienst/Datafundamenten en Analytics Datum 16 oktober 2019, bijlage bij kamerstuk 32 761, nr. 150.
- Digitalisering aan de grens. Cybersecurity van het grenstoezicht door de Koninklijke Marechaussee op Schiphol Aan de vooravond van nog grootschaliger inzet van technologie is onderzocht hoe het grenstoezicht op Schiphol beschermd is tegen cyberaanvallen.
4. Stukken uit Europa (6)
Recente rapporten:
- Whitepaper on Artificial Intelligence - A European approach to excellence and trust Bepaling van de beleidsdoelen door de Europese Commissie voor het bevorderen van de invoering van AI en het beperken van de risico’s.
- Democracy and Digital Authoritarianism: An Assessment of the EU’s External Engagement in the Promotion and Protection of Internet Freedom Een rapport over de betrokkenheid van de EU in het versterken en beschermen van internet vrijheid.
- Discrimination, Artificial Intelligence and Algorithmic Decision-Making Dit rapport behandelt de risico's van discriminatie die kunnen ontstaan als gevolg van besluitvorming door algoritmen en andere vormen van artificial intelligence (AI).
- Policy and investment recommendations for trustworthy Artificial Intelligence Het doel van deze publicatie is het bevorderen van de ontwikkeling van betrouwbare AI.
- Ethics guidelines for trustworthy AI De zeven richtlijnen die in dit document staan uitgewerkt zijn opgesteld door de expertgroup van de Europese Commissie en hebben als doel de betrouwbaarheid van AI-systemen te bevorderen.
- Guidelines for the Ethical Use of AI and Big Data Systems Dit rapport bevat richtlijnen voor de ontwikkeling en het gebruik van artificiële intelligentie en big data systemen binnen organisaties.
Rapporten en onderzoeken
5. Ethische en Juridische frameworks (2)
Relevante rapporten:
- Principled Artificial Intelligence: Mapping Concensus in Ethical and Rights-Based Approaches to Principles for AI Overzichtsstudie naar 36 verschillende prominente documenten met ethische en mensenrechtelijke AI principes.
- An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations AI4people presenteert in dit artikel een framework met 5 ethische principes en voorziet de lezer van 20 concrete aanbevelingen ('to assess, to develop, to incentivise, and to support good AI).
6. AI en mensenrechten (5)
Relevante rapporten:
- Artificial Intelligence & Human Rights: Opportunities & risks In dit rapport wordt de (mogelijke) impact van technologiën die gebruik maken van AI op mensenrechten verkend.
- Human rights in the robot age In dit rapport pleit het Rathenau Instituut voor een nieuw Europees verdrag met daarin twee nieuwe mensenrechten.
- Algoritmes en grondrechten Onderzoek van de Universiteit Utrecht naar de (mogelijke) aantasting van grondrechten in Nederland als gevolg van het gebruik van big data, het Internet of Things en kunstmatige intelligentie.
- Government report on information policy and artificial intelligence Dit rapport is opgesteld door het Finse ministerie van financiën en geeft inzicht in het informatiebeleid van Finland rondom (de inzet van) AI.
- Whitepaper - Juridische aspecten van AI & machine learning In dit whitepaper wordt ingegaan op uitdagingen die Artificial Intelligence (AI) en machine Iearning met zich meebrengen, bijvoorbeeld op het terrein van mensenrechten.
7. Algoritmes (6)
Relevante rapporten:
- Algorithms and values in justice and security Wetenschappelijk onderzoek naar de impact van algoritmes op de waardes binnen het domein van justitie en veiligheid.
- Government by Algorithm: Artificial Intelligence in Federal Administrative Agencies Dit rapport is opgesteld naar aanleiding van een groot onderzoek dat is uitgevoerd naar het gebruik van AI door de federale overheid van de Verenigde Staten.
- Onderzoek Vertrouwen van de Nederlandse burger in Algoritmes In dit document zijn de resultaten beschreven van een onderzoek naar het vertrouwen van Nederlandse burgers in algoritmen door KPMG.
- Algorithmic impact assessments: a practical framework for public agency accountability Rapport waarin een framework wordt gepresenteerd om de impact van algoritmen te kunnen onderzoeken.
- Verkennend onderzoek naar het gebruik van algoritmen binnen overheidsorganisaties Om na te gaan in hoeverre door overheidsorganisaties algoritmen worden ingezet heeft het ministerie van BZK een vragenlijst opgesteld en uitgezet onder ministeries, uitvoeringsorganisaties, provincies, gemeenten en waterschappen.
- Als computers je CV beoordelen, wie beoordeelt dan de computers Onderzoek naar algoritmes en discriminatie bij werving en selectie.
8. Desinformatie (4)
Relevante rapporten:
- Weaponizing the Digital Influence Machine. The Political Perils of Online Ad Tech In dit rapport worden technologieen, condities en tacktiek (denk aan profiling, fake news) beschreven die het mogelijk maken de media in te zetten als politiek (en anti-democratisch) middel.
- Dead Reckoning. Navigating Content Moderation After Fake News In dit New Data & Society rapport wordt ingegaan op het gebruik van fake news (nepnieuws) en worden vier mogelijke interventiestrategieën geanalyseerd.
- Media Manipulation and Disinformation Online Dit rapport gaat in op de effecten van de verspreiding van nepnieuws en misleidende informatie op de samenleving.
- Searching for Alternative Facts. Analyzing Scriptural Inference in Conservative News Practices Politieke opvattingen kunnen worden beïnvloed door de algoritmen die ten grondslag liggen aan diverse grote zoekmachines.
9. AI op de werkvloer (3)
Relevante rapporten:
- AI in context. The Labor of Integrating New Technologies In dit rapport wordt gekeken naar de impact van AI en automatisering op de samenleving.
- Monitor technologisering en arbeidsmarkt In dit rapport is een monitoringsysteem ontwikkeld voor het meten van de impact van technologisering (denk aan robots en AI) op de arbeidsmarkt.
- Robotisering en automatisering op de werkvloer Dit rapport van het Rathenau Instituut, in samenwerking met de Universiteit van Tilburg en de Erasmus Universiteit, laat zien voor welke keuzes bedrijven komen te staan bij de introductie van nieuwe digitale technologie.
10. AI in onderwijs (3)
Relevante rapporten:
- Laat waarden zwaarder wegen bij digitalisering In dit rapport van Kennisnet worden 3 ontwikkelingen uitgelicht die belangrijke onderwijswaarden beïnvloeden.
- Kunstmatige intelligentie (AI) in het onderwijs Dit rapport van Dialogyc beschrijft de (on)mogelijkheden van het gebruik van AI in het onderwijs.
- De vraag is wat wij willen, niet wat wij hadden gewild Document met daarin drie essays die gaan over het gebruik van artificial intelligence in het onderwijs.
11. AI in het mobiliteitsdomein (2)
Relevante rapporten:
- Mobiliteit en elektriciteit in het digitale tijdperk. Publieke waarden onder spanning Een van de domeinen waar digitalisering zich onmiskenbaar doet gelden is de infrastructuur. In dit signalenrapport verkent het PBL de gevolgen.
- Praise the Machine! Punish the Human! The Contradictory History of Accountability in Automated Aviation Wat gebeurt er wanneer een computer verantwoordelijk is voor een auto-ongeluk?
12. AI in de zorg (4)
Relevante rapporten:
- Digitale dokters - Een ethische verkenning van medische expertsystemen Zogeheten medische expertsystemen roepen ethische vragen op. In dit rapport wordt hierop gereflecteerd.
- Gezondheid centraal. Zorgvuldig data delen in de digitale samenleving Voor dit rapport onderzocht het Rathenau Instituut voorbeelden van digitale diensten waarmee patiënten en gezonde mensen data delen om hun gezondheid te verbeteren.
- Waarde(n)volle zorgtechnologie. Een verkennend advies over de kansen en risico’s van kunstmatige intelligentie in de zorg AI biedt kansen, maar is tegelijk niet waardenvrij.
- Digitale gezondheidsregie. Meer gegevens, meer grip? Het Rathenau Instituut heeft in dit onderzoek de kansen en uitdagingen van het streven naar digitale gezondheidsregie in kaart gebracht, in het bijzonder de implicaties voor maatschappelijke waarden en eigen regie op gezondheid.
13. AI in de publieke sector (2)
Relevante rapporten:
- Hello, World. Artificial intelligence and its use in the public sector Het gebruik van Artificiele Intelligentie biedt de publieke sector vele kansen.
- Opwaarderen. Borgen van publieke waarden in de digitale samenleving Dit rapport laat zien dat de overheid, de toezichthouders, het bedrijfsleven en de samenleving nog niet voldoende zijn toegerust om met de vragen van deze tijd rondom de digitale samenleving om te gaan.
14. Massa surveillance (1)
Relevante rapporten:
- Protecting Human Rights in the Age of Surveillance Verslag van een rondetafelsessie met experts (wetenschappers, juristen en mensenrechtenexperts) uit diverse landen over de bescherming van mensenrechten in een tijdperk waarin steeds meer surveillance plaatsvindt.