Kennisbank Kwaliteit Onbemenste Toepassingen

Wetgeving & afspraken

Het verlenen van financiële diensten moet plaatsvinden binnen de kaders van de wet en de afspraken die gelden voor de sector. Afhankelijk van de toepassing kunnen verschillende wetten van toepassing zijn, zoals de Wet financieel toezicht (Wft), de Algemene Verordening Gegevensbescherming (AVG) of Payment Services Directive 2 (PSD2). Daarnaast kunnen afspraken of richtlijnen vanuit de EU, nationaal of binnen de sector van toepassing zijn.

De Wft neemt een bijzondere plaats in. De Wft stelt in algemene zin waarborgen en uitgangspunten rond de kwaliteit van processen en advies. Bij de inzet van ICT binnen de processen gelden deze eisen dus ook voor de ontwikkeling van toepassingen.

Dit gedeelte van de kennisbank ontsluit informatie rond wetgeving, richtlijnen en afspraken.

Nr.	Titel	Omschrijving	Checklist thema('s)	Type content	Bron	Auteur(s)	Datum publicatie
2	Artificial Intelligence Impact Assesment	De Artificial Intelligence Impact Assessment (AIIA) bevat 8 concrete stappen voor organisaties om een AI assessment uit te voeren. Dit artikel van ECP beschrijft de 8 stappen die helpen bij het inzichtelijk maken van relevante juridische en ethische normen en afwegingen bij besluitvorming rondom de inzet van AI-toepassingen.	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	Whitepaper	ECP \| Platform voor de InformatieSamenleving		2018
4	Over kunstmatige intelligentie - een Europese benadering op basis van excellentie en vertrouwen	In het whitepaper stelt de Europese Commissie beleidsopties voor om de betrouwbare en veilige ontwikkeling van Artificial Intelligence in Europa mogelijk te maken, waarbij de waarden en rechten van de EU-burgers volledig worden gerespecteerd. Belangrijke stappen hierbij zijn het ontwikkelen van een ecosysteem van excellentie en een ecosysteem van vertrouwen.	Wetgeving en afspraken	Whitepaper	Europese Commissie		2020
6	Ethisch Kader	Het door het Verbond van verzekeraars opgesteld Ethisch Kader datagedreven besluitvorming vraagt van Nederlandse verzekeraars om een aantal extra checks te doen bij de inzet van moderne technologieën zoals bijvoorbeeld kunstmatige intelligentie, chatbots en automatische besluitvorming. Dit whitepaper beschrijft de 30 normen die verzekeraars dienen te volgen bij de ontwikkeling en inzet van datagedreven toepassingen. Het kader is gebaseerd op de door de EU benoemde zeven principes, om verantwoorde toepassingen te ontwikkelen (Menselijke autonomie en controle; Technische robuustheid en veiligheid; Privacy en data governance; Transparantie; Diversitiet, non-discriminatie en rechtvaardigheid; Matschappelijk welzijn; Verantwoording).	wetgeving en afspraken	Whitepaper	Verbond van Verzekeraars		2020
7	Introducing the responsible AI Design Assistant	AI Global is een (non-profit) samenwerkingsinitiatief dat zich ten doel stelt een gezamenlijk raamwerk op te zetten voor verantwoorde Artificial Intelligence toepassingen. Een van de aangeboden tools is de Design Assistent. De Responsible AI Design Assistant is een virtuele beoordeling die ontwerpers, ontwikkelaars en producteigenaren te helpen rekening te houden met de belangrijkste AI-uitdagingen langs vijf dimensies: 1. Accountability; 2. Explainability and Interpretability; 3. Data Quality; 4. Bias and Fairness; 5. Robustness. Daarnaast biedt de Design Assistent een geautomatiseerde rapportage van de ingevulde checklist inclusief aanbevelingen en verbeterpunten.	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	Tool	AI Global		2020
9	Artificiële Intelligentie in de verzekeringssector een verkenning	De Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB) voorzien een snel toenemende inzet van artificiële intelligentie (AI) in de Nederlandse verzekeringssector. Het is daarbij van belang dat AI wordt ingezet op een manier die verantwoord en in lijn is met de eisen rondom integere en beheerste bedrijfsvoering, productontwikkeling en zorgplicht. De AFM en DNB presenteren een verkenning met tien aandachtspunten waarop verdere verdieping noodzakelijk is.	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	Rapport	AFM en DNB		2019
13	Beter beschermd zakendoen op digitale platforms	In dit artikel van Computable worden de belangrijkste bepalingen uit de Europese P2B-verordening (Platform-to-Business) besproken. Eisen die worden gesteld zijn o.a. heldere en makkelijk te raadpegen algemene voorwaarden en transparantie bij vergelijkings- en boekingswebsites over ranking en zoekresultaten.	Wetgeving en afspraken	Artikel	Computable	Alfred Monterie	2020
15	In Europa groeit de roep om nieuwe ai-regelgeving	Artikel over de (meer dan 1200) reacties op een openbare raadpleging over het whitepaper over kunstmatige intelligentie waarin breedgedeelde zorgen rondom toepassing van AI worden uitgesproken.	Wetgeving en afspraken	Artikel	Computable	Alfred Monterie	2020
17	Consultatiereacite: voorgestelde transparantieregels in balans	Dit artikel beschrijft de reactie van Adfiz op het Wijzigingsbesluit Financiële Markten op hoofdlijnen. Adfiz geeft aan dat de gemiddelde klant voornamelijk gebaat is bij persoonlijk advies en verwacht een normstellend optreden van de toezichthouder ter bescherming van de klant. Ook het belang van het gelijkstellen van de eisen bij volledig geautomatiseerde adviesconcepten ten opzicht van persoonlijk advies wordt onderstreept om te voorkomen dat er een tweede doe-het-zelf kanaal komt waarin consumenten zich onterecht veilig wanen.	Wetgeving en afspraken	Artikel	Adfiz	Ludger de Bruin	2020
18	AP akkoord met privacy-code voor ict-sector	De Autoriteit Persoonsgegevens (AP) heeft de privacy-gedragscode Data Pro Code van branche-organisatie NLdigital goedgekeurd. De ict-branche is daarmee de eerste sector met een eigen certificering en praktische standaarden voor het waarborgen van privacy bij dataverwerking. Er is intensief samengewerkt tussen de branchevereniging en de privacy-toezichthouder. Dit artikel beschrijft dit initiatief op hoofdlijnen en de totstandkoming ervan.	Wetgeving en afspraken	Artikel	NLdigital		2020
19	Data Pro Code	De Data Pro Code is een nadere uitwerking van de verplichtingen voor data processors (verwerkers) op grond van artikel 28 van de AVG. De Data Pro Code is van toepassing op verwerkingen in Nederland. De Data Pro Code geeft concrete gedragsregels voor verwerkers. De kern daarvan vormen de informatieplichten voor de data processor en de verantwoording door middel van toezicht. Dit artikel beschrijft de principes en de uitgangspunten en geeft toegang tot een kennisbank van verschillende artikelen over de AVG.	Wetgeving en afspraken	Artikel	NLdigital		2020
20	Verzekeraars: 'Computer mag niet bepalen of verzekeren kan'	Interview met Richard Weurding (directeur Verbond van Verzekeraars) over het door het Verbond opgestelde 'Ethisch Kader' over de toepassing van AI bij het tot stand komen van een verzekering.	Wetgeving en afspraken	Artikel	VNO NCW	Judith Katz	2020
21	Ethics guidelines for trustworthy AI	De ethische richtlijnen voor betrouwbare AI is een document waarin de zeven belangrijkste eisen staan waaraan het AI systeem moet voldoen om betrouwbaar te zijn, voor alle belanghebbenden in de levenscyclus van het AI systeem: ontwikkelaars, gebruikers, eindgebruikers en de maatschappij.	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	Whitepaper	Europese Commissie		2018
22	Data Ethics Decision Aid (DEDA)	DEDA helpt data-analisten, projectmanagers en beleidsmakers om ethische problemen in dataprojecten, datamanagement en databeleid te herkennen. DEDA is ontwikkeld door de Utrecht Data School en bestaat uit een toolkit die helpt bij het in kaart brengen van ethische kwesties bij dataprojecten, bij het documenteren van het beraadslagingsproces en bij de bevordering van de verantwoording aan de diverse stakeholders en het publiek.	Wetgeving en afspraken; Risico's van de toepassing	Toolkit; Workshop	Utrecht Data School		2019
23	AI in Control	KPMG voorziet organisaties van advies en audits over de werking van AI systemen. AI In Control is een set van op maat gemaakte diensten om AI gecontroleerd en beheerst te implementeren: AI risk assessment, Algoritme-review, AI In Control walk along en AI Volwassenheidsscan. Met deze diensten voert KPMG onafhankelijke reviews uit en legt (mogelijke) kwetsbaarheden en risico’s bloot. In dit artikel worden voor de verschillende diensten van KPMG de inhoud en resultaten uiteengezet.	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	Artikel	KPMG		2020
24	Ethische code Artificial intelligence	De ethische gedragscode van NLdigital bestaat uit 8 algemene uitgangspunten voor de ICT-sector. Het is een verdieping op de 7 principes en richtsnoeren van de EU, geldend voor de leden van de NLdigital (digitale sector in Nederland).	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	Artikel	NLdigital		2020
25	Het Algoritme Keurmerk	Het algoritme keurmerk heeft als doel om de transparantie en de zekerheid op het gebied van algoritmes te vergroten. Dit toetsingskader is ontwikkeld door VKA en Totta Data Lab en helpt organisaties bij het toetsen of het algoritme goed is gebouwd, goed wordt beheerd en goed wordt gebruikt. Het toetsingskader kent 8 onderdelen, waarin 60 taktische en opterationele richtlijnen worden beschreven. Dit artikel geeft algemene uitleg over het algoritme keurmerk.	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	Artikel	VKA & Totta Data Lab		2018
26	FRR Quality Mark for Robotics & Artificial Intelligence	Het doel van het FRR Quality Mark for Robotics & Artificial Intelligence keurmerk is ervoor te zorgen dat robots en op AI gebaseerde producten op een verantwoorde manier worden ontwikkeld, waarbij rekening wordt gehouden met mensenrechten en waarden. Dit keurmerk is ontwikkeld door Deloitte & Foundation for Responsible Robotics. Dit artikel beschrijft de ontwikkeling van het framework dat hieraan ten grondslag ligt.	Wetgeving en afspraken; Risico's van de toepassing	Artikel	Deloitte & Foundation for Responsible Robotics		2018
50	Examen voor de Robo-adviseur?	In dit whitepaper beschrijft SIVI een verkenning naar de invoering van een branchebreed kwaliteitssysteem voor toetsing van autonome toepassingen. Het kwaliteitssysteem moet een normenkader bieden voor het borgen van het klantbelang rond de inzet van autonome toepassingen. Het doel is tweeledig: aantoonbaar voldoen aan de wetgeving en borgen van de juiste inzet van de technologie. SIVI start met dit paper de discussie over de invulling van het kwaliteitssysteem.	Wetgeving en afspraken; Risico's van de toepassing; Testen; Herleidbaarheid; Monitoren	whitepaper	SIVI		2017
51	Wet op het financieel toezicht	De Wet op het financieel toezicht (Wft) beschrijft een groot aantal regels en voorschriften voor de financiële markten en het toezicht daarop. Het toezicht op financiële ondernemingen is daarmee voor een groot deel geregeld in één wet.	Wetgeving en afspraken	wettekst			2018
52	Algemene informatie AVG	De Algemene Verordening Gegevensbescherming (AVG) is een Europese verordening die de regels voor de verwerking van persoonsgegevens door particuliere bedrijven en overheidsinstanties in de hele Europese Unie standaardiseert. De AVG is ook wel bekend onder de Engelse naam: General Data Protection Regulation (GDPR).	Wetgeving en afspraken	wettekst			2018
70	Algorithmic Impact Assessment (AIA)	De AIA is een initiatief van de Canadesche overheid. Een vragenlijst die is ontworpen om te helpen bij het beoordelen en beperken van de risico's die gepaard gaan met het implementeren van een geautomatiseerd beslissingssysteem. De AIA helpt ook bij het identificeren van het impactniveau van een geautomatiseerde besluitvormingssysteem volgens de richtlijn inzake geautomatiseerde besluitvorming.	Wetgeving en afspraken	tool	Canada Government		2020