Kennisbank Kwaliteit Onbemenste Toepassingen

Gerelateerde initiatieven

SIVI houdt ontwikkelingen bij van initiatieven die gerelateerd zijn aan of raakvlakken hebben met de Checklist Onbemenste Toepassingen. Doel is om overzicht te houden van het landschap, ontwikkelingen te blijven volgen, leerervaringen op te doen en waar mogelijk hierop aan te sluiten.

Per initiatief geeft de ‘Infographic‘ een snel en leesbaar overzicht in de volgende elementen:

Algemene informatie, Omschrijving en Kenmerken
Raakvlakken met de Checklist:
- Inmiddels beschikbaar of nog in ontwikkeling.
- Direct gericht op eindklanten (zichtbaarheid door keurmerken, labels, registers) of gericht op organisaties (kaders, normen en richtlijnen om als organisatie intern toe te passen).

‘Raakvlakken met de Checklist’ worden vanuit twee perspectieven bekeken: in hoeverre de inhoud van de thema’s overeenkomen tussen de Checklist en het initiatief; in welke mate van diepgang de thema’s aan bod komen in het initiatief.

Nr.	Initiatief	Infographic	Omschrijving	Bron	Link
2	Artificial Intelligence Impact Assessment		De Artificial Intelligence Impact Assessment (AIIA) bevat 8 concrete stappen voor organisaties om een AI assessment uit te voeren. Dit artikel van ECP beschrijft de 8 stappen die helpen bij het inzichtelijk maken van relevante juridische en ethische normen en afwegingen bij besluitvorming rondom de inzet van AI-toepassingen.	ECP \| Platform voor de InformatieSamenleving
6	Ethisch Kader		Het door het Verbond van verzekeraars opgesteld Ethisch Kader datagedreven besluitvorming vraagt van Nederlandse verzekeraars om een aantal extra checks te doen bij de inzet van moderne technologieën zoals bijvoorbeeld kunstmatige intelligentie, chatbots en automatische besluitvorming. Dit whitepaper beschrijft de 30 normen die verzekeraars dienen te volgen bij de ontwikkeling en inzet van datagedreven toepassingen. Het kader is gebaseerd op de door de EU benoemde zeven principes, om verantwoorde toepassingen te ontwikkelen (Menselijke autonomie en controle; Technische robuustheid en veiligheid; Privacy en data governance; Transparantie; Diversitiet, non-discriminatie en rechtvaardigheid; Matschappelijk welzijn; Verantwoording).	Verbond van Verzekeraars
19	Data Pro Code		De Data Pro Code is een nadere uitwerking van de verplichtingen voor data processors (verwerkers) op grond van artikel 28 van de AVG. De Data Pro Code is van toepassing op verwerkingen in Nederland. De Data Pro Code geeft concrete gedragsregels voor verwerkers. De kern daarvan vormen de informatieplichten voor de data processor en de verantwoording door middel van toezicht. Dit artikel beschrijft de principes en de uitgangspunten en geeft toegang tot een kennisbank van verschillende artikelen over de AVG.	NLdigital
21	Ethic guidelines for trustworthy AI		De ethische richtlijnen voor betrouwbare AI is een document waarin de zeven belangrijkste eisen staan waaraan het AI systeem moet voldoen om betrouwbaar te zijn, voor alle belanghebbenden in de levenscyclus van het AI systeem: ontwikkelaars, gebruikers, eindgebruikers en de maatschappij.	Europese Commissie
22	Data Ethics Decision Aid (DEDA)		DEDA helpt data-analisten, projectmanagers en beleidsmakers om ethische problemen in dataprojecten, datamanagement en databeleid te herkennen. DEDA is ontwikkeld door de Utrecht Data School en bestaat uit een toolkit die helpt bij het in kaart brengen van ethische kwesties bij dataprojecten, bij het documenteren van het beraadslagingsproces en bij de bevordering van de verantwoording aan de diverse stakeholders en het publiek.	Utrecht Data School
23	AI in Control		KPMG voorziet organisaties van advies en audits over de werking van AI systemen. AI In Control is een set van op maat gemaakte diensten om AI gecontroleerd en beheerst te implementeren: AI risk assessment, Algoritme-review, AI In Control walk along en AI Volwassenheidsscan. Met deze diensten voert KPMG onafhankelijke reviews uit en legt (mogelijke) kwetsbaarheden en risico’s bloot. In dit artikel worden voor de verschillende diensten van KPMG de inhoud en resultaten uiteengezet.	KPMG
24	Ethische code Artificial intelligence		De ethische gedragscode van NLdigital bestaat uit 8 algemene uitgangspunten voor de ICT-sector. Het is een verdieping op de 7 principes en richtsnoeren van de EU, geldend voor de leden van de NLdigital (digitale sector in Nederland).	NLdigital
25	Het Algoritme Keurmerk		Het algoritme keurmerk heeft als doel om de transparantie en de zekerheid op het gebied van algoritmes te vergroten. Dit toetsingskader is ontwikkeld door VKA en Totta Data Lab en helpt organisaties bij het toetsen of het algoritme goed is gebouwd, goed wordt beheerd en goed wordt gebruikt. Het toetsingskader kent 8 onderdelen, waarin 60 taktische en opterationele richtlijnen worden beschreven. Dit artikel geeft algemene uitleg over het algoritme keurmerk.	VKA & Totta Data Lab
27	Open Ethics (Label)		Open Ethics beheert en host projecten die bijdragen aan het transparantie-ecosysteem voor AI toepassingen. Enige afgerond project is Label. Label is een set van iconen, bedoeld om informatie te verstrekken over trainingsdata, broncode en soort beslissing, om transparantie te brengen en vertrouwen te vergroten bij gebruikers. Via een online tool kan een Open Ethics Label automatisch worden gegenereerd. Andere projecten (in ontwikkeling): Transparency Protocol, Explainability Protocol en Maturity Model.	Open Ethics
28	Algoritmewijzer		De Algoritmewijzer informeert de gebruiker van een onlinedienst snel en overzichtelijk wanneer er een algoritme wordt gebruikt. Naar analogie van de Kijkwijzer krijgen gebruikers doormiddel van symbolen in één oogopslag inzicht in de belangrijkste kenmerken van het algoritme en de gebruikte data. Doel is om Bewustwording en kennis bij burgers vergroten rond de inzet van algoritmes. Voor orgnisaties geeft het invulling te geven aan de maatschappelijke verantwoording rondom de inzet van data en algoritmes.	InnoValor
29	Algoritmeregister		Het algoritmeregister geeft overzicht van de algoritmes die een organisatie gebruikt bij haar dienstverlening. Het algoritmeregister beschrijft het doel, de werking van en gedetailleerde technische informatie over het algoritme. Gemeente Amsterdam heeft samen met Helsinki het register ontwikkeld en toegepast op haar eigen dienstverlening. Doel is om dit breder in te zetten binnen de overheid.	Gemeente Amsterdam
70	Toetsingskader Algoritmes		Het toetsingskader ‘Aandacht voor algoritmes’ is een praktische check om te toetsen of algoritmes aan bepaalde kwaliteitscriteria voldoen én of de risico’s voldoende in beeld zijn en/of worden beperkt. Met een vertaling van normenkaders en richtlijnen naar verschillende aspecten waarop algoritmes kunnen worden getoetst.	Algemene Rekenkamer
71	Algorithmic Impact Assessment (AIA)		De AIA is een initiatief van de Canadesche overheid. Een vragenlijst die is ontworpen om te helpen bij het beoordelen en beperken van de risico’s die gepaard gaan met het implementeren van een geautomatiseerd beslissingssysteem. De AIA helpt ook bij het identificeren van het impactniveau van een geautomatiseerde besluitvormingssysteem volgens de richtlijn inzake geautomatiseerde besluitvorming.	Canada Government