Kennisbank Kwaliteit Onbemenste Toepassingen

Gerelateerde initiatieven

Home Kennisbank  |  Algemeen  |  Wetgeving & afspraken  |  Risico’s vanuit de toepassing  |  Testen  |  Herleidbaarheid  |  Monitoren  |  Gerelateerde initiatieven

SIVI houdt ontwikkelingen bij van initiatieven die gerelateerd zijn aan of raakvlakken hebben met de Checklist Onbemenste Toepassingen. Doel is om overzicht te houden van het landschap, ontwikkelingen te blijven volgen, leerervaringen op te doen en waar mogelijk hierop aan te sluiten.

Per initiatief geeft de ‘Infographic‘ een snel en leesbaar overzicht in de volgende elementen:

  • Algemene informatie, Omschrijving en Kenmerken
  • Raakvlakken met de Checklist:
    • Inmiddels beschikbaar of nog in ontwikkeling.
    • Direct gericht op eindklanten (zichtbaarheid door keurmerken, labels, registers) of gericht op organisaties (kaders, normen en richtlijnen om als organisatie intern toe te passen).

‘Raakvlakken met de Checklist’ worden vanuit twee perspectieven bekeken: in hoeverre de inhoud van de thema’s overeenkomen tussen de Checklist en het initiatief; in welke mate van diepgang de thema’s aan bod komen in het initiatief.

Nr. Initiatief Infographic Omschrijving Bron Link
2 Artificial Intelligence Impact Assessment De Artificial Intelligence Impact Assessment (AIIA) bevat 8 concrete stappen voor organisaties om een AI assessment uit te voeren. Dit artikel van ECP beschrijft de 8 stappen die helpen bij het inzichtelijk maken van relevante juridische en ethische normen en afwegingen bij besluitvorming rondom de inzet van AI-toepassingen. ECP | Platform voor de InformatieSamenleving
6 Ethisch Kader Het door het Verbond van verzekeraars opgesteld Ethisch Kader datagedreven besluitvorming vraagt van Nederlandse verzekeraars om een aantal extra checks te doen bij de inzet van moderne technologieën zoals bijvoorbeeld kunstmatige intelligentie, chatbots en automatische besluitvorming. Dit whitepaper beschrijft de 30 normen die verzekeraars dienen te volgen bij de ontwikkeling en inzet van datagedreven toepassingen. Het kader is gebaseerd op de door de EU benoemde zeven principes, om verantwoorde toepassingen te ontwikkelen (Menselijke autonomie en controle; Technische robuustheid en veiligheid; Privacy en data governance; Transparantie; Diversitiet, non-discriminatie en rechtvaardigheid; Matschappelijk welzijn; Verantwoording). Verbond van Verzekeraars
19 Data Pro Code De Data Pro Code is een nadere uitwerking van de verplichtingen voor data processors (verwerkers) op grond van artikel 28 van de AVG. De Data Pro Code is van toepassing op verwerkingen in Nederland. De Data Pro Code geeft concrete gedragsregels voor verwerkers. De kern daarvan vormen de informatieplichten voor de data processor en de verantwoording door middel van toezicht. Dit artikel beschrijft de principes en de uitgangspunten en geeft toegang tot een kennisbank van verschillende artikelen over de AVG. NLdigital
21 Ethic guidelines for trustworthy AI De ethische richtlijnen voor betrouwbare AI is een document waarin de zeven belangrijkste eisen staan waaraan het AI systeem moet voldoen om betrouwbaar te zijn, voor alle belanghebbenden in de levenscyclus van het AI systeem: ontwikkelaars, gebruikers, eindgebruikers en de maatschappij. Europese Commissie
22 Data Ethics Decision Aid (DEDA) DEDA helpt data-analisten, projectmanagers en beleidsmakers om ethische problemen in dataprojecten, datamanagement en databeleid te herkennen. DEDA is ontwikkeld door de Utrecht Data School en bestaat uit een toolkit die helpt bij het in kaart brengen van ethische kwesties bij dataprojecten, bij het documenteren van het beraadslagingsproces en bij de bevordering van de verantwoording aan de diverse stakeholders en het publiek. Utrecht Data School
23 AI in Control KPMG voorziet organisaties van advies en audits over de werking van AI systemen. AI In Control is een set van op maat gemaakte diensten om AI gecontroleerd en beheerst te implementeren: AI risk assessment, Algoritme-review, AI In Control walk along en AI Volwassenheidsscan. Met deze diensten voert KPMG onafhankelijke reviews uit en legt (mogelijke) kwetsbaarheden en risico’s bloot. In dit artikel worden voor de verschillende diensten van KPMG de inhoud en resultaten uiteengezet. KPMG
24 Ethische code Artificial intelligence De ethische gedragscode van NLdigital bestaat uit 8 algemene uitgangspunten voor de ICT-sector. Het is een verdieping op de 7 principes en richtsnoeren van de EU, geldend voor de leden van de NLdigital (digitale sector in Nederland). NLdigital
25 Het Algoritme Keurmerk Het algoritme keurmerk heeft als doel om de transparantie en de zekerheid op het gebied van algoritmes te vergroten. Dit toetsingskader is ontwikkeld door VKA en Totta Data Lab en helpt organisaties bij het toetsen of het algoritme goed is gebouwd, goed wordt beheerd en goed wordt gebruikt. Het toetsingskader kent 8 onderdelen, waarin 60 taktische en opterationele richtlijnen worden beschreven. Dit artikel geeft algemene uitleg over het algoritme keurmerk. VKA & Totta Data Lab
26 FRR Quality Mark for Robotics & Artificial Intelligence Het doel van het FRR Quality Mark for Robotics & Artificial Intelligence keurmerk is ervoor te zorgen dat robots en op AI gebaseerde producten op een verantwoorde manier worden ontwikkeld, waarbij rekening wordt gehouden met mensenrechten en waarden. Dit keurmerk is ontwikkeld door Deloitte & Foundation for Responsible Robotics. Dit artikel beschrijft de ontwikkeling van het framework dat hieraan ten grondslag ligt. Deloitte & Foundation for Responsible Robotics
27 Open Ethics (Label) Open Ethics beheert en host projecten die bijdragen aan het transparantie-ecosysteem voor AI toepassingen. Enige afgerond project is Label. Label is een set van iconen, bedoeld om informatie te verstrekken over trainingsdata, broncode en soort beslissing, om transparantie te brengen en vertrouwen te vergroten bij gebruikers. Via een online tool kan een Open Ethics Label automatisch worden gegenereerd. Andere projecten (in ontwikkeling): Transparency Protocol, Explainability Protocol en Maturity Model. Open Ethics
28 Algoritmewijzer De Algoritmewijzer informeert de gebruiker van een onlinedienst snel en overzichtelijk wanneer er een algoritme wordt gebruikt. Naar analogie van de Kijkwijzer krijgen gebruikers doormiddel van symbolen in één oogopslag inzicht in de belangrijkste kenmerken van het algoritme en de gebruikte data. Doel is om Bewustwording en kennis bij burgers vergroten rond de inzet van algoritmes. Voor orgnisaties geeft het invulling te geven aan de maatschappelijke verantwoording rondom de inzet van data en algoritmes. InnoValor
29 Algoritmeregister Het algoritmeregister geeft overzicht van de algoritmes die een organisatie gebruikt bij haar dienstverlening. Het algoritmeregister beschrijft het doel, de werking van en gedetailleerde technische informatie over het algoritme. Gemeente Amsterdam heeft samen met Helsinki het register ontwikkeld en toegepast op haar eigen dienstverlening. Doel is om dit breder in te zetten binnen de overheid. Gemeente Amsterdam
30 Aanpak voor audits van algoritmische software De NOREA-kennisgroep Algorithm & Assurance doet onderzoek naar de mogelijke rol van de IT-auditor bij de toetsing van op Artificial Intelligence (AI) gebaseerde toepassingen en probeert daarvoor een handreiking of controleprotocol te ontwikkelen. NOREA
70 Toetsingskader Algoritmes Het toetsingskader ‘Aandacht voor algoritmes’ is een praktische  check om te toetsen of algoritmes aan bepaalde kwaliteitscriteria voldoen én of de risico’s voldoende in beeld zijn en/of worden beperkt. Met een vertaling van normenkaders en richtlijnen naar verschillende aspecten waarop algoritmes kunnen worden getoetst. Algemene Rekenkamer
71 Algorithmic Impact Assessment (AIA) De AIA is een initiatief van de Canadesche overheid. Een vragenlijst die is ontworpen om te helpen bij het beoordelen en beperken van de risico’s die gepaard gaan met het implementeren van een geautomatiseerd beslissingssysteem. De AIA helpt ook bij het identificeren van het impactniveau van een geautomatiseerde besluitvormingssysteem volgens de richtlijn inzake geautomatiseerde besluitvorming. Canada Government