Kennisbank Kwaliteit Onbemenste Toepassingen

Algemeen

Geheel geautomatiseerde processen (onbemenste toepassingen) zijn gemeengoed binnen de financiële dienstverlening. Van het afsluiten van een verzekering tot het uitbrengen van een advies. Om de kwaliteit te borgen bij de ontwikkeling van deze toepassingen komen veel disciplines bij elkaar. Een breed en redelijk diepgaand kennisniveau rond de verschillende onderwerpen is noodzakelijk om de kwaliteit van de ontwikkeling en het onderhoud van deze toepassingen te kunnen borgen. Dit betreft o.a. juridische- (wetgeving die van toepassing is), technologische- (de risico’s die deze toepassingen met zich meebrengen) en ethische (borging van waarden en normen) expertise. Tegelijkertijd is de inzet van onbemenste toepassingen binnen de verzekeringssector een groeiend werkgebied waar nog veel leereffecten optreden. Met deze nieuwe inzichten zijn de eisen en aandachtspunten rond de kwaliteit van deze toepassingen steeds aan verandering onderhevig.

Dit algemene gedeelte van de Kennisbank geeft een overzicht van actualiteiten en de laatste ontwikkelingen rond de borging van kwaliteit van onbemenste toepassingen.

Nr. Titel Link Omschrijving Checklist thema('s) Type content Bron Auteur(s) Datum publicatie
8 A Unified Framework of Five Principles for AI in Society Dit paper bevat een vergelijkende analyse van zes recente initiatieven op het gebied van sociaal verantwoorde AI. Vanuit de vergelijking wordt een overkoepelend raamwerk geïdentificeerd dat bestaat uit vijf kernprincipes voor ethische AI: weldadigheid, niet-kwaadwilligheid, autonomie, rechtvaardigheid en verklaarbaarheid. Waarbij verklaarbaarheid onderscheidt maakt tussen begrijpelijkheid als verantwoordelijkheid. Algemeen Paper Harvard Data Science Initiative Luciano Floridi and Josh Cowls 2019
10 Consultatie Wijzigingsbesluit financiële markten 2021 Dit besluit is een verzamelbesluit waarmee wijzigingen worden aangebracht in het Besluit Gedragstoezicht financiële ondernemingen Wft (BGfo), het Besluit prudentiële regels Wft (Bpr), het Besluit financiële markten BES, alsmede enige andere besluiten op het terrein van de financiële markten. In het besluit komt "geautomatiseerd advies" (Artikel 32dd) nadrukkelijk aan de orde. Algemeen AMvB Ministerie van Financiën 2020
12 NEN lanceert Platform Artificial Intelligence Het normalisatie-instituut NEN heeft het Platform Artificial Intelligence opgericht. Deelnemers daaraan hebben geen directe invloed op de internationale standaarden, maar kunnen wel input leveren via de normcommissie AI & Big Data. Als klankbordgroep worden de leden periodiek om advies gevraagd over de standaarden. Algemeen Artikel Computable Alfred Monterie 2020
14 Ahold Delhaize jaagt op vooroordeel in algoritmes In dit artikel van Computable wordt uiteengezet hoe Ahold invulling geeft aan het voorkomen van mogelijke vooringenomenheid bij het toepassen van algoritmes. Het verantwoord gebruik van data vereist een holistische aanpak en vraagt van een team niet alleen technische kennis, maar ook perspectieven vanuit andere wetenschappen dienen betrokken te worden, zoals gedragswetenschappers, sociologen en filosofen. Algemeen Artikel Computable Alfred Monterie 2020
16 CFD: Transparantie-eisen moeten gelden voor iedereen In het artikel reageert de Commissie Financiële Dienstverlening (CFD) op het Wijzigingsbesluit Financiële Markten. Over het onderdeel 'geautomatiseerd advies' geeft CFD aan dat goede stappen zijn gezet op het gebied van bescherming van de consument en verbeteren van het gelijke speelveld. CFD vraagt verder om extra aandacht voor het gevaar van hacks (i.v.m. gevoelige consumentendata), onafhankelijke systeemcontroles en de wijze waarop wordt omgegaan met technische fouten. Algemeen Artikel AM 2020
30 Aanpak voor audits van algoritmische software De NOREA-kennisgroep Algorithm & Assurance doet onderzoek naar de mogelijke rol van de IT-auditor bij de toetsing van op Artificial Intelligence (AI) gebaseerde toepassingen en probeert daarvoor een handreiking of controleprotocol te ontwikkelen. Algemeen Artikel NOREA 2020
31 Europese ai-gemeenschap Ellis officieel van start Het European Laboratory for Learning and Intelligent Systems (Ellis) is een samenwerking op het gebied van ai- en machine learning-onderzoek tussen dertig onderzoeksgroepen van Europese universiteiten. Europa hoopt zo de achterstand op de VS en China op ai-gebied in te halen. De aangesloten universiteiten willen talentvolle studenten behouden voor Europese onderzoeksprojecten door een hoogwaardig uitwisselings- en onderzoeksprogramma aan te bieden. Algemeen Artikel Computable 2020