Utrecht, 20 juli 2022
De nieuwe release van de SIVI Checklist Onbemenste Toepassingen bevat een nieuw onderdeel over uitlegbaarheid. De universiteit van Leiden heeft samen met SIVI onderzoek gedaan naar ‘Explainable AI’ binnen de financiële dienstverlening. De uitkomsten van het onderzoek zijn samengevat in een paper en verwerkt in de checklist.
Artificial intelligence (AI) is een krachtige techniek in de IT die men op steeds meer terreinen inzet. Ook binnen de financiële dienstverlening. Met de toenemende populariteit komen ook vragen. Verstaan we allemaal hetzelfde onder AI? Kunnen mensen nog uitleggen of herleiden wat een AI-toepassing heeft gedaan? Hoe zit het met de vooringenomenheid van een AI-toepassing? In de paper ‘A checklist for Explainable AI in the Insurance Domain’ gaan de auteurs dieper op dit soort vragen in. Ook leggen zij het dilemma bloot tussen uitlegbaarheid en accuraatheid. Hoe innovatiever de AI-toepassing, hoe groter de accuraatheid wordt. Tegelijkertijd neemt de uitlegbaarheid af.
Peter Mols (Directeur SIVI): “Met de toenemende inzet van volledig geautomatiseerde toepassingen binnen onze sector, groeit ook het belang om uit te kunnen leggen hoe resultaten tot stand zijn gekomen. Dit krijgt de komende periode nog eens extra nadruk door nieuwe Europese regelgeving, zoals de AI Act met veel aandacht voor transparantie en uitlegbaarheid. Met de nieuwe release van de Checklist-OT sluiten wij hier bij aan en maken we als sector een eerste stap.”
Naast het nieuwe onderdeel ‘Uitlegbaarheid’ zijn er op basis van feedback van gebruikers vele inhoudelijke aanvullingen en verbeteringen in de Checklist-OT doorgevoerd. Inmiddels gebruiken ruim 35 organisaties met meer dan 50 accounts de Checklist-OT voor kwaliteitsborging rond onbemenste toepassingen binnen de financiële dienstverlening.
Voor wie?
De Checklist-OT biedt een gestandaardiseerde werkwijze om inzichtelijk te maken hoe een organisatie tijdens ontwikkeling, gebruik en beheer omgaat met de kwaliteit van een onbemenste toepassing binnen de financiële dienstverlening. De Checklist-OT houdt hierbij rekening met actuele wetgeving, regelgeving en technologische thema’s. De Checklist-OT is (gratis) beschikbaar voor alle organisaties die onbemenste toepassingen ontwikkelen voor klant en/of adviseur. Voorbeelden zijn (deel)toepassingen voor: risico-inventarisatie, premieberekening/vergelijking, acceptatie/aanvragen/mutaties, advies, schadeafhandeling, fraudedetectie/signalering, chatbot en virtual assistant.
De paper ‘A checklist for Explainable AI in the Insurance Domain’ is te downloaden via: https://www.sivi.org/actueel/publicatie-a-checklist-for-explainable-ai-in-the-insurance-domain/.
Informatie
Meer informatie is te vinden op www.sivi.org/platform-kwaliteit-onbemenste-toepassingen/ of op te vragen via checklist-ot@sivi.org.