Fin-X: Naar een betekenisvolle uitleg van AI-toepassingen

Uitlegbaarheid van de uitkomsten en werking van artificiële intelligentie (AI) toepassingen is een belangrijke voorwaarde om vertrouwen van consumenten en maatschappij in AI-toepassingen te borgen, zeker in de financiële sector. In dit project ontwikkelen we hulpmiddelen om uitkomsten van complexe AI-toepassingen om te zetten naar een begrijpelijke uitleg voor medewerkers zoals klantacceptanten en schadebehandelaren. Dat is van belang omdat deze medewerkers met de klant communiceren en in staat moeten zijn om die een uitleg te geven bijvoorbeeld als de schadeclaim van een klant wordt afgewezen, omdat die door een AI-toepassing als frauduleus is bestempeld. 

Het project heeft tot doel een concrete bijdrage te leveren aan de implementatie van effectieve en mensgerichte AI-toepassingen door hulpmiddelen te ontwikkelen die interne gebruikers van die AI-toepassingen meer en beter inzicht geven in de werking en uitkomsten ervan.

Handreiking user interface design van uitlegbare AI: download het paper hier. 



Nieuwe AI-systemen moeten gebruikers goede uitleg geven over hoe het systeem tot uitkomst komt. Uitlegbaarheid van AI is namelijk een harde eis vanuit zowel de AVG als de AI Act. Voor ontwerpers en ontwikkelaars is dit een uitdaging: het is niet altijd voor de hand liggend hoe uitleg moet worden toegevoegd in een systeem. Dit whitepaper biedt daarom praktische voorbeelden en tips hoe men kan zorgen voor goede uitzetbaarheid. Allereerst worden de eisen aan uitleg uitgelegd en vervolgens worden vier manieren uitgelegd om uitleg te presenteren. Voor elke manier worden voorbeeld-ontwerpen getoond en tips gegeven hoe de uitlegmethode goed toe te passen is. 



Het paper is ontwikkeld in het FIN-X project, dat gericht was op systemen in de financiële sector. In het whitepaper wordt daarom een voorbeeld gebruikt van fraude-detectie op verzekeringen en ook het beoordelen van leningaanvragen. De ontwerpen en tips kunnen echter ook gebruikt worden voor hele andere systemen.

Het project volgt een design science aanpak waarbij op basis van behoeften uit de praktijk en al beschikbare kennis artefacten worden ontwikkeld. De artefacten in dit project zijn de handreikingen die bij resultaten zijn beschreven.