© 2024 SURF
De Nederlandse financiële sector is één van de vier grote sectoren waar AI wordt toegepast [CBS2021]. Zo maken de verzekeraars betrokken bij onze praktijkpartners MavenBlue en het Verbond van Verzekeraars gebruik van digitale differentiatie (DD): het gebruik van zelflerende algoritmes om het financieel risico per klant te bepalen; op dit risico baseren verzekeraars de premiehoogte en of ze de klant aannemen of weigeren. Verzekeraars willen zo het rendement van hun producten bewaken zodat ze de financiële duurzaamheid van hun bedrijf kunnen waarborgen. Tegelijk, willen ze dat het onderscheid dat ze maken eerlijk is (m.a.w. niet discriminerend) zodat ze wetgeving volgen en boetes en imagoschade voorkomen. Bovendien, vanuit de wetgever, toezicht en de samenleving neemt de druk toe om de eerlijkheid van digitale differentiatie te kunnen verantwoorden. Dit roept de vraag op:
hoe kunnen verzekeraars digitale premie-differentiatie verantwoorden vanuit zowel eerlijkheid als rendement?
Voor onze praktijkpartners is het een uitdaging op deze vraag een antwoord te vinden doordat het een integratie vraagt van wetgeving, ethiek en techniek in huidige werkprocessen. Daarom volgt ons onderzoek een ‘design science’-aanpak: we ontwerpen een methode om DD te verantwoorden en gebruiken deze methode om de behoeftes scherp te krijgen vanuit verzekeraars en software. Dit doen we door middel van interviews, een literatuurstudie, ontwerp en vier co-design workshops waar de praktijkpartners de methode evalueren en hun behoeftes aangeven. Het resultaat van dit onderzoek is tweeledig: een methode om DD te verantwoorden en een evaluatie van deze methode in termen van de behoeftes van de praktijk. Dit is relevant voor een bredere validatie van de methode in een RAAK en direct relevant voor de praktijkpartners zodat ze boetes en imagoschade voorkomen en voor de maatschappij om discriminatie door zelflerende algoritmes te doorgronden en te voorkomen.