Doorgrond Discriminatie Digitale Differentiatie

De Nederlandse financiële sector is één van de vier grote sectoren waar AI wordt toegepast [CBS2021]. Zo maken de verzekeraars betrokken bij onze praktijkpartners MavenBlue en het Verbond van Verzekeraars gebruik van digitale differentiatie (DD): het gebruik van zelflerende algoritmes om het financieel risico per klant te bepalen; op dit risico baseren verzekeraars de premiehoogte en of ze de klant aannemen of weigeren. Verzekeraars willen zo het rendement van hun producten bewaken zodat ze de financiële duurzaamheid van hun bedrijf kunnen waarborgen. Tegelijk, willen ze dat het onderscheid dat ze maken eerlijk is (m.a.w. niet discriminerend) zodat ze wetgeving volgen en boetes en imagoschade voorkomen. Bovendien, vanuit de wetgever, toezicht en de samenleving neemt de druk toe om de eerlijkheid van digitale differentiatie te kunnen verantwoorden. Dit roept de vraag op:
hoe kunnen verzekeraars digitale premie-differentiatie verantwoorden vanuit zowel eerlijkheid als rendement?

Voor onze praktijkpartners is het een uitdaging op deze vraag een antwoord te vinden doordat het een integratie vraagt van wetgeving, ethiek en techniek in huidige werkprocessen. Daarom volgt ons onderzoek een ‘design science’-aanpak: we ontwerpen een methode om DD te verantwoorden en gebruiken deze methode om de behoeftes scherp te krijgen vanuit verzekeraars en software. Dit doen we door middel van interviews, een literatuurstudie, ontwerp en vier co-design workshops waar de praktijkpartners de methode evalueren en hun behoeftes aangeven. Het resultaat van dit onderzoek is tweeledig: een methode om DD te verantwoorden en een evaluatie van deze methode in termen van de behoeftes van de praktijk. Dit is relevant voor een bredere validatie van de methode in een RAAK en direct relevant voor de praktijkpartners zodat ze boetes en imagoschade voorkomen en voor de maatschappij om discriminatie door zelflerende algoritmes te doorgronden en te voorkomen.

Verzekeraars gebruiken steeds vaker algoritmes om risico’s in te schatten en premies vast te stellen. Dat maakt premies scherper en processen efficiënter, maar brengt ook risico’s met zich mee: algoritmes kunnen onbedoeld leiden tot indirecte discriminatie. Hoe controleer je daarop? Hoe vind je een goede balans tussen scherpe en eerlijke premies? En hoe interpreteer je eerlijkheidsscores in de praktijk? De maatschappelijke aandacht voor algoritmische eerlijkheid groeit snel, terwijl organisaties nog zoeken naar handvatten om zowel eerlijke als rendabele verzekeringen te ontwikkelen.

Het project 4D: Doorgrond Discriminatie Digitale Differentiatie onderzocht daarom hoe verzekeraars digitale differentiatie verantwoord kunnen inzetten, vanuit zowel een ethisch als commercieel perspectief. 4D combineert inzichten uit technologie, wetgeving en ethiek, en ontwikkelde een methode op basis van wetenschappelijke artikelen, interviews en workshops met verzekeraars en softwaremakers.

Het project resulteerde in twee open-access tools die verzekeraars en softwareontwikkelaars direct kunnen gebruiken:

1. Fair Insurance Framework: een praktisch stappenplan en naslagwerk dat organisaties helpt om premiedifferentiatie eerlijk en verantwoord in te richten. Het bevat strategieën, bronnen, aandachtspunten en praktijkvoorbeelden voor het toetsen en verbeteren van algoritmen op het gebied van eerlijkheid.

2. Fair Pricing Game: een online simulatiespel waarin spelers de rol aannemen van productmanager van een autoverzekering. Zij moeten rekening houden met eerlijkheid, winstgevendheid, wet- en regelgeving en reputatie. Het spel maakt de complexiteit van algoritmische eerlijkheid op een toegankelijke manier bespreekbaar binnen teams.

Daarnaast leverde het project een wetenschappelijke paper op waarin 33 strategieën, afkomstig uit praktijk en wetenschap, worden gepresenteerd om eerlijkheid en rendement te combineren in digitale premiedifferentiatie. Deze strategieën zijn de basis voor het Fair Insurance Framework en de Fair Pricing Game.

4D levert daarmee een stappenplan, een serious game en een wetenschappelijke basis die verzekeraars en softwaremakers helpt bij eerlijk en effectief toepassen van digitale differentiatie, vrij beschikbaar op: https://explainable-ai.nl/4D