This white paper is the result of a research project by Hogeschool Utrecht, Floryn, Researchable, and De Volksbank in the period November 2021-November 2022. The research project was a KIEM project1 granted by the Taskforce for Applied Research SIA. The goal of the research project was to identify the aspects that play a role in the implementation of the explainability of artificial intelligence (AI) systems in the Dutch financial sector. In this white paper, we present a checklist of the aspects that we derived from this research. The checklist contains checkpoints and related questions that need consideration to make explainability-related choices in different stages of the AI lifecycle. The goal of the checklist is to give designers and developers of AI systems a tool to ensure the AI system will give proper and meaningful explanations to each stakeholder.
MULTIFILE
De opkomst van Chat GPT laat zien hoe AI ingrijpt in ons dagelijks leven en het onderwijs. Maar AI is meer dan Chat GPT: van zoekmachines tot de gezichtsherkenning in je telefoon: data en algoritmes veranderen de levens van onze studenten en hun toekomstige werkveld. Wat betekent dit voor de opleidingen in het HBO waar voor wij werken? Voor de inspiratie-sessie De maatschappelijke impact van AI tijdens het HU Onderwijsfestival 2023 hebben wij onze collega’s uitgenodigd om samen met ons mee te denken over de recente AI-ontwikkelingen. We keken niet alleen naar de technologie, maar juist ook naar de maatschappelijke impact en wat de kansen en bedreigingen van AI zijn voor een open, rechtvaardige en duurzame samenleving. Het gesprek voerde we met onze collega’s (zowel docenten als medewerkers van de diensten) aan de hand van drie casussen met. De verzamelde resultaten en inzichten van deze gesprekken zijn samengebracht op een speciaal ontwikkelde poster voor de workshop (zie figuur 1). We hebben deze inzichten gebundeld en hieronder zijn ze te lezen.
Middels een RAAK-impuls aanvraag wordt beoogd de vertraging van het RAAK-mkb project Praktische Predictie t.g.v. corona in te halen. In het project Praktische Predictie wordt een prototype app ontwikkeld waarmee fysiotherapeuten in een vroeg stadium het chronisch worden van lage rugpijn kunnen voorspellen. Om chronische rugpijn te voorkomen is het belangrijk om in een vroeg stadium de kans hierop in te schatten door psychosociale en mogelijk andere risicofactoren op chronische pijnklachten te herkennen en hierop te interveniëren. Fysiotherapeuten zijn met deze vraag naar het lectoraat Werkzame factoren in Fysiotherapie en Paramedisch Handelen van de Hogeschool van Arnhem en Nijmegen gegaan en dit heeft aanleiding gegeven een onderzoek op te zetten waarin een dergelijke methodiek ontwikkeld wordt. De voorgestelde methodiek betreft een Clinical Decision Support Tool waarmee een geïndividualiseerde kans op chronische rugpijn kan worden bepaald gekoppeld aan een behandeladvies conform de lage rugpijn richtlijn. Hiervoor is eerst geïnventariseerd welke methoden fysiotherapeuten reeds gebruiken en welke in de literatuur worden genoemd. Op basis hiervan is een keuze gemaakt ten aanzien van data die digitaal verzameld worden in minimaal 16 fysiotherapiepraktijken waarbij patiënten gedurende 12 weken gevolgd worden. Met de verzamelde data worden met machine learning algoritmes ontwikkeld voor het berekenen van de kans op chroniciteit. De algoritmes worden ingebouwd in de Clinical Decision Support Tool: een gebruiksvriendelijke prototype app. Bij het ontwikkelen van de tool worden eindgebruikers (fysiotherapeuten en patiënten) intensief betrokken. Op deze manier wordt gegarandeerd dat de tool aansluit bij de wensen en behoeften van de doelgroep. De tool berekent de kans op chroniciteit en geeft een behandeladvies. Daarnaast kan de tool gebruikt worden om patiënten te informeren en te betrekken bij de besluitvorming. Vanwege de coronacrisis is er een aanzienlijke vertraging in de patiënten-instroom (doel n= 300) ontstaan die we met ondersteuning van een RAAK-impuls subsidie willen inlopen.
Mondkapjes, of mondmaskers, zijn door de SARS-COV-2 pandemie niet meer uit het straatbeeld weg te denken. De kwaliteit en comfort van de pasvorm van medische en niet-medische mondmaskers wordt bepaald door hoe goed het mondmasker overeenkomt met de afmetingen van het gezicht van de drager. Echter is er geen goed overzicht van de antropometrie van het gelaat van de Nederlandse bevolking waardoor de pasvorm van mondmaskers nu vaak niet optimaal is. Er is dus vraag naar een laagdrempelige en veilige manier om gezichtskenmerken in kaart te brengen en betere ontwerprichtlijnen voor mondkapjes. Driedimensionaal (3D) scannen doormiddel van Light Detection and Ranging (LiDaR) technologie in combinatie met slimme algoritmes lijkt wellicht een manier om gezichtskenmerken snel en laagdrempelig vast te leggen bij grote groepen mensen. Daarnaast geeft het 3D scannen van gezichten de mogelijkheid om niet enkel de afmetingen van gezichten te meten, maar ook 3D pasvisualisaties uit te voeren. Hoewel 3D scannen geen nieuwe technologie is, is de LiDaR technologie pas sinds 2020 geïntegreerd in de Ipad en Iphone waardoor het toegankelijk gemaakt is voor consumenten. Doormiddel van een research through design benadering zal onderzocht worden of deze technologie gebruikt kan worden om betrouwbare en valide opnames te maken van gezichten en of er op basis hiervan ontwerprichtlijnen ontwikkeld kunnen worden. In dit KIEM GoCi-project zal daarnaast ingezet worden om een kennisbasis en netwerk op te bouwen voor een vervolg aanvraag over de inzet van 3D technologieën in de mode-industrie.
Mediabedrijven en -organisaties maken steeds meer gebruik van algoritmes om hun gebruikers gepersonaliseerde aanbevelingen aan te bieden voor artikelen, muziek, series, films en video’s. Dergelijke aanbevelingsalgoritmes maken gebruik van technieken uit kunstmatige intelligentie om te voorspellen in welke inhoud een gebruiker geïnteresseerd is, bijvoorbeeld op basis van wat de gebruiker eerder heeft bekeken of beluisterd of op basis van wat andere gebruikers hebben bekeken of beluisterd. Publieke omroepen, die programma’s maken voor kijkers en luisteraars, en de Nederlandse Publieke Omroep (NPO), die in Nederland zorgt voor de distributie en uitzending van die programma’s, zien potentie in deze technologie. De NPO maakt nog slechts beperkt gebruik van automatische aanbevelingen om inhoud aan kijkers en luisteraars aan te bieden, maar zij verkent samen met een aantal partners uit het publieke omroepbestel de mogelijkheden om de technologie breder in te zetten. Anders dan de meeste mediabedrijven wordt de NPO wordt bekostigd door overheidsbudget en heeft het als expliciete missie om het Nederlandse publiek te verbinden en te verrijken met programma’s die informeren, inspireren en amuseren. Dit stelt andere eisen aan een aanbevelingsalgoritme. Waar het doel van commerciële partijen veelal bestaat uit het optimaliseren van winst en/of engagement, beoogt de NPO aanbevelingen te bieden op transparante en inzichtelijke wijze, en staat pluriformiteit (diversiteit in perspectieven) in aanbevelingen centraal. Op dit moment speelt bij de NPO de vraag welke principes (pluriformiteit, personalisatie, etc.) leidend moeten zijn in aanbevelingen en hoe deze principes geoperationaliseerd kunnen worden. Het doel van dit project is daarom om, middels literatuuronderzoek, interviews met experts en gebruikers, en prototyping, een aantal principes te identificeren en operationaliseren die geschikt zijn voor aanbevelingsalgoritmes van publieke omroepen.
