This white paper is the result of a research project by Hogeschool Utrecht, Floryn, Researchable, and De Volksbank in the period November 2021-November 2022. The research project was a KIEM project1 granted by the Taskforce for Applied Research SIA. The goal of the research project was to identify the aspects that play a role in the implementation of the explainability of artificial intelligence (AI) systems in the Dutch financial sector. In this white paper, we present a checklist of the aspects that we derived from this research. The checklist contains checkpoints and related questions that need consideration to make explainability-related choices in different stages of the AI lifecycle. The goal of the checklist is to give designers and developers of AI systems a tool to ensure the AI system will give proper and meaningful explanations to each stakeholder.
MULTIFILE
Met onderzoekspartners Ruben Vrijhoef (HU), Erlijn Eweg (HU), Raymond Stijkel (BAM), Arnold Homan (Inbo), Bas Slager (Repurpose). Uit de Inleiding: "In september 2015 heeft Hogeschool Utrecht een project aanvraag ingediend bij NRPO SIA, genaamd Circulaire gebouw installaties, samen met de partners BAM, Inbo en Repurpose. De insteek van het onderzoek was dat de gebouwinstallaties van het onderwijsgebouw aan de Padualaan 99 en 101 onderzocht werden op de mogelijkheid voor circulair hergebruik, met de partner bij de grootschalige renovatie van deze twee HU gebouwen. Op 23 februari ontvingen we de toekenning van NRPO SIA. Het oorspronkelijke project was gepland om eind oktober, begin november 2015 te starten. Door de toekenning later dan wij verwacht hadden, moesten we echter opnieuw met de projectpartners in overleg. In het project was uitgegaan van een bepaald onderzoeksobject, een gebouw. Het in het projectvoorstel omschreven onderzoeksobject was inmiddels al gestript en gesloopt (januari 2016). Daardoor is er in onderling overleg, besloten tot de volgende inhoudelijke projectwijzigingen: 1) De keuze voor een ander onderzoeksobject. 2) Het uitgangspunt wordt omgebogen naar de toepassing van multifunctionele bouwdelen, waarin de installaties al verwerkt zijn. De in het oorspronkelijke projectplan genoemde resultaten blijven in hoofdlijnen ongewijzigd, maar de resultaten op detailniveau worden iets anders ingevuld en uitgewerkt. De aanloop van dit project laat direct één van de kritische succes factoren zien bij een circulaire economie in de praktijk. En dat is de afstemming van vraag en aanbod van bouwmaterialen en producten binnen de keten. Als we materialen uit sloop en renovatiepanden elders willen hergebruiken en de timing van sloop of bouw wordt vertraagd, hapert het proces. Bij dit KIEM-VANG project ging het precies andersom: de sloop/renovatie van het beoogde onderzoekspand was al gebeurd op het moment dat de aanvraag werd goedgekeurd."
MULTIFILE
Mensen die moeite hebben met lezen en schrijven (laaggeletterden) zijn ondervertegenwoordigd in onderzoek, waardoor een belangrijke onderzoekspopulatie ontbreekt. Dit is een probleem, omdat zorgbeleid dan onvoldoende op hun behoeften wordt aangepast. Laaggeletterden hebben vaak een lage sociaal economische positie (SEP). Mensen met een lage SEP leven gemiddeld 4 jaar korter en 15 jaar in minder goed ervaren gezondheid vergeleken met mensen met een hoge SEP. Om laaggeletterden te betrekken in onderzoek, is het o.a. nodig om onderzoek toegankelijker te maken. Dit project draagt hieraan bij door de ontwikkeling van een toolbox voor toegankelijke (proefpersonen)informatie (pif) en toestemmingsverklaringen. We ontwikkelen in co-creatie met de doelgroep toegankelijke audiovisuele materialen die breed ingezet kunnen worden door (gezondheids)onderzoekers van (zorggerelateerde) instanties/bedrijven én kennisinstellingen voor de werving voor en informatieverstrekking over onderzoek. In de multidisciplinaire samenwerking met onze partners YURR.studio, Pharos, Stichting ABC, Stichting Crowdience, de HAN-Sterkplaats en de Academische Werkplaats Sterker op eigen benen (AW-SOEB) van Radboudumc stellen we de behoeften van de doelgroep centraal. Middels creatieve sessies en gebruikerservaringen wordt in een iteratief ontwerpende onderzoeksaanpak toegewerkt naar diverse ontwerpen van informatiebrieven en toestemmingsverklaringen, waarbij de visuele communicatie dragend is. Het ontwikkelproces biedt kennisontwikkeling en hands-on praktijkvoorbeelden voor designers en grafisch vormgevers in het toegankelijk maken van informatie. Als laaggeletterden beter bereikt worden d.m.v. de pif-toolbox, kunnen de inzichten van deze groep worden meegenomen. Dit zorgt voor een minder scheef beeld in onderzoek, waardoor (gezondheids)beleid zich beter kan richten op kwetsbare doelgroepen. Hiermee wordt een bijdrage geleverd aan het verkleinen van gezondheidsverschillen.
Patiëntdata uit vragenlijsten, fysieke testen en ‘wearables’ hebben veel potentie om fysiotherapie-behandelingen te personaliseren (zogeheten ‘datagedragen’ zorg) en gedeelde besluitvorming tussen fysiotherapeut en patiënt te faciliteren. Hiermee kan fysiotherapie mogelijk doelmatiger en effectiever worden. Veel fysiotherapeuten en hun patiënten zien echter nauwelijks meerwaarde in het verzamelen van patiëntdata, maar vooral toegenomen administratieve last. In de bestaande landelijke databases krijgen fysiotherapeuten en hun patiënten de door hen zelf verzamelde patiëntdata via een online dashboard weliswaar teruggekoppeld, maar op een weinig betekenisvolle manier doordat het dashboard primair gericht is op wensen van externe partijen (zoals zorgverzekeraars). Door gebruik te maken van technologische innovaties zoals gepersonaliseerde datavisualisaties op basis van geavanceerde data science analyses kunnen patiëntdata betekenisvoller teruggekoppeld en ingezet worden. Wij zetten technologie dus in om ‘datagedragen’, gepersonaliseerde zorg, in dit geval binnen de fysiotherapie, een stap dichterbij te brengen. De kennis opgedaan in de project is tevens relevant voor andere zorgberoepen. In dit KIEM-project worden eerst wensen van eindgebruikers, bestaande succesvolle datavisualisaties en de hiervoor vereiste data science analyses geïnventariseerd (werkpakket 1: inventarisatie). Op basis hiervan worden meerdere prototypes van inzichtelijke datavisualisaties ontwikkeld (bijvoorbeeld visualisatie van patiëntscores in vergelijking met (beoogde) normscores, of van voorspelling van verwacht herstel op basis van data van vergelijkbare eerdere patiënten). Middels focusgroepinterviews met fysiotherapeuten en patiënten worden hieruit de meest kansrijke (maximaal 5) prototypes geselecteerd. Voor deze geselecteerde prototypes worden vervolgens de vereiste data-analyses ontwikkeld die de datavisualisaties op de dashboards van de landelijke databases mogelijk maken (werkpakket 2: prototypes en data-analyses). In kleine pilots worden deze datavisualisaties door eindgebruikers toegepast in de praktijk om te bepalen of ze daadwerkelijk aan hun wensen voldoen (werkpakket 3: pilots). Uit dit 1-jarige project kan een groot vervolgonderzoek ‘ontkiemen’ naar het effect van betekenisvolle datavisualisaties op de uitkomsten van zorg.
De alliantie tussen professionals en cliënten in de jeugdzorg is een krachtige algemeen werkzame factor in de hulp aan kinderen en ouders met opvoedproblemen. De alliantie tussen professionals en cliënten bestaat uit de persoonlijke klik, overeenstemming over de doelen waaraan gewerkt wordt en de wijze waarop er samengewerkt wordt aan die doelen. Een positieve alliantie in een vroeg stadium van het hulpverleningstraject is een betrouwbare voorspeller van een positieve uitkomst. Het vroegtijdig zicht krijgen op de kwaliteit van de alliantie geeft de mogelijkheid om breuken en deuken in beeld te brengen en vroegtijdig bespreekbaar te maken en te herstellen. Het ritueel om de alliantie bespreekbaar te maken wordt in de praktijk nog weinig gestalte gegeven. Het vergt van professionals een scherp observatievermogen, goede reflectievaardigheden en de nodige creativiteit om het ritueel in het primair proces te passen. Met de te ontwikkelen experimentele leerlijn waar deze aanvraag op ingaat willen werkveldpartners inzetten op het aanleren van deze vaardigheden.
