This white paper is the result of a research project by Hogeschool Utrecht, Floryn, Researchable, and De Volksbank in the period November 2021-November 2022. The research project was a KIEM project1 granted by the Taskforce for Applied Research SIA. The goal of the research project was to identify the aspects that play a role in the implementation of the explainability of artificial intelligence (AI) systems in the Dutch financial sector. In this white paper, we present a checklist of the aspects that we derived from this research. The checklist contains checkpoints and related questions that need consideration to make explainability-related choices in different stages of the AI lifecycle. The goal of the checklist is to give designers and developers of AI systems a tool to ensure the AI system will give proper and meaningful explanations to each stakeholder.
MULTIFILE
23-11-2022
Het rapport beschrijft onderzoek medegefinancierd door Regieorgaan SIA onderdeel van de Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO). Onderzoekpartners: Fieke Grooters (Inbo Architectenbureau), Kees Boot (Ingenieursbureau BOOT), Ruben Vrijhoef (Hogeschool Utrecht). Uit de inleiding: Onze grondstoffenvoorraad is eindig en toch worden nog steeds kostbare materialen afgedankt. Dat kan beter: door het sluiten van kringlopen en de realisatie van een circulaire economie. Met name de bouwsector is een grote materiaal- en grondstoffenverslinder (CE, 2014; en CBS, PBL & WUR, 2017), materialen en grondstoffen waar bovendien veel fossiele energie voor nodig is (Chuchí et al, 2014). Circulaire toepassingen kunnen dus juist in de bouw een groot verschil maken. Alleen al in de regio Utrecht zijn er de komende jaren (2018-2022) ruim 200 bouw- en sloopprojecten (Metabolic & SGS Search, 2018). In opdracht van de Utrechtse gemeenten schatten Metabolic en SGS Search (2018) in dat er tussen 2018 en 2022 in de regio Utrecht ruim 5 miljoen ton materiaal nodig is, terwijl er in die periode 250 duizend ton beschikbaar komt. Kortom, er wordt in Utrecht meer gebouwd dan gesloopt. Tegelijk is het met het oog op de toekomst relevant om na te gaan hoe nu gebouwen kunnen worden ontworpen die passen in een circulaire economie. In dit project – Old School, New School – is de vraag dan ook hoe we materialen en producten kunnen hergebruiken door ze een tweede leven te geven. Dit project is een samenwerking van de Hogeschool Utrecht met ingenieursbureau BOOT en architectenbureau Inbo, waarbij tevens een aantal partners uit het Cirkelstadnetwerk en studenten van de Hogeschool Utrecht zijn betrokken.
Patiëntdata uit vragenlijsten, fysieke testen en ‘wearables’ hebben veel potentie om fysiotherapie-behandelingen te personaliseren (zogeheten ‘datagedragen’ zorg) en gedeelde besluitvorming tussen fysiotherapeut en patiënt te faciliteren. Hiermee kan fysiotherapie mogelijk doelmatiger en effectiever worden. Veel fysiotherapeuten en hun patiënten zien echter nauwelijks meerwaarde in het verzamelen van patiëntdata, maar vooral toegenomen administratieve last. In de bestaande landelijke databases krijgen fysiotherapeuten en hun patiënten de door hen zelf verzamelde patiëntdata via een online dashboard weliswaar teruggekoppeld, maar op een weinig betekenisvolle manier doordat het dashboard primair gericht is op wensen van externe partijen (zoals zorgverzekeraars). Door gebruik te maken van technologische innovaties zoals gepersonaliseerde datavisualisaties op basis van geavanceerde data science analyses kunnen patiëntdata betekenisvoller teruggekoppeld en ingezet worden. Wij zetten technologie dus in om ‘datagedragen’, gepersonaliseerde zorg, in dit geval binnen de fysiotherapie, een stap dichterbij te brengen. De kennis opgedaan in de project is tevens relevant voor andere zorgberoepen. In dit KIEM-project worden eerst wensen van eindgebruikers, bestaande succesvolle datavisualisaties en de hiervoor vereiste data science analyses geïnventariseerd (werkpakket 1: inventarisatie). Op basis hiervan worden meerdere prototypes van inzichtelijke datavisualisaties ontwikkeld (bijvoorbeeld visualisatie van patiëntscores in vergelijking met (beoogde) normscores, of van voorspelling van verwacht herstel op basis van data van vergelijkbare eerdere patiënten). Middels focusgroepinterviews met fysiotherapeuten en patiënten worden hieruit de meest kansrijke (maximaal 5) prototypes geselecteerd. Voor deze geselecteerde prototypes worden vervolgens de vereiste data-analyses ontwikkeld die de datavisualisaties op de dashboards van de landelijke databases mogelijk maken (werkpakket 2: prototypes en data-analyses). In kleine pilots worden deze datavisualisaties door eindgebruikers toegepast in de praktijk om te bepalen of ze daadwerkelijk aan hun wensen voldoen (werkpakket 3: pilots). Uit dit 1-jarige project kan een groot vervolgonderzoek ‘ontkiemen’ naar het effect van betekenisvolle datavisualisaties op de uitkomsten van zorg.
Wetenschappers gebruiken bioorthogonale klikreacties tussen trans-cyclooctenen (TCOs) en tetrazines (Tz) om geheel nieuwe geneesmiddelen te ontwikkelen waarmee heel gericht cruciale biologische doelmoleculen kunnen worden geraakt, zodat ziektes op een veel selectievere manier kunnen worden behandeld. Recentelijk heeft de Radboud Universiteit een nieuw TCO-derivaat ontwikkeld en geoctrooieerd dat beschikt over twee orthogonale handvatten, goede stabiliteit, een snelle klik-kinetiek en een biocompatibele “click-to-release” functionaliteit. Bovendien kan deze TCO in een efficiënte synthese met hoge zuiverheid geproduceerd worden in tegenstelling tot vergelijkbare gepubliceerde stoffen. Binnen dit KIEM project zullen ‘ready-to-use’ TCO-producten ontwikkeld worden, gebaseerd op dit nieuwe TCO-derivaat. Dit is belangrijk om de drempel te verlagen voor onderzoekers om deze nieuwe technologie te benutten in hun toepassingen en versnelt daarmee de ontwikkeling van “slimme” geneesmiddelen of materialen. De werkzaamheden in dit project zullen bestaan uit literatuuronderzoek, synthetisch ontwerp van TCO-derivaten, chemische synthese, onderzoek naar de eigenschappen van de stoffen en contact leggen met potentiele gebruikers. De beoogde projectresultaten zijn chemische methoden om geactiveerde TCOs te synthetiseren, 5–10 geactiveerde eindproducten, inzicht in de chemie van TCOs, inzicht in de kinetiek en stabiliteit van de nieuwe TCOs en nieuwe samenwerkingen. In dit project wordt samengewerkt tussen de Radboud Universiteit en het biotechnologiebedrijf Synvenio. Binnen de synthetisch organische chemie afdeling van de Radboud Universiteit is de eerdergenoemde nieuwe TCO ontwikkeld. Synvenio is een jong biotechnologiebedrijf dat bioactieve stoffen beschikbaar maakt voor biochemisch- en biomedische onderzoekers. Het team bestaat uit chemici met veel affiniteit met biochemie, waaronder een van de uitvinders van de nieuwe TCO.
Vanwege veranderende onderwijskundige inzichten - 21st century learning - worden schoolgebouwen verbouwd of vervangen door nieuwbouw. Deze 21st century leeromgevingen blijken in de praktijk niet te voldoen aan de verwachting van de gebruikers. Het ontwikkelen en gebruiken van een 21st century leeromgeving stelt blijkbaar specifieke eisen aan de 21st century competenties van alle betrokkenen. Dit roept vragen op ten aanzien van product en proces. De beantwoording van deze vragen vereist kennis van wisselwerking tussen psycho-sociale leeromgeving en fysieke leeromgeving. Het betreft onder andere de benodigde “ruimtelijke competenties” van de betrokkenen om de fysieke leeromgevingen te ontwikkelen en te gebruiken en - andersom - hoe de fysieke leeromgeving de ontwikkeling van 21st century competenties beïnvloedt. De kiem voor dit onderzoeksproject is gelegd toen scholen en vormgevers deze vragen voorlegden aan experts van de NHL Hogeschool en TU Eindhoven. Dit KIEM project wil de probleemstelling in één of meerdere praktijkvragen articuleren door het uitvoeren van een reeks workshops met een focusgroep van stakeholders. De uitkomsten hiervan zullen worden vertaald naar een voorstel voor een langduriger onderzoeksproject. In dit beoogde vervolgproject zullen de gearticuleerde vragen worden vertaald naar één of meer praktijkonderzoeken waarin wetenschappelijke kennis en methodes worden doorontwikkeld en beproefd op het effectief stimuleren van 21st century vaardigheden van docenten en vormgevers in praktijksituaties. Dit project maakt deel uit van de opbouw van een regionaal kennisnetwerk Onderwijs & Ruimte, wat op een duurzame wijze wil bijdragen aan de kennisontwikkeling en -deling betreffende de 21st century leeromgeving. De kern van dit netwerk wordt gevormd door de initiatiefnemers van deze aanvraag; Adema Architecten (MKB), lectoraat Open Innovation van de NHL Hogeschool (Onderzoeksinstelling) en Next Level (Onderwijs).
