Artikel in vakblad AG Connect waarin de auteurs ingaan op de uitlegbaarheid en begrijpbaarkeid van kunstmatige intelligentie.
Niet de intelligente technologie als kunstmatige intelligente, maar de manier waarop mensen deze technologie inzetten levert een verantwoorde toepassing op. Op dit moment wordt innovatie op het gebied van data, algoritme en computerkracht nog niet maximaal benut. Met enig sociaal onbenul, of met gebrek aan inbedding via wetgeving, kunnen ondenkbare scenario’s werkelijkheid worden. We verkennen er hier een aantal waarbij technologie op een verrassende manier wordt ingezet. Daarbij zijn voorbeelden van hyperpersonalisering van adviezen, het recht op ongezien zijn en preventieve handhaving, en voorbeelden waar digitale representaties toe kunnen leiden. Van hieruit kunnen we de discussie starten hoe we als samenleving technologie willen duiden en inzetten. Hoe kunnen we van gebruiker van slimme systemen komen tot een rol als opdrachtgever van ondersteunende technologie?
Het beschrijven van een bebouwd gebied kan in algemene termen, zoals ‘in het centrum’ of ‘in een groene wijk’. Voor een meer specifieke beschrijving geeft alleen de aanduiding van een wijktype, zoals historische binnenstad, volkswijk of naoorlogse tuinstad veel informatie over het bebouwd gebied. Met de aanduiding van een wijktype worden kenmerken direct duidelijk. Denk aan bouwperiode, bouwstijl, mate van verstedelijking, type en grootte van woningen, soort en hoeveelheid groen en water, de indeling van de openbare ruimte en het wegenpatroon. De specifieke combinatie van deze ruimtelijke eigenschappen beïnvloeden de kwetsbaarheid voor klimaatverandering en de mogelijkheden voor klimaatadaptatie. Dit kan ontwerpers en planners helpen keuzes te maken voor een specifieke locatie op basis van het wijktype. Er is behoefte aan kennis over de kwetsbaarheid van stadsbewoners door klimaatverandering en gerichte oplossingen voor een brede groep professionals. Het beroepenveld van beleidsmakers, stedenbouwkundigen en bijvoorbeeld planologen, dat zich richt op de openbare ruimte, heeft niet altijd de specialistische kennis over watermanagement of het stedelijk microklimaat die nodig is om keuzes voor klimaatadaptatiemaatregelen te maken. Inrichting van de openbare ruimte is vaak een complexe opgave met vele betrokken partijen met uiteenlopende achtergronden. Door klimaatadaptatiemaatregelen vroeg in het proces mee te nemen is de kans op mee-koppeling groter en daarmee ook de kans op uitvoering en draagvlak. Om klimaatadaptatie vroeg in het ontwerpproces mee te kunnen nemen biedt de indeling van het bebouwd gebied in wijktypen en daarbij passende maatregelen de mogelijkheid een voorselectie te maken. Met de indeling van bebouwd gebied in wijktypen kunnen aan de ene kant algemene kwetsbaarheden voor ontwikkelingen die niet klimaat robuust zijn inzichtelijk worden gemaakt. Zo blijken tuindorpen vooral kwetsbaar voor verstening van privé tuinen omdat het groen in deze wijken voor het overgrote deel particulier is. En een kwetsbaarheid van bloemkoolwijken is bijvoorbeeld de ruimte die de auto zich in deze wijken heeft toegeëigend waardoor straten en binnenhoven veel verharding hebben. Aan de andere kant maken de wijktypen het ook mogelijk generieke maatregelen voor klimaatadaptatie binnen dezelfde typologie op te stellen en te presenteren. De kenmerken van een wijktype bepalen hoe er in de straat rekening kan worden gehouden met een extremer klimaat. Zo biedt het vele publieke groen in naoorlogse tuinsteden ruimte om water bovengronds te bergen om problemen met extreme neerslag te voorkomen. De stedelijke bouwblokken daarentegen vragen eerder om (technische) oplossingen ondergronds. En veel bloemkoolwijken uit de jaren ‘70 zijn rijk aan groen rondom de huizen dat met een verbeterde toegankelijkheid een koele plek zou kunnen bieden tijdens warme dagen. Het vakgebied dat zich richt op inrichting van de openbare ruimte gebruikt in de communicatie vaak een indeling in wijktypen. Deze groep kan de wijktypenkaart inzetten om analyses en onderzoek op grotere schaal te doen naar kwetsbaarheden en oplossingen. Iedereen die minder direct werkt met wijktypen in de praktijk, kan eenvoudig met de kaart de wijktypen onderscheiden en gebruik maken van de algemene kennis die over een wijktype is gegenereerd.
Mediabedrijven en -organisaties maken steeds meer gebruik van algoritmes om hun gebruikers gepersonaliseerde aanbevelingen aan te bieden voor artikelen, muziek, series, films en video’s. Dergelijke aanbevelingsalgoritmes maken gebruik van technieken uit kunstmatige intelligentie om te voorspellen in welke inhoud een gebruiker geïnteresseerd is, bijvoorbeeld op basis van wat de gebruiker eerder heeft bekeken of beluisterd of op basis van wat andere gebruikers hebben bekeken of beluisterd. Publieke omroepen, die programma’s maken voor kijkers en luisteraars, en de Nederlandse Publieke Omroep (NPO), die in Nederland zorgt voor de distributie en uitzending van die programma’s, zien potentie in deze technologie. De NPO maakt nog slechts beperkt gebruik van automatische aanbevelingen om inhoud aan kijkers en luisteraars aan te bieden, maar zij verkent samen met een aantal partners uit het publieke omroepbestel de mogelijkheden om de technologie breder in te zetten. Anders dan de meeste mediabedrijven wordt de NPO wordt bekostigd door overheidsbudget en heeft het als expliciete missie om het Nederlandse publiek te verbinden en te verrijken met programma’s die informeren, inspireren en amuseren. Dit stelt andere eisen aan een aanbevelingsalgoritme. Waar het doel van commerciële partijen veelal bestaat uit het optimaliseren van winst en/of engagement, beoogt de NPO aanbevelingen te bieden op transparante en inzichtelijke wijze, en staat pluriformiteit (diversiteit in perspectieven) in aanbevelingen centraal. Op dit moment speelt bij de NPO de vraag welke principes (pluriformiteit, personalisatie, etc.) leidend moeten zijn in aanbevelingen en hoe deze principes geoperationaliseerd kunnen worden. Het doel van dit project is daarom om, middels literatuuronderzoek, interviews met experts en gebruikers, en prototyping, een aantal principes te identificeren en operationaliseren die geschikt zijn voor aanbevelingsalgoritmes van publieke omroepen.
De vraag: ‘Zal kunstmatige intelligentie (AI) mijn werk vervangen?’ is steeds vaker te horen, specifiek ook onder artsen in ziekenhuizen. AI wordt tegenwoordig ingezet voor allerlei doeleinden in de zorg, variërend van diagnoses stellen tot opereren. De belofte is dat AI de zorg efficiënter en nauwkeuriger maakt, maar er heerst ook onzekerheid onder artsen over de impact op hun werk. Om de vaak gestelde vraag te kunnen beantwoorden of en hoe AI het werk van de arts vervangt, is inzicht nodig in wat dat werk precies inhoudt. Daarvoor introduceren we het woord ‘vakmanschap’. Vakmanschap staat voor bekwaamheid in een vak. We onderzoeken hoe AI het vakmanschap van de arts beïnvloedt en houden rekening met diverse medische specialismen en typen AI. Vervolgens maken we de vertaalslag naar hoe impact van AI op vakmanschap mee te nemen in een verantwoord ontwerp- en implementatieproces van AI. Ons consortium vertegenwoordigt de stem van de arts in ziekenhuizen, het perspectief rondom ‘vakmanschap’ en een veranderende arbeidsmarkt, het perspectief van de AI-ontwikkelaar, de methodische kennis rondom de KEM Ethiek & Verantwoordelijkheid en het mensgericht ontwerpen perspectief. Uiteindelijk beogen we zorg duurzaam te kunnen verlenen met een optimale interactie tussen arts en AI.
Dementie is een wereldwijd gezondheidsprobleem, met enorme impact op de gezondheidszorg en economie. In Nederland is het aantal mensen met dementie de laatste jaren snel gegroeid en dit aantal zal door vergrijzing verder toenemen. De diagnose dementie is complex en vaak pas definitief na kostbaar en invasief onderzoek. Het introduceren van gemakkelijk uit te voeren tests in de eerstelijn kan bijdragen aan een verbeterde vroegtijdige herkenning en behandeling van dementie binnen de bredere bevolking. Een potentieel veelbelovende benadering is vroege detectie van retinale (netvlies) veranderingen in het oog met behulp van kunstmatige intelligentie (KI). Onderzoek toont aan dat neurale netwerken, een component van KI, subtiele afwijkingen in de retina kunnen detecteren die gerelateerd zijn aan dementie. Een algoritme, ontwikkeld door Cheung et al., toont veelbelovende resultaten op basis van retinale foto's. Het Geheugencentrum van het Jeroen Bosch Ziekenhuis heeft interesse in het gebruik van neurale netwerktechnologieën bij de diagnose van dementie. Het uitvoeren van een implementatieonderzoek gaat echter gepaard met uitdagingen op het gebied van dataverzameling, en daarnaast dienen zorgvuldige ethische overwegingen plaats te vinden. Om implementatieonderzoek in de toekomst mogelijk te maken, wil het Jeroen Bosch Ziekenhuis, samen met Biotactical BV en Avans Hogeschool verkennend onderzoek doen naar de nauwkeurigheid en praktische toepasbaarheid van het algoritme van Cheung et al., gebruikmakend van bestaande datasets. Daarnaast zal een juridisch en ethisch raamwerk worden ontworpen met richtlijnen voor een implementatieonderzoek van deze software in zorginstellingen. Het doel van dit verkennend onderzoeksproject is om vertrouwen op te bouwen bij belanghebbenden en 'lessons learned' op te nemen in een latere implementatiefase.
