In juni 2014 heeft het Bestuur van Rijkswaterstaat aan het Programma Strategische Verkenningen gevraagd een designsessie te organiseren voor de Groepsraad van Rijkswaterstaat. De designsessie moet antwoord geven op de vraag: ‘hoe kan die nieuwe wereld van big data, veranderende mobiliteit, transformatie van de netwerken en een duurzame leefomgeving er fysiek uit zien? En hoe werken we samen in die nieuwe wereld?’ Ter voorbereiding van deze sessie is aan 10 personen, met verschillende expertises, gevraagd een essay te schrijven. Martijn de Waal (onderzoeker Citizen Empowerment aan de HvA) leverde een bijdrage.
MULTIFILE
De maatschappelijke discussies over de invloed van AI op ons leven tieren welig. De terugkerende vraag is of AI-toepassingen – en dan vooral recommendersystemen – een dreiging of een redding zijn. De impact van het kiezen van een film voor vanavond, met behulp van Netflix' recommendersysteem, is nog beperkt. De impact van datingsites, navigatiesystemen en sociale media – allemaal systemen die met algoritmes informatie filteren of keuzes aanraden – is al groter. De impact van recommendersystemen in bijvoorbeeld de zorg, bij werving en selectie, fraudedetectie, en beoordelingen van hypotheekaanvragen is enorm, zowel op individueel als op maatschappelijk niveau. Het is daarom urgent dat juist recommendersystemen volgens de waarden van Responsible AI ontworpen worden: veilig, eerlijk, betrouwbaar, inclusief, transparant en controleerbaar.Om op een goede manier Responsible AI te ontwerpen moeten technische, contextuele én interactievraagstukken worden opgelost. Op het technische en maatschappelijke niveau is al veel vooruitgang geboekt, respectievelijk door onderzoek naar algoritmen die waarden als inclusiviteit in hun berekening meenemen, en door de ontwikkeling van wettelijke kaders. Over implementatie op interactieniveau bestaat daarentegen nog weinig concrete kennis. Bekend is dat gebruikers die interactiemogelijkheden hebben om een algoritme bij te sturen of aan te vullen, meer transparantie en betrouwbaarheid ervaren. Echter, slecht ontworpen interactiemogelijkheden, of een mismatch tussen interactie en context kosten juist tijd, veroorzaken mentale overbelasting, frustratie, en een gevoel van incompetentie. Ze verhullen eerder dan dat ze tot transparantie leiden.Het ontbreekt ontwerpers van interfaces (UX/UI designers) aan systematische concrete kennis over deze interactiemogelijkheden, hun toepasbaarheid, en de ethische grenzen. Dat beperkt hun mogelijkheid om op interactieniveau aan Responsible AI bij te dragen. Ze willen daarom graag een pattern library van interactiemogelijkheden, geannoteerd met onderzoek over de werking en inzetbaarheid. Dit bestaat nu niet en met dit project willen we een substantiële bijdrage leveren aan de ontwikkeling ervan.
De maatschappelijke discussies over de invloed van AI op ons leven tieren welig. De terugkerende vraag is of AI-toepassingen – en dan vooral recommendersystemen – een dreiging of een redding zijn. De impact van het kiezen van een film voor vanavond, met behulp van Netflix' recommendersysteem, is nog beperkt. De impact van datingsites, navigatiesystemen en sociale media – allemaal systemen die met algoritmes informatie filteren of keuzes aanraden – is al groter. De impact van recommendersystemen in bijvoorbeeld de zorg, bij werving en selectie, fraudedetectie, en beoordelingen van hypotheekaanvragen is enorm, zowel op individueel als op maatschappelijk niveau. Het is daarom urgent dat juist recommendersystemen volgens de waarden van Responsible AI ontworpen worden: veilig, eerlijk, betrouwbaar, inclusief, transparant en controleerbaar. Om op een goede manier Responsible AI te ontwerpen moeten technische, contextuele én interactievraagstukken worden opgelost. Op het technische en maatschappelijke niveau is al veel vooruitgang geboekt, respectievelijk door onderzoek naar algoritmen die waarden als inclusiviteit in hun berekening meenemen, en door de ontwikkeling van wettelijke kaders. Over implementatie op interactieniveau bestaat daarentegen nog weinig concrete kennis. Bekend is dat gebruikers die interactiemogelijkheden hebben om een algoritme bij te sturen of aan te vullen, meer transparantie en betrouwbaarheid ervaren. Echter, slecht ontworpen interactiemogelijkheden, of een mismatch tussen interactie en context kosten juist tijd, veroorzaken mentale overbelasting, frustratie, en een gevoel van incompetentie. Ze verhullen eerder dan dat ze tot transparantie leiden. Het ontbreekt ontwerpers van interfaces (UX/UI designers) aan systematische concrete kennis over deze interactiemogelijkheden, hun toepasbaarheid, en de ethische grenzen. Dat beperkt hun mogelijkheid om op interactieniveau aan Responsible AI bij te dragen. Ze willen daarom graag een pattern library van interactiemogelijkheden, geannoteerd met onderzoek over de werking en inzetbaarheid. Dit bestaat nu niet en met dit project willen we een substantiële bijdrage leveren aan de ontwikkeling ervan.
De docent/onderzoeker rol is de belangrijkste, echter ook minst goed gefaciliteerde, rol binnen de hogeschool. De docent/onderzoeker moet continue schakelen tussen de onderwijs-urgentie (teamleider) en de langere termijn onderzoeksprioriteit (lector). De docent/onderzoeker heeft praktisch gezien twee werkgevers. Het RAAK-Postdoc project HENC beoogd een pragmatische grondlegger te ontwikkelen voor de duurzame inbedding van PhDs in deze docent/onderzoeker rol. Henk Kortier fungeert hierbij als initiator, (mede) ontwikkelaar en eerste (proef-)persoon. Het onderzoek dat onderdeel vormt van deze aanvraag beoogt de valorisatie van het op 09-feb-2018 afgesloten biomedisch wetenschappelijk PhD onderzoek van Henk Kortier. De modulaire robotica technieken die Henk gaat door ontwikkelen hebben spin-off naar de drie Saxion onderzoek domeinen Area’s & Living (drones), Smart Industry (grondrobots) en Health & Wellbeing (opruimrobot). De onderwijsactiviteiten richten zich op een, nieuw te ontwikkelen, module binnen de opleiding mechatronica, met als doel concrete invulling te geven aan de noodzakelijke vernieuwing en integratie van onderzoek en onderwijs. Met het onderwijs en onderzoeksteam van mechatronica is hierover op 23 april jl. een inventarisatie workshop gehouden, ondersteund door de teamleider onderwijs en lector. Door een matrix-analyse zijn de belangrijkste punten gedefinieerd en worden de belangrijkste redenen voor PhD om als docent/onderzoeker te blijven fungeren ontwikkeld, getest, uitgevoerd en uitgerold. Op deze wijze geeft het project concreet invulling aan het Saxion beleid om PhDs te kunnen laten werken aan het onderzoek en via onderwijsvernieuwing de resultaten naar onderwijs vloeien. Naast de onderwijs-onderzoeks integratie component wordt er binnen de module een lespakket ontwikkeld ter behoeve van het autonoom functionerende robots. Dit pakket wordt ontwikkeld vanuit zowel een operator als engineering oogpunt en zal derhalve de opleiding mechatronica overstijgen. Dit maakt het pakket breed inzetbaar binnen de verschillende opleidingen van de academie Life Science, engineering and Design en Creative Technologievan Saxion maar ook voor hogescholen elders.
