The user’s experience with a recommender system is significantly shaped by the dynamics of user-algorithm interactions. These interactions are often evaluated using interaction qualities, such as controllability, trust, and autonomy, to gauge their impact. As part of our effort to systematically categorize these evaluations, we explored the suitability of the interaction qualities framework as proposed by Lenz, Dieffenbach and Hassenzahl. During this examination, we uncovered four challenges within the framework itself, and an additional external challenge. In studies examining the interaction between user control options and interaction qualities, interdependencies between concepts, inconsistent terminology, and the entity perspective (is it a user’s trust or a system’s trustworthiness) often hinder a systematic inventory of the findings. Additionally, our discussion underscored the crucial role of the decision context in evaluating the relation of algorithmic affordances and interaction qualities. We propose dimensions of decision contexts (such as ‘reversibility of the decision’, or ‘time pressure’). They could aid in establishing a systematic three-way relationship between context attributes, attributes of user control mechanisms, and experiential goals, and as such they warrant further research. In sum, while the interaction qualities framework serves as a foundational structure for organizing research on evaluating the impact of algorithmic affordances, challenges related to interdependencies and context-specific influences remain. These challenges necessitate further investigation and subsequent refinement and expansion of the framework.
LINK
De Hogeschool van Amsterdam, het Zijlstra Center (VU) en Hofmeier doen samen onderzoek naar de invulling van de onafhankelijke controlfunctie bij Woningcorporaties. Wij delen opvallende bevindingen en waarnemingen met u in enkele publicaties. Dit is de eerste, over de ruimte die gegeven wordt bij het inrichten van de onafhankelijke controlfunctie en het effect dat dat heeft. Voor de een geeft een ruime jas de mogelijkheid om er knus in weg te duiken, voor de ander zakt een ruime jas ongemakkelijk van de schouders. Wat kan ruimte in vereisten doen met de inrichting van de onafhankelijke control functie? Welke kansen en risico’s geeft dat corporaties in het algemeen en u als interne toezichthouder in het bijzonder? Rol ambiguïteit, rolconflicten en jobcrafting kunnen signalen zijn voor het niet goed ingericht zijn van de organisatie en daarmee mogelijk van missstanden. Het kan de RvC (en het bestuur) handvatten bieden voor toezicht via soft controls.
MULTIFILE
Beweegrichtlijnen geven aan hoeveel beweging nodig is voor een goede gezondheid van jong tot oud. Voor een gezonde leefstijl van kinderen zijn bewegen, samen spelen, samen leren en samen werken van groot belang, maar dat geldt ook voor ouderen. Picoo brengt het belang van bewegen en samenzijn bij elkaar. Dat zorgt voor een goede ontwikkeling van het kind, het welzijn van ouderen en het verstevigen van het bewegen en samenzijn in de maatschappij. Project: Actief Plezier met Picoo: Jong en Oud in Beweging! Vraag: Draagt Picoo bij aan meer beweging en verbinding tussen kinderen en ouderen door samen te bewegen? Doel: Het inzetten van Picoo leidt tot meer samen beweging, waardoor welzijn van ouderen en ontwikkeling van het kind en meer beweging wordt vergroot. Methode: Mixed method observatieonderzoek /survey/kort gesprek Kinderen tot 18 jaar en senioren 65 plus met een zorgvraag T0: kinderen en ouderen krijgen uitleg over het gebruik van Picoo Interventie: Picoo is een controller en spelcomputer ineen, ontwikkeld om kinderen (maar ook volwassen) interactief buiten te laten spelen.6 Tijdens de actieve games heeft elke deelnemer een eigen controller. De controllers staan met elkaar in verbinding. T1 Tijdens het spel wordt d.m.v. een observatielijst gekeken hoe jong en oud reageren op het samen spelen met Picoo. T2 Na het spel geven kinderen en ouderen door middel van Visual Analogue Scale (smileys) wat hun ervaringen zijn. T3 Na het spel gaan kinderen en ouderen kort met elkaar in gesprek over hun ervaringen Uitvoering: Interdisciplinaire mix van studenten Verpleegkunde, Fysiotherapie, Mens en Techniek en Social Work Eindproduct: Nieuwe testcase en input voor doorontwikkeling Picoo richting verbinding jong en oud. Kennis over mogelijkheden/ervaringen over verbinding door beweging wordt gedissemineerd naar de praktijk en onderwijs. Resultaten worden gerapporteerd en gepubliceerd op relevante sites zoals bijvoorbeeld kenniscentrum sport en bewegen, zorginstellingen en scholen.
De maatschappelijke discussies over de invloed van AI op ons leven tieren welig. De terugkerende vraag is of AI-toepassingen – en dan vooral recommendersystemen – een dreiging of een redding zijn. De impact van het kiezen van een film voor vanavond, met behulp van Netflix' recommendersysteem, is nog beperkt. De impact van datingsites, navigatiesystemen en sociale media – allemaal systemen die met algoritmes informatie filteren of keuzes aanraden – is al groter. De impact van recommendersystemen in bijvoorbeeld de zorg, bij werving en selectie, fraudedetectie, en beoordelingen van hypotheekaanvragen is enorm, zowel op individueel als op maatschappelijk niveau. Het is daarom urgent dat juist recommendersystemen volgens de waarden van Responsible AI ontworpen worden: veilig, eerlijk, betrouwbaar, inclusief, transparant en controleerbaar.Om op een goede manier Responsible AI te ontwerpen moeten technische, contextuele én interactievraagstukken worden opgelost. Op het technische en maatschappelijke niveau is al veel vooruitgang geboekt, respectievelijk door onderzoek naar algoritmen die waarden als inclusiviteit in hun berekening meenemen, en door de ontwikkeling van wettelijke kaders. Over implementatie op interactieniveau bestaat daarentegen nog weinig concrete kennis. Bekend is dat gebruikers die interactiemogelijkheden hebben om een algoritme bij te sturen of aan te vullen, meer transparantie en betrouwbaarheid ervaren. Echter, slecht ontworpen interactiemogelijkheden, of een mismatch tussen interactie en context kosten juist tijd, veroorzaken mentale overbelasting, frustratie, en een gevoel van incompetentie. Ze verhullen eerder dan dat ze tot transparantie leiden.Het ontbreekt ontwerpers van interfaces (UX/UI designers) aan systematische concrete kennis over deze interactiemogelijkheden, hun toepasbaarheid, en de ethische grenzen. Dat beperkt hun mogelijkheid om op interactieniveau aan Responsible AI bij te dragen. Ze willen daarom graag een pattern library van interactiemogelijkheden, geannoteerd met onderzoek over de werking en inzetbaarheid. Dit bestaat nu niet en met dit project willen we een substantiële bijdrage leveren aan de ontwikkeling ervan.
Alcohol Use Disorder (AUD) involves uncontrollable drinking despite negative consequences, a challenge amplified in festivals. ARise is a project using Augmented Reality (AR) to prevent AUD by helping festival visitors refuse alcohol and other substances. Based on the first Augmented Reality Exposure Therapy (ARET) for clinical AUD treatment, ARise uses a smartphone app with AR glasses to project virtual humans that tempt visitors to drink alcohol. Users interact in a safe and personalized way with these virtual humans through phone, voice, and gesture interactions. The project gathers festival feedback on user experience, awareness, usability, and potential expansion to other substances.Societal issueHelping treatment of addiction and stimulate social inclusion.Benefit to societyMore people less patients: decrease health cost and increase in inclusion and social happiness.Collaborative partnersNovadic-Kentron, Thalamusa
