In this paper, we explore the design of web-based advice robots to enhance users' confidence in acting upon the provided advice. Drawing from research on algorithm acceptance and explainable AI, we hypothesise four design principles that may encourage interactivity and exploration, thus fostering users' confidence to act. Through a value-oriented prototype experiment and value-oriented semi-structured interviews, we tested these principles, confirming three of them and identifying an additional principle. The four resulting principles: (1) put context questions and resulting advice on one page and allow live, iterative exploration, (2) use action or change oriented questions to adjust the input parameters, (3) actively offer alternative scenarios based on counterfactuals, and (4) show all options instead of only the recommended one(s), appear to contribute to the values of agency and trust. Our study integrates the Design Science Research approach with a Value Sensitive Design approach.
MULTIFILE
This article investigates the aesthetic advice posted by temporary employment agencies on their websites. These agencies organise a substantial part of the Dutch labour market and they are known to apply exclusionary practices in their strategies of recruitment and selection in order to meet employers’ preferences. This article sheds light on (1) the content of the advice; (2) how it legitimises the importance of aesthetics for finding work; and (3) in what ways the advice serves the purposes of the agencies. An in-depth content analysis illustrates how the advice has the potential to reproduce exclusions, thus helping employment agencies adhere to employers’ exclusionary requests. Creating online content that generates traffic to the websites in this case causes a circular logic in which the importance of aesthetics is self-reinforcing. The study illustrates that the seemingly neutral and empty advice posted on websites may enforce exclusions in the temporary work labour market.
DOCUMENT
In this paper, we explore the design of web-based advice robots to enhance users' confidence in acting upon the provided advice. Drawing from research on algorithm acceptance and explainable AI, we hypothesise four design principles that may encourage interactivity and exploration, thus fostering users' confidence to act. Through a value-oriented prototype experiment and valueoriented semi-structured interviews, we tested these principles, confirming three of them and identifying an additional principle. The four resulting principles: (1) put context questions and resulting advice on one page and allow live, iterative exploration, (2) use action or change oriented questions to adjust the input parameters, (3) actively offer alternative scenarios based on counterfactuals, and (4) show all options instead of only the recommended one(s), appear to contribute to the values of agency and trust. Our study integrates the Design Science Research approach with a Value Sensitive Design approach.
DOCUMENT
In het project “ADVICE: Advanced Driver Vehicle Interface in a Complex Environment” zijn belangrijke onderzoeksresultaten geboekt op het gebied van het schatten van de toestand en werklast van een voertuigbestuurder om hiermee systemen die informatie geven aan de bestuurder adaptief te maken om zo de veiligheid te verhogen. Een voorbeeld is om minder belangrijke informatie van een navigatiesysteem te onderdrukken, zolang de bestuurder een hoge werklast ervaart voor het autorijden en/of belangrijke informatie juist duidelijker weer te geven. Dit leidt tot een real-time werklast schatter die geografische informatie meeneemt, geavaleerd in zowel een rijsimulator als op de weg. In de ontwikkeling naar automatisch rijden is de veranderende rol van de bestuurder een belangrijk (veiligheids) onderwerp, welke sterk gerelateerd is aan de werklast van de bestuurder. Indien rijtaken meer geautomatiseerd worden, wijzigt de rol van actieve bestuurder meer naar supervisie van de rijtaken, maar tevens met de eis om snel en gericht in te grijpen indien de situatie dit vereist. Zowel deze supervisie als interventietaak zijn geen eenvoudige taken met onderling een sterk verschillende werklast (respectievelijk lage en (zeer) hoge werklast). Of een goede combinatie inclusief snelle overgangen tussen deze twee hoofdtaken veilig mogelijk is voor een bestuurder en hoe dit dan het beste ondersteund kan worden, is een belangrijk onderwerp van huidig onderzoek. De ontwikkeling naar autonoom rijden verandert niet alleen de rol van de bestuurder, maar zal ook de eisen aan het rijgedrag van het voertuig beïnvloeden, de voertuigdynamica. Voor de actieve bestuurder kunnen snelle voertuigreacties op bestuurdersinput belangrijk zijn, zeker voor een ‘sportief’ rijdende bestuurder. Indien dit voertuig ook automatische rijtaken moet uitvoeren, kan juist een meer gelijkmatig rijgedrag gewenst zijn, zodat de bestuurder ook andere taken kan uitvoeren. Dit stelt eisen aan vertaling van (automatische) input naar voertuigreactie en aan de voertuigdynamica. Mogelijk wil zelfs een sportieve bestuurder een meer comfortabel voertuiggedrag tijdens automatisch rijden. Eveneens voor deze twee voertuigtoestanden, menselijke of automatische besturing, moet gezocht worden naar een goede combinatie inclusief (veilige) overgangen tussen deze twee toestanden. Hierbij speelt de werklast en toestand van de bestuurder een doorslaggevende rol. In de geschetste ontwikkelingen in automatisch rijden kunnen de onderzoeksresultaten van ADVICE een goede ondersteuning bieden. Veel van deze ontwikkelingen worstelen met het schatten van de werklast van de bestuurder als cruciaal (veiligheids) aspect van automatisch rijden. De ADVICE resultaten zijn echter gepresenteerd voor beperkt publiek en gepubliceerd op conferenties, waarvan de artikelen veelal slechts tegen betaling toegankelijk zijn. Daarnaast zijn dergelijke artikelen gelimiteerd in aantal pagina’s waardoor de over te dragen informatie beperkt is. Om een betere doorwerking van ADVICE aan ‘iedereen’ te realiseren en tevens de mogelijkheden hiervan in de toekomst van automatisch rijden te plaatsen, willen wij top-up gebruiken om hierover een artikel te schrijven en dit in een peer-reviewed Open Access tijdschrift online toegankelijk te maken. Hierdoor wordt de informatie voor iedereen, gratis toegankelijk (open access), is de inhoud uitgebreider aan te geven (tijdschriftartikel) en is de inhoud en kwaliteit goed en relevant voor het vakgebied (peer-reviewed).
Door aanhoudende digitalisering nemen de mogelijkheden voor data-analyse toe. In de private sector wordt hier al veelvuldig gebruik van gemaakt, maar in de publieke sector is men nog voorzichtig. Met name in het veiligheidsdomein wordt nog voorzichtig omgesprongen met technologieën zoals dashboards, big data en kunstmatige intelligentie. De reden hiervoor is de balans die bewaard moet worden tussen de soms vergaande bevoegdheden van overheden en de bescherming van burgers, die zich soms in een kwetsbare positie bevinden.
Structural colour (SC) is created by light interacting with regular nanostructures in angle-dependent ways resulting in vivid hues. This form of intense colouration offers commercial and industrial benefits over dyes and other pigments. Advantages include durability, efficient use of light, anti-fade properties and the potential to be created from low cost materials (e.g. cellulose fibres). SC is widely found in nature, examples include butterflies, squid, beetles, plants and even bacteria. Flavobacterium IR1 is a Gram-negative, gliding bacterium isolated from Rotterdam harbour. IR1 is able to rapidly self-assemble into a 2D photonic crystal (a form of SC) on hydrated surfaces. Colonies of IR1 are able to display intense, angle-dependent colours when illuminated with white light. The process of assembly from a disordered structure to intense hues, that reflect the ordering of the cells, is possible within 10-20 minutes. This bacterium can be stored long-term by freeze drying and then rapidly activated by hydration. We see these properties as suiting a cellular reporter system quite distinct from those on the market, SC is intended to be “the new Green Fluorescent Protein”. The ability to understand the genomics and genetics of SC is the unique selling point to be exploited in product development. We propose exploiting SC in IR1 to create microbial biosensors to detect, in the first instance, volatile compounds that are damaging to health and the environment over the long term. Examples include petroleum or plastic derivatives that cause cancer, birth defects and allergies, indicate explosives or other insidious hazards. Hoekmine, working with staff and students within the Hogeschool Utrecht and iLab, has developed the tools to do these tasks. We intend to create a freeze-dried disposable product (disposables) that, when rehydrated, allow IR1 strains to sense and report multiple hazardous vapours alerting industries and individuals to threats. The data, visible as brightly coloured patches of bacteria, will be captured and quantified by mobile phone creating a system that can be used in any location by any user without prior training. Access to advice, assay results and other information will be via a custom designed APP. This work will be performed in parallel with the creation of a business plan and market/IP investigation to prepare the ground for seed investment. The vision is to make a widely usable series of tests to allow robust environmental monitoring for all to improve the quality of life. In the future, this technology will be applied to other areas of diagnostics.
