Growing research in sign language recognition, generation, and translation AI has been accompanied by calls for ethical development of such technologies. While these works are crucial to helping individual researchers do better, there is a notable lack of discussion of systemic biases or analysis of rhetoric that shape the research questions and methods in the field, especially as it remains dominated by hearing non-signing researchers. Therefore, we conduct a systematic review of 101 recent papers in sign language AI. Our analysis identifies significant biases in the current state of sign language AI research, including an overfocus on addressing perceived communication barriers, a lack of use of representative datasets, use of annotations lacking linguistic foundations, and development of methods that build on flawed models. We take the position that the field lacks meaningful input from Deaf stakeholders, and is instead driven by what decisions are the most convenient or perceived as important to hearing researchers. We end with a call to action: the field must make space for Deaf researchers to lead the conversation in sign language AI.
LINK
In this paper, we report on the initial results of an explorative study that aims to investigate the occurrence of cognitive biases when designers use generative AI in the ideation phase of a creative design process. When observing current AI models utilised as creative design tools, potential negative impacts on creativity can be identified, namely deepening already existing cognitive biases but also introducing new ones that might not have been present before. Within our study, we analysed the emergence of several cognitive biases and the possible appearance of a negative synergy when designers use generative AI tools in a creative ideation process. Additionally, we identified a new potential bias that emerges from interacting with AI tools, namely prompt bias.
DOCUMENT
In dit artikel worden de belangrijkste oorzaken beschreven van problemen bij het bepalen van en het omgaan met risico’s in het veiligheidsdomein: beperkte gecijferdheid en structurele denkfouten (biases). Aan de hand van een procesmodel wordt inzichtelijk gemaakt waar in het analyse- en besluitvormingsproces de schoen wringt. Het model brengt daarbij bestaande modellen van risicomanagement terug tot de twee fasen die voor het analyseren van problema-tische risicobeslissingen cruciaal zijn: de fase van risicoanalyse en die van risicobeslissing. Waar in de subdomeinen fysieke en sociale veiligheid doorgaans geheel eigen analysemodellen en -methoden gangbaar zijn, biedt het hier gepresenteerde procesmodel een generiek toepasbare benadering van problemen met risicobesluitvorming in het domein van de integrale veiligheid als geheel. Het overzicht van knelpunten is opgesteld aan de hand van de onderzoeksliteratuur en wordt geïllustreerd met behulp van praktijkvoorbeelden. Aan het eind van het artikel wordt stilgestaan bij de vraag of er voor de gesignaleerde problemen een remedie kan worden ont-wikkeld.
MULTIFILE
Receiving the first “Rijbewijs” is always an exciting moment for any teenager, but, this also comes with considerable risks. In the Netherlands, the fatality rate of young novice drivers is five times higher than that of drivers between the ages of 30 and 59 years. These risks are mainly because of age-related factors and lack of experience which manifests in inadequate higher-order skills required for hazard perception and successful interventions to react to risks on the road. Although risk assessment and driving attitude is included in the drivers’ training and examination process, the accident statistics show that it only has limited influence on the development factors such as attitudes, motivations, lifestyles, self-assessment and risk acceptance that play a significant role in post-licensing driving. This negatively impacts traffic safety. “How could novice drivers receive critical feedback on their driving behaviour and traffic safety? ” is, therefore, an important question. Due to major advancements in domains such as ICT, sensors, big data, and Artificial Intelligence (AI), in-vehicle data is being extensively used for monitoring driver behaviour, driving style identification and driver modelling. However, use of such techniques in pre-license driver training and assessment has not been extensively explored. EIDETIC aims at developing a novel approach by fusing multiple data sources such as in-vehicle sensors/data (to trace the vehicle trajectory), eye-tracking glasses (to monitor viewing behaviour) and cameras (to monitor the surroundings) for providing quantifiable and understandable feedback to novice drivers. Furthermore, this new knowledge could also support driving instructors and examiners in ensuring safe drivers. This project will also generate necessary knowledge that would serve as a foundation for facilitating the transition to the training and assessment for drivers of automated vehicles.
Veel mkb ondernemers maken gebruik van een financieel adviseur bij belangrijke financiële beslissingen. Momenteel is er echter weinig inzicht in achterliggende psychosociale factoren die het financiële advies van financieel adviseurs beïnvloeden. Op basis van eerder onderzoek (Kahneman, 2013) blijkt dat mensen zich laten leiden, als het gaat om financiële beslissingen, door een keur aan psychologische ‘denkvalkuilen’ (‘heuristics’ en biases’). Verondersteld wordt dat rol van de adviseur zou moeten zijn om specialistisch en objectief advies te geven, echter de denkvalkuilen en vooroordelen van de cliënt ‘klinken ook door’ in het advies van hun financieel adviseurs. Zo worden irrationele vormen van risicoperceptie en irreële verwachtingen van cliënten ten aanzien van de toekomst meegenomen in de adviezen van adviseurs; “de klant is immers koning.” Eerder onderzoek suggereert dat financieel adviseurs de verwachtingen en ideeën van hun cliënten alleen maar bevestigen en niet, indien nodig, bij irreële of ‘foute’ verwachtingen of aannames, corrigeren. De beweegreden van de adviseur hiervoor zijn dat meegaan met de ideeën van cliënten resulteert in minder verantwoordelijkheid voor de adviseur bij negatieve uitkomsten of resultaten; “dit is immers wat de cliënt zelf wil.” Terwijl veel input en advies het tegenovergestelde bewerkstelligt, “de cliënt vaart blind op de adviezen van zijn adviseur”, wat de cliënt-adviseur relatie in gevaar brengt bij negatieve resultaten. Het gevolg is een suboptimaal en in sommige gevallen slecht financieel advies. Dit onderzoek heeft tot doel de voorwaarden van een opener, beter afgewogen en objectiever financieel advies te ontdekken voor mkb-ondernemers, De centrale vraag is: Hoe komt een financieel adviseur tot een financieel advies voor mkb bedrijven? Deze vraag zal beantwoord worden de een survey bij de twee grootste franchise financiële advieskantoren (+/- 2500 leden), wat een representatieve steekproef is voor de financieel adviseurs in het mkb.
