Deze bijdrage aan "Smart Humanity" (red. W. Bronsgeest en S. de Waart 2020) schetst een beeld van modellen die richting geven aan processen, organisatorische inrichting, en informatievoorziening. AI-toepassingen worden hierbij gezien als onderdeel van de informatievoorziening.
The healthcare sector has been confronted with rapidly rising healthcare costs and a shortage of medical staff. At the same time, the field of Artificial Intelligence (AI) has emerged as a promising area of research, offering potential benefits for healthcare. Despite the potential of AI to support healthcare, its widespread implementation, especially in healthcare, remains limited. One possible factor contributing to that is the lack of trust in AI algorithms among healthcare professionals. Previous studies have indicated that explainability plays a crucial role in establishing trust in AI systems. This study aims to explore trust in AI and its connection to explainability in a medical setting. A rapid review was conducted to provide an overview of the existing knowledge and research on trust and explainability. Building upon these insights, a dashboard interface was developed to present the output of an AI-based decision-support tool along with explanatory information, with the aim of enhancing explainability of the AI for healthcare professionals. To investigate the impact of the dashboard and its explanations on healthcare professionals, an exploratory case study was conducted. The study encompassed an assessment of participants’ trust in the AI system, their perception of its explainability, as well as their evaluations of perceived ease of use and perceived usefulness. The initial findings from the case study indicate a positive correlation between perceived explainability and trust in the AI system. Our preliminary findings suggest that enhancing the explainability of AI systems could increase trust among healthcare professionals. This may contribute to an increased acceptance and adoption of AI in healthcare. However, a more elaborate experiment with the dashboard is essential.
People tend to be hesitant toward algorithmic tools, and this aversion potentially affects how innovations in artificial intelligence (AI) are effectively implemented. Explanatory mechanisms for aversion are based on individual or structural issues but often lack reflection on real-world contexts. Our study addresses this gap through a mixed-method approach, analyzing seven cases of AI deployment and their public reception on social media and in news articles. Using the Contextual Integrity framework, we argue that most often it is not the AI technology that is perceived as problematic, but that processes related to transparency, consent, and lack of influence by individuals raise aversion. Future research into aversion should acknowledge that technologies cannot be extricated from their contexts if they aim to understand public perceptions of AI innovation.
Artificial Intelligence (AI) wordt realiteit. Slimme ICT-producten die diensten op maat leveren accelereren de digitalisering van de maatschappij. De grote innovaties van de komende jaren –zelfrijdende auto’s, spraakgestuurde virtuele assistenten, autodiagnose systemen, robots die autonoom complexe taken uitvoeren – zijn datagedreven en hebben een AI-component. Dit gaat de rol van professionals in alle domeinen, gezondheidzorg, bouwsector, financiële dienstverlening, maakindustrie, journalistiek, rechtspraak, etc., raken. ICT is niet meer volgend en ondersteunend (een ‘enabling’ technologie), maar de motor die de transformatie van de samenleving in gang zet. Grote bedrijven, overheidsinstanties, het MKB, en de vele startups in de Brainport regio zijn innovatieve datagedreven scenario’s volop aan het verkennen. Dit wordt nog eens versterkt door de democratisering van AI; machine learning en deep learning algoritmes zijn beschikbaar zowel in open source software als in Cloud oplossingen en zijn daarmee toegankelijk voor iedereen. Data science wordt ‘applied’ en verschuift van een PhD specialisme naar een HBO-vaardigheid. Het stadium waarin veel bedrijven nu verkeren is te omschrijven als: “Help, mijn AI-pilot is succesvol. Wat nu?” Deze aanvraag richt zich op het succesvol implementeren van AI binnen de context van softwareontwikkeling. De onderzoeksvraag van dit voorstel is: “Hoe kunnen we state-of-the-art data science methoden en technieken waardevol en verantwoord toepassen ten behoeve van deze slimme lerende ICT-producten?” De postdoc gaat fungeren als een linking pin tussen alle onderzoeksprojecten en opdrachten waarbij studenten ICT-producten met AI (machine learning, deep learning) ontwikkelen voor opdrachtgevers uit de praktijk. Door mee te kijken en mee te denken met de studenten kan de postdoc overzicht en inzicht creëren over alle cases heen. Als er overzicht is kan er daarna ook gestuurd worden op de uit te voeren cases om verschillende deelaspecten samen met de studenten te onderzoeken. Deliverables zijn rapporten, guidelines en frameworks voor praktijk en onderwijs, peer-reviewed artikelen en kennisdelingsevents.
Multiple sclerosis (MS) is a severe inflammatory condition of the central nervous system (CNS) affecting about 2.5 million people globally. It is more common in females, usually diagnosed in their 30s and 40s, and can shorten life expectancy by 5 to 10 years. While MS is rarely fatal; its effects on a person's life can be profound, which signifies comprehensive management and support. Most studies regarding MS focus on how lymphocytes and other immune cells are involved in the disease. However, little attention has been given to red blood cells (erythrocytes), which might also be important in developing MS. Artificial intelligence (AI) has shown significant potential in medical imaging for analyzing blood cells, enabling accurate and efficient diagnosis of various conditions through automated image analysis. The project aims to implement an AI pipeline based on Deep Learning (DL) algorithms (e.g., Transfer Learning approach) to classify MS and Healthy Blood cells.
Digitalisering verandert de werkprocessen van accountantskantoren ingrijpend. Softwarepakketten nemen veel handmatige werkzaamheden van accountants en administrateurs over. Er is een explosieve groei van softwareapplicaties, informatiesystemen, rapportage tools, financial auditing tools, process mining tools, machine learning tools, blockchain technologie, online portal systemen, datamanagement en -analyse methoden. Om efficiënt in te blijven spelen op klantbehoeften moeten mkb-accountantskantoren hun weg vinden in onnoemelijk veel nieuwe ICT-technologie. Zij worden IT-gedreven ondernemingen, terwijl zij daar eerder niet op waren gericht. Zij krijgen een nieuwe onbekende taak. De onderzoeksvraag in dit onderzoek luidt: Hoe kan de mkb-accountant digitalisering, ICT en data-analyses inzetten in zijn beroepspraktijk, zodat beter aan de wensen van zijn mkb-klanten wordt voldaan en de eigen bedrijfsvoering en werkprocessen efficiënter worden? Hiervoor ontwikkelen wij een zelfscan en een data-analyse protocol waarmee de accountant de digitalisering en data-analyse in zijn beroepspraktijk kan verbeteren. Met de zelfscan kan de accountant voor zijn accountantspraktijk, gegeven de wensen van zijn mkb-klanten en de wensen met betrekking tot zijn eigen bedrijfsvoering en werkprocessen, bepalen: het gebruik van de beschikbare informatiesystemen en software tools; de koppeling van de verschillende, beschikbare informatiesystemen en gegevensbronnen van klanten; de implementatie van online portals; en geschikte algoritmen voor de samenstellingswerkzaamheden (gebruikmakend van datamining en machine learning methoden). In het data-analyse protocol staan de relevante data-analyse stappen en data-analyse tools, gebruik makend van Artificial Intelligence (AI), voor de advisering van de accountant aan zijn mkb-klanten beschreven. De wensen van zijn mkb-klanten dienen als uitgangspunt voor de service portfolio van de mkb-accountant. Het gebruik van software, gegevensbestanden en data-analyse zal zodanig moeten zijn dat het gewenste service portfolio kan worden gerealiseerd en tevens de bedrijfsvoering en werkprocessen van het accountantskantoor worden verbeterd (qua efficiëntie en kosten).
