ZoekresultatenZoekresultaten
Volg ons op
Volg ons op
Deze handreiking is ontwikkeld voor designers en ontwikkelaars van AI-systemen, met als doel om te zorgen dat deze systemen voldoende uitlegbaar zijn. Voldoende betekent hier dat het voldoet aan de wettelijke eisen vanuit AI Act en AVG en dat gebruikers het systeem goed kunnen gebruiken. In deze handreiking leggen we ten eerste uit wat de eisen zijn die er wettelijk gelden voor uitlegbaarheid van AI-systemen. Deze zijn afkomstig uit de AVG en de AI-Act. Vervolgens leggen we uit hoe AI gebruikt wordt in de financiële sector en werken één probleem in detail uit. Voor dit probleem laten we vervolgens zien hoe de user interface aangepast kan worden om de AI uitlegbaar te maken. Deze ontwerpen dienen als prototypische voorbeelden die aangepast kunnen worden op nieuwe problemen. Deze handreiking is gebaseerd op uitlegbaarheid van AI-systemen voor de financiële sector. De adviezen kunnen echter ook gebruikt worden in andere sectoren.
MULTIFILE
De versmelting van mens en machine zal door ontwikkelingen als AR, VR, Robotica en AI steeds groter worden. Daarnaast zien we dat het risico dat vooroordelen (veelal onbewust) in onze systemen terecht komen groter wordt met de komst van meer datagedreven systemen. Deze twee ontwikkelingen maken dat we als samenleving bewuster en actiever bezig moet gaan met het tegengaan van bias in algoritmes. In deze whitepaper wordt uitgelegd hoe vooroordelen algoritmes binnendringen en wat hiervan de risico’s zijn. Vervolgens wordt deze ontwikkeling van een andere kant beschouwd: algoritmes zelf zijn juist neutraal, zij hebben geen last van onderbuik-gevoelens en kunnen daarom juist helpen om een rechtvaardigere samenleving te krijgen. Dit kan bewerkstelligd worden door niet alleen te acteren op het niveau van technologie, maar ook te kijken naar het proces en de mensen rondom de totstandkoming en gebruiken van algoritmes. Een belangrijk aspect hierbij is transparantie. Het gaat dan om transparantie naar de burger, maar ook over uitlegbaarheid van het algoritme. Hoe dit in zijn werk zou kan gaan wordt geïllustreerd aan de hand van een onderzoekscasus die is uitgevoerd door studenten van de opleiding HBO-ICT, uitgevoerd bij Dienst Toeslagen.
DOCUMENT
This guide was developed for designers and developers of AI systems, with the goal of ensuring that these systems are sufficiently explainable. Sufficient here means that it meets the legal requirements from AI Act and GDPR and that users can use the system properly. Explainability of decisions is an important requirement in many systems and even an important principle for AI systems [HLEG19]. In many AI systems, explainability is not self-evident. AI researchers expect that the challenge of making AI explainable will only increase. For one thing, this comes from the applications: AI will be used more and more often, for larger and more sensitive decisions. On the other hand, organizations are making better and better models, for example, by using more different inputs. With more complex AI models, it is often less clear how a decision was made. Organizations that will deploy AI must take into account users' need for explanations. Systems that use AI should be designed to provide the user with appropriate explanations. In this guide, we first explain the legal requirements for explainability of AI systems. These come from the GDPR and the AI Act. Next, we explain how AI is used in the financial sector and elaborate on one problem in detail. For this problem, we then show how the user interface can be modified to make the AI explainable. These designs serve as prototypical examples that can be adapted to new problems. This guidance is based on explainability of AI systems for the financial sector. However, the advice can also be used in other sectors.
DOCUMENT
Artikel in vakblad AG Connect waarin de auteurs ingaan op de uitlegbaarheid en begrijpbaarkeid van kunstmatige intelligentie.
DOCUMENT
In een tijdperk waarin algoritmische processen ons dagelijks leven steeds meer beïnvloeden, groeit de behoefte aan begrijpelijke verklaringen voor deze processen. Dit artikel introduceert een methodologische benadering om de mogelijkheden voor betekenisvolle verklaringen van algoritmische processen te onderzoeken. Door gebruik te maken van zowel theoretische kaders als empirische casestudies, wil deze studie de kloof tussen algoritmische complexiteit en gebruikersbegrip overbruggen. De voorgestelde methode legt de nadruk op transparantie en toegankelijkheid en ondersteunt beleidsmakers en technologieontwerpers bij het creëren van meer begrijpelijke en verantwoordelijke technologische toepassingen. De belangrijkste bevindingen uit dit onderzoek benadrukken de cruciale rol van interdisciplinaire benaderingen bij het vormgeven van effectieve mechanismen voor betekenisvolle uitleg, die essentieel zijn voor het bevorderen van een ethisch verantwoorde integratie van technologie in de samenleving.
DOCUMENT
Wereldwijd zijn er veel initiatieven op het gebied van kunstmatige intelligentie (AI) die gebruik maken van slimme algoritmen, die op basis van trainingsgegevens meer verbanden kunnen leggen dan voor een menselijk brein mogelijk is. Nu er meer AI in gebruik is, rijzen er zorgen over discriminatie van bepaalde individuen of groepen. Het aantal voorbeelden van AI die onbedoeld vooroordelen bevatten of om een andere reden tot oneerlijke uitkomsten leiden, neemt toe
DOCUMENT
Deze bijdrage aan "Smart Humanity" (red. W. Bronsgeest en S. de Waart 2020) schetst een beeld van modellen die richting geven aan processen, organisatorische inrichting, en informatievoorziening. AI-toepassingen worden hierbij gezien als onderdeel van de informatievoorziening.
DOCUMENT
De onderzoeksagenda voor het Responsible Applied Artificial InTelligence (RAAIT) programma. RAAIT draait om het ontwerpen, ontwikkelen, en inbedden van AI-oplossingen waarbij getracht wordt om negatieve implicaties van AI-toepassingen voor individuen, samenleving en planeet te minimaliseren en positieve implicaties te stimuleren. Het RAAIT programma is een samenwerking tussen de hogescholen van Amsterdam, Rotterdam en Utrecht. Het betreft een achtjarig onderzoeksprogramma met als doel het opzetten van een infrastructuur ten behoeve van excellent onderzoek op een actueel, maatschappelijk vraagstuk: Responsible Applied AI.
DOCUMENT
Generatieve AI heeft het onderwijs binnen korte tijd voor grote uitdagingen gesteld. Chatbots ondersteunen inmiddels een groot deel van de studenten bij allerlei leeractiviteiten en veel docenten gebruiken AI bij de voorbereiding van lessen en het construeren van toetsen (Bos, Lammers & Prince van Leeuwen, 2025; Groothuijsen, van den Beemt, Remmers & Meeuwen, 2024; Braad, Nauta & Tuinier, 2026). De ontwikkeling gaat snel: wat gisteren nog experimenteel leek, kan vaak vandaag al in de collegezaal worden gebruikt. Dat brengt spanningen met zich mee, omdat onderwijsinstellingen worstelen met fundamentele vragen.
MULTIFILE
Dit artikel legt het belang uit van goede uitleg van kunstmatige intelligentie. Rechten van individuen zullen door ontwerpers van systemen van te voren moeten worden ingebouwd. AI wordt beschouwd als een 'sleuteltechnologie' die de wereld net zo ingrijpend gaat veranderen als de industriele revolutie. Binnen de stroming XAI wordt onderzoek gedaan naar interpretatie van werking van AI.
DOCUMENT
Types
0Instelling
26Bestandstype
9Taal
5Publicatiejaar
12Thema's
14Producttype
14Publicaties met bestand / URL
2Projectstatus
3