Het is inmiddels breed geaccepteerd dat beslissingen die door AI-systemen worden genomen, uitlegbaar moeten zijn aan hun gebruikers. Toch blijft het in de praktijk vaak onduidelijk hoe die uitlegbaarheid concreet vorm moet krijgen. Vooral voor niet-technische gebruikers, zoals scha-debeoordelaars bij verzekeringsmaatschappijen, is het essentieel dat zij de beslissingen van een AI-systeem goed kunnen begrijpen én kunnen uitleggen aan klanten. Denk bijvoorbeeld aan het toelichten van een afgewezen schadeclaim of leningaanvraag. Hoewel het belang van verklaarbare AI algemeen wordt erkend, ontbreekt het vaak aan praktische handvatten om dit te realiseren. Daarom hebben we in deze handreiking inzichten samengebracht uit twee use cases binnen de financiële sector én uit een uitgebreide literatuurstudie. Hieruit zijn 30 aspecten van betekenisvolle uitleg van AI voortgekomen. Op basis van deze aspecten is een checklist ontwikkeld die AI-ontwikkelaars helpt om hun systemen beter uitlegbaar te maken. De checklist biedt niet alleen inzicht in hoeverre een AI-toe-passing op dit moment begrijpelijk is voor eindgebruikers, maar maakt ook duidelijk waar nog verbeterpunten liggen.
DOCUMENT
Deze handreiking is ontwikkeld voor designers en ontwikkelaars van AI-systemen, met als doel om te zorgen dat deze systemen voldoende uitlegbaar zijn. Voldoende betekent hier dat het voldoet aan de wettelijke eisen vanuit AI Act en AVG en dat gebruikers het systeem goed kunnen gebruiken. In deze handreiking leggen we ten eerste uit wat de eisen zijn die er wettelijk gelden voor uitlegbaarheid van AI-systemen. Deze zijn afkomstig uit de AVG en de AI-Act. Vervolgens leggen we uit hoe AI gebruikt wordt in de financiële sector en werken één probleem in detail uit. Voor dit probleem laten we vervolgens zien hoe de user interface aangepast kan worden om de AI uitlegbaar te maken. Deze ontwerpen dienen als prototypische voorbeelden die aangepast kunnen worden op nieuwe problemen. Deze handreiking is gebaseerd op uitlegbaarheid van AI-systemen voor de financiële sector. De adviezen kunnen echter ook gebruikt worden in andere sectoren.
MULTIFILE
Tijdens deze interactieve presentatie wordt u aan de hand van een case study meegenomen in het juridische landschap rondom softwareontwikkeling en cybersecurity by design, gefocust op de aankomende AI-Verordening en de Cyber resilience verordening.
DOCUMENT
AI is een uitstekende tool om financiële fraudedetectie en de beoordeling van credit risks te versnellen, zo bleek uit afstudeeropdrachten die studenten van de masteropleiding AI aan de HvA afgelopen semeser bij de financiële opleidingen hebben uitgevoerd. Maar we zien soms dat beslissingen op basis van AI-systemen te rigoureus worden genomen.
LINK
Er is weinig aandacht voor het precies definiëren van kunstmatige intelligentie, ook wel artificiële intelligentie (AI). Door het bestaan van verschillende interpretaties en definities van AI is niet helemaal duidelijk wat een AI nu wel of niet kan. Met het woord intelligentie in de naam, en de indrukwekkende nieuwe systemen zoals ChatGPT die in 2022 in de markt kwam, ontstaat het beeld dat AI menselijke eigenschappen heeft. Het gevolg is dat AI wordt gebruikt als co-pilot, als digitaal vriendje of zelfs als alwetende. De mens of de AI, wie bepaalt nu eigenlijk? Of is AI als een collega met wie je goed kunt samenwerken? Tijd om nog eens goed te beschrijven wat AI is, hoe AI wordt ingezet en wat nodig is om AI een meerwaarde te geven en verantwoord te maken.
DOCUMENT
Dit artikel legt het belang uit van goede uitleg van kunstmatige intelligentie. Rechten van individuen zullen door ontwerpers van systemen van te voren moeten worden ingebouwd. AI wordt beschouwd als een 'sleuteltechnologie' die de wereld net zo ingrijpend gaat veranderen als de industriele revolutie. Binnen de stroming XAI wordt onderzoek gedaan naar interpretatie van werking van AI.
DOCUMENT
Kunstmatige intelligentie (AI) wordt steeds vaker toegepast in uiteenlopende sectoren, waaronder de land- en tuinbouw. De Europese Commissie publiceerde in 2024 de definitieve versie van de AI-verordening, een van de eerste uitgebreide wettelijke regelingen voor AI-systemen. Deze regelgeving zal directe gevolgen hebben voor ontwikkelaars en aanbieders van AI-systemen in de agrarische sector, die zich aan de voorschriften van de verordening moeten houden. Het doel van dit afstudeeronderzoek is om inzicht te geven in de voor deze aanbieders relevante vereisten uit de AI-verordening en een be-roepsproduct te ontwikkelen dat deze informatie op een toegankelijke manier presenteert.Disclaimer:De afstudeeropdracht wordt uitgevoerd door een vierdejaarsstudent in het kader van zijn/haar afstuderen bij het Instituut voor Rechtenstudies. De student levert een juridisch beroepsproduct op en doet daartoe onderzoek. De student wordt tijdens de uitvoering van zijn/haar afstudeeropdracht begeleid door een afstudeercoach. De inspanningen van de student en de afstudeercoach zijn erop gericht om een zo goed mogelijk beroepsproduct op te leveren. Dit moet opgevat worden als een product van een (vierdejaars)student en niet van een juridische professional. Mocht ondanks de geleverde inspanningen de informatie of de inhoud van het beroepsproduct onvolledig en/of onjuist zijn, dan kunnen de Hanzehogeschool Groningen, het Instituut voor Rechtenstudies, individuele medewerkers en de student daarvoor geen aansprakelijkheid aanvaarden.
MULTIFILE
In de afgelopen jaren spelen toepassingen van kunstmatige intelligentie (artificiële intelligentie, AI) een steeds prominentere rol bij werk, er wordt zelfs gesproken dat AI menselijke arbeidstaken geheel kan overnemen. De bestaande overzichten van gebruikte AI-tools zijn vaak ingedeeld in categorieën van AI-technologie, de techniek die in het AI-systeem zit. Echter om de AI-impact op de werkvloer te kunnen duiden is ander taalgebruik nodig, dat uitgaat van de werktaak en niet van de AI-techniek. In dit artikel wordt een methodiek uitgewerkt om de rol van AI te duiden, een AI-impactscan in de taal van werktaken, samen met de professionals die deze werktaken (gaan) uitvoeren. De methodiek bestaat uit drie onderdelen: inspiratie, co-creatie om voorbeelden te vinden en impact assessment. Dit resulteert in een overzicht van AI-toepassingen in een specifieke sector of bedrijf. Deze voorbeelden worden ook ingedeeld in toepassingen die al gemeengoed zijn, toepassingen waarmee wordt geëxperimenteerd of toepassingen die in de toekomst van waarde zouden kunnen zijn. Ook het niveau van de impact (hoog, middel, laag) op de werktaak wordt bepaald. Met dit overzicht kan een organisatie aan de slag om met AI-tools een verantwoorde meerwaarde te leveren aan het bedrijfsproces. Door de impactscan met de werknemers uit te voeren, ontstaat daarbij een bewustzijn over wat AI kan bieden in hun eigen takenpakket en het bedrijfsproces. Zo worden AI-systemen realistischer en beter begrepen op de meerwaarde en de beperkingen.
DOCUMENT
An extensive inventory of 137 Dutch SMEs regarding the most important considerations regarding the use of emerging digital technologies shows that the selection process is difficult. En trepreneurs wonder which AI application suits them best and what the added (innovative) value is and how they can implement it. This outcome is a clear signal from SMEs to researchers in knowledge institutions and to developers of AI services and applications: Help! Which AI should I choose? With a consortium of students, researchers, and SMEs, we are creating an approach that will help SMEs make the most suitable AI choice. The project develops a data-driven advisory tool that helps SMEs choose, develop, implement and use AI applications focusing on four highly ranked topics.
LINK
