“Echt of nep doet er niet toe, als het maar beter is.” AI roept veel vragen bij ons op, maar vaak nog niet de juiste vragen. Bart Wernaart onderzoekt hoe nieuwe technologie ontworpen kan worden in het belang van de gebruiker. In deze podcast spreekt Erdinç Saçan met Bart Wernaart, Lector moral design strategy en Leading Lector CoE Sustainable and Circular Tansitions bij Fontys hogeschool.
LINK
04-11-2024AI is een uitstekende tool om financiële fraudedetectie en de beoordeling van credit risks te versnellen, zo bleek uit afstudeeropdrachten die studenten van de masteropleiding AI aan de HvA afgelopen semeser bij de financiële opleidingen hebben uitgevoerd. Maar we zien soms dat beslissingen op basis van AI-systemen te rigoureus worden genomen.
LINK
29-11-2023Hoe kunnen we artificial intelligence (AI) zo inzetten dat het de maatschappij ondersteunt? Koningin Máxima ging hierover op 5 oktober 2023 in gesprek met lectoren, onderzoekers en studenten bij het Centre of Expertise Applied AI op de Hogeschool van Amsterdam. Ook sprak de koningin over de kansen en risico’s van kunstmatige intelligentie met sleutelfiguren uit de overheid, zorg en het onderwijs. De opbrengst van de gesprekken van de deelnemers met de koningin kunnen worden samengevat in zeven thema’s.
De vraag: ‘Zal kunstmatige intelligentie (AI) mijn werk vervangen?’ is steeds vaker te horen, specifiek ook onder artsen in ziekenhuizen. AI wordt tegenwoordig ingezet voor allerlei doeleinden in de zorg, variërend van diagnoses stellen tot opereren. De belofte is dat AI de zorg efficiënter en nauwkeuriger maakt, maar er heerst ook onzekerheid onder artsen over de impact op hun werk. Om de vaak gestelde vraag te kunnen beantwoorden of en hoe AI het werk van de arts vervangt, is inzicht nodig in wat dat werk precies inhoudt. Daarvoor introduceren we het woord ‘vakmanschap’. Vakmanschap staat voor bekwaamheid in een vak. We onderzoeken hoe AI het vakmanschap van de arts beïnvloedt en houden rekening met diverse medische specialismen en typen AI. Vervolgens maken we de vertaalslag naar hoe impact van AI op vakmanschap mee te nemen in een verantwoord ontwerp- en implementatieproces van AI. Ons consortium vertegenwoordigt de stem van de arts in ziekenhuizen, het perspectief rondom ‘vakmanschap’ en een veranderende arbeidsmarkt, het perspectief van de AI-ontwikkelaar, de methodische kennis rondom de KEM Ethiek & Verantwoordelijkheid en het mensgericht ontwerpen perspectief. Uiteindelijk beogen we zorg duurzaam te kunnen verlenen met een optimale interactie tussen arts en AI.
Journalisten die veel interactie met hun publiek hebben (zoals consumentenprogramma’s) ontvangen via diverse, vaak besloten, kanalen (Facebook Messenger, WhatsApp, e-mail, fora) een grote stroom tips en/of berichten. Radio Dabanga, bijvoorbeeld, een op Soedan gericht radiostation in Amsterdam en ook een redactie met veel publieksinteractie, krijgt alleen al via WhatsApp 500-3000 berichten per dag. Met een redactie van twee mensen kan niet alles gelezen worden. Maar zelfs als dat kon, dan kan nog niet alles geverifieerd. Het gevolg is dat berichten gemist worden, dat Dabanga-journalisten vooral zoeken naar hun al bekende afzenders, en dat zij permanent het gevoel hebben belangrijke informatie te missen, waardoor zij hun contacten tekort te doen. Dit consortium onderzoekt of data science technieken hierbij kunnen helpen. Natural language processing technieken kunnen helpen de berichtenstroom beter te structureren waardoor tips over laag-frequente onderwerpen niet over het hoofd gezien worden. Recommender systemen kunnen ingezet worden om een betrouwbaarheidsindex te ontwerpen voor tot nog toe onbekende afzenders. Het resultaat is dan minder ondergesneeuwde tips en minder ondergesneeuwde afzenders. De uitkomsten worden getest met journalistenpanels. Bij goede resultaten uit bovenstaande onderzoeken, bouwt het consortium een prototype van de Berichtentemmer: een tool die helpt berichten uit diverse kanalen per onderwerp te structureren. Daardoor kunnen journalisten hun netwerken beter en efficiënter benutten. Bij het bouwen van deze tool hoort ook dat de gebruikte algoritmen transparant moeten zijn voor de journalist en de presentatie van de resultaten niet sturend mag zijn. Het consortium bestaat daarom uit een ‘Data science’-projectgroep voor het ontwerpen en testen van de algoritmen, en uit een ‘Ethiek & design’-projectgroep voor het ontwerpen van richtlijnen over transparantie van de algoritmen en de datavisualisatie. Tenslotte is er een ontwikkelgroep bestaande uit een combinatie van studenten en professional developers. Zij bouwen het prototype.
Dit promotieproject richt zich op Conversational Agents en hun rol in de dienstverlening in het publieke domein. Geautomatiseerde vormen van communicatie komen steeds vaker voor. Dit roept vragen op over het opbouwen van relaties, vertrouwen, vormen van servicegebruik en data-ethiek.
