Gebruik gezichtsherkenning vormt inbreuk op art. 8 en art.10 EVRM.
MULTIFILE
De opkomst van Chat GPT laat zien hoe AI ingrijpt in ons dagelijks leven en het onderwijs. Maar AI is meer dan Chat GPT: van zoekmachines tot de gezichtsherkenning in je telefoon: data en algoritmes veranderen de levens van onze studenten en hun toekomstige werkveld. Wat betekent dit voor de opleidingen in het HBO waar voor wij werken? Voor de inspiratie-sessie De maatschappelijke impact van AI tijdens het HU Onderwijsfestival 2023 hebben wij onze collega’s uitgenodigd om samen met ons mee te denken over de recente AI-ontwikkelingen. We keken niet alleen naar de technologie, maar juist ook naar de maatschappelijke impact en wat de kansen en bedreigingen van AI zijn voor een open, rechtvaardige en duurzame samenleving. Het gesprek voerde we met onze collega’s (zowel docenten als medewerkers van de diensten) aan de hand van drie casussen met. De verzamelde resultaten en inzichten van deze gesprekken zijn samengebracht op een speciaal ontwikkelde poster voor de workshop (zie figuur 1). We hebben deze inzichten gebundeld en hieronder zijn ze te lezen.
DOCUMENT
Het woord ‘bias’ komt naar voren in zowel maatschappelijk als wetenschappelijk debat over de inzet van artificiële intelligentie (ai). Het verwijst doorgaans naar een vooroordeel dat iets of iemand vaak onbedoeld heeft. Wanneer dit vooroordeel leidt tot een afwijking in besluitvorming vergeleken met een situatie wanneer dit vooroordeel er niet zou zijn, dan is een bias doorgaans onwenselijk.
LINK
Van gezichtsherkenning tot het voorspellen van een menstruatiecyclus: kunstmatige intelligentie (AI) wordt op steeds grotere schaal ingezet om het menselijk lichaam te surveilleren. Hoewel deze technologische blik van AI het menselijk lichaam niet fysiek aanraakt, heeft het wel een impact op de lichamelijke integriteit van mensen. We zijn dan wel de baas over ons lichaam, maar niet over onze lichamelijke data, en wat er met die data gebeurt. In dit project gaan we onderzoeken hoe kunst mensen meer bewust kan maken van dit verlies van controle over hun lichaamsdata. We brengen deze inzichten in de praktijk door een interactieve installatie te ontwikkelen die AI-gedreven surveillance van het lichaam invoelbaar en inzichtelijk maakt. Tegelijkertijd gebruiken we dat ontwikkelproces om kritisch te reflecteren op de verantwoordelijkheid die kunstenaars zelf dragen ten aanzien van de technologie die ze gebruiken, en de lichaamsdata die daarvoor worden verzameld. Uit gesprekken met kunstenaars uit de creatieve industrie tijdens de vraagarticulatie blijkt namelijk dat kunstenaars die maatschappelijke vraagstukken rondom AI thematiseren, daarbij vaak zelf ook van deze technologie gebruik maken. Denk bijvoorbeeld aan een kunstenaar die gezichtsherkenning kritisch bevraagt met een interactieve installatie, en daarvoor lichaamsdata van bezoekers analyseert met AI. Hierbij worden kunstenaars geconfronteerd met belangrijke ethische kwesties over verantwoordelijkheid en rekenschap in het gebruik van AI. Dit project gaat deze ethische kwesties in kaart brengen, en strategieën verzamelen om hier op een verantwoorde manier mee om te gaan. We gaan dat doen met een community van onderzoekers en kunstenaars uit de creatieve industrie. Deze kennis gaan we inzetten om een toolkit te ontwikkelen die kunstenaars handvatten biedt voor toekomstige artistieke praktijken met én over AI. We doen dit met een consortium bestaande uit de Hanze, culturele instelling IMPAKT, kunstenaar Roos Groothuizen en kunstenaarscollectief WERC. Organisatie Bits of Freedom sluit aan als externe maatschappelijke stakeholder.
