I Spy with my AI:Een artistiek onderzoek naar AI in surveillance en de praktijk van kunstenaars

Van gezichtsherkenning tot het voorspellen van een menstruatiecyclus: kunstmatige intelligentie (AI) wordt op steeds grotere schaal ingezet om het menselijk lichaam te surveilleren. Hoewel deze technologische blik van AI het menselijk lichaam niet fysiek aanraakt, heeft het wel een impact op de lichamelijke integriteit van mensen. We zijn dan wel de baas over ons lichaam, maar niet over onze lichamelijke data, en wat er met die data gebeurt.
In dit project gaan we onderzoeken hoe kunst mensen meer bewust kan maken van dit verlies van controle over hun lichaamsdata. We brengen deze inzichten in de praktijk door een interactieve installatie te ontwikkelen die AI-gedreven surveillance van het lichaam invoelbaar en inzichtelijk maakt. Tegelijkertijd gebruiken we dat ontwikkelproces om kritisch te reflecteren op de verantwoordelijkheid die kunstenaars zelf dragen ten aanzien van de technologie die ze gebruiken, en de lichaamsdata die daarvoor worden verzameld. Uit gesprekken met kunstenaars uit de creatieve industrie tijdens de vraagarticulatie blijkt namelijk dat kunstenaars die maatschappelijke vraagstukken rondom AI thematiseren, daarbij vaak zelf ook van deze technologie gebruik maken. Denk bijvoorbeeld aan een kunstenaar die gezichtsherkenning kritisch bevraagt met een interactieve installatie, en daarvoor lichaamsdata van bezoekers analyseert met AI. Hierbij worden kunstenaars geconfronteerd met belangrijke ethische kwesties over verantwoordelijkheid en rekenschap in het gebruik van AI.
Dit project gaat deze ethische kwesties in kaart brengen, en strategieën verzamelen om hier op een verantwoorde manier mee om te gaan. We gaan dat doen met een community van onderzoekers en kunstenaars uit de creatieve industrie. Deze kennis gaan we inzetten om een toolkit te ontwikkelen die kunstenaars handvatten biedt voor toekomstige artistieke praktijken met én over AI. We doen dit met een consortium bestaande uit de Hanze, culturele instelling IMPAKT, kunstenaar Roos Groothuizen en kunstenaarscollectief WERC. Organisatie Bits of Freedom sluit aan als externe maatschappelijke stakeholder.