Vertrouwen in AI-planningen

Het Nederlandse mkb-maakbedrijf wordt gekenmerkt door productie met hoge variëteit en lage volumes, wat zorgt voor uitdagingen, o.a. wat betreft een betrouwbare productieplanning. Recent worden Machine Learning Systemen, zoals in een Digital Twin op basis van Machine Learning, ook door mkb-maakbedrijven, genoemd als oplossing voor het planningsprobleem. Een Digital Twin, met Machine Learning toepassing, fungeert echter als een black box wat het vertrouwen en praktisch gebruik van de uitkomsten belemmert. Om het vertrouwen en het praktisch gebruik van deze ondoorzichtige Machine Learning-modellen te stimuleren, kunnen vormen van Explainable AI een positieve rol spelen. Er is echter nog weinig onderzoek gedaan naar de emotionele en psychologische effecten, zoals vertrouwen van medewerkers in het systeem. Vanuit dit kennishiaat en gevoed door vragen van de praktijkpartners staat in dit onderzoek daarom de volgende vraag centraal:
“Hoe beïnvloeden verschillende vormen van Explainable AI modellen binnen Digital Twin, gecombineerd met Machine Learning systemen, het vertrouwen van productieplanners en gebruikers van planningen in mkb-maakbedrijven, die worden gekenmerkt door een high variety low volume productenpakket?”
Avans Hogeschool en Hogeschool Arnhem Nijmegen slaan, samen met drie praktijkpartners, de handen ineen om aan de hand van interviews en een experimentele setting de behoeften in kaart te brengen van de productieplanners rondom Explainable AI en de relatie met het ervaren vertrouwen in het AI-systeem.