Robot tutors provide new opportunities for education. However, they also introduce moral challenges. This study reports a systematic literature re-view (N = 256) aimed at identifying the moral considerations related to ro-bots in education. While our findings suggest that robot tutors hold great potential for improving education, there are multiple values of both (special needs) children and teachers that are impacted (positively and negatively) by its introduction. Positive values related to robot tutors are: psychological welfare and happiness, efficiency, freedom from bias and usability. However, there are also concerns that robot tutors may negatively impact these same values. Other concerns relate to the values of friendship and attachment, human contact, deception and trust, privacy, security, safety and accountability. All these values relate to children and teachers. The moral values of other stakeholder groups, such as parents, are overlooked in the existing literature. The results suggest that, while there is a potential for ap-plying robot tutors in a morally justified way, there are imported stake-holder groups that need to be consulted to also take their moral values into consideration by implementing tutor robots in an educational setting. (from Narcis.nl)
MULTIFILE
The challenges facing primary education are significant: a growing teacher shortage, relatively high administrative burdens that contribute to work-related stress and an increasing diversity of children in the classroom. A promising new technology that can help teachers and children meet these challenges is the social robot. These physical robots often use artificial intelligence and can communicate with children by taking on social roles, such as that of a fellow classmate or teaching assistant. Previous research shows that the use of social robots can lead to better results in several ways than when traditional educational technologies are applied. However, social robots not only bring opportunities but also lead to new ethical questions. In my PhD research, I investigated the moral considerations of different stakeholders, such as parents and teachers, to create the first guideline for the responsible design and use of social robots for primary education. Various research methods were used for this study. First of all, a large, international literature study was carried out on the advantages and disadvantages of social robots, in which 256 studies were ultimately analysed. Focus group sessions were then held with stakeholders: a total of 118 parents of primary school children, representatives of the robotics industry, educational policymakers, government education advisors, teachers and primary school children contributed. Based on the insights from the literature review and the focus group sessions, a questionnaire was drawn up and distributed to all stakeholders. Based on 515 responses, we then classified stakeholder moral considerations. In the last study, based on in-depth interviews with teachers who used robots in their daily teaching and who supervised the child-robot interaction of >2500 unique children, we studied the influence of social robots on children's social-emotional development. Our research shows that social robots can have advantages and disadvantages for primary education. The diversity of disadvantages makes the responsible implementation of robots complex. However, overall, despite their concerns, all stakeholder groups viewed social robots as a potentially valuable tool. Many stakeholders are concerned about the possible negative effect of robots on children's social-emotional development. Our research shows that social robots currently do not seem to harm children's social-emotional development when used responsibly. However, some children seem to be more sensitive to excessive attachment to robots. Our research also shows that how people think about robots is influenced by several factors. For example, low-income stakeholders have a more sceptical attitude towards social robots in education. Other factors, such as age and level of education, were also strong predictors of the moral considerations of stakeholders. This research has resulted in a guideline for the responsible use of social robots as teaching assistants, which can be used by primary schools and robot builders. The guideline provides schools with tools, such as involving parents in advance and using robots to encourage human contact. School administrators are also given insight into possible reactions from parents and other parties involved. The guideline also offers guidelines for safeguarding privacy, such as data minimization and improving the technical infrastructure of schools and robots; which still often leaves much to be desired. In short, the findings from this thesis provide a solid stepping stone for schools, robot designers, programmers and engineers to develop and use social robots in education in a morally responsible manner. This research has thus paved the way for more research into robots as assistive technology in primary education.
LINK
To benefit from the social capabilities of a robot math tutor, instead of being distracted by them, a novel approach is needed where the math task and the robot's social behaviors are better intertwined. We present concrete design specifications of how children can practice math via a personal conversation with a social robot and how the robot can scaffold instructions. We evaluated the designs with a three-session experimental user study (n = 130, 8-11 y.o.). Participants got better at math over time when the robot scaffolded instructions. Furthermore, the robot felt more as a friend when it personalized the conversation.
MULTIFILE
De robotassistent is een nieuwe, veelbelovende technologie om docenten in het primair onderwijs te ondersteunen en leerprestaties te verbeteren. In dit onderzoek ontwikkelen we een morele theorie voor het inzetten van deze robotassistenten in het onderwijs.Doel Met dit onderzoek ontwikkelen we een theorie over het moreel verantwoord inzetten van robotassistenten in het onderwijs, waarbij kwalitatieve en kwantitatieve data wordt gecombineerd. Resultaten Dit onderzoek loopt. Hieronder vind je een overzicht van de resultaten tot nu toe. Smakman, M. (2019) De robotdocent komt eraan, maar hoe? AG Connect. Januari/ Februari 2019. pp 70-73 Smakman, M., & Konijn, E. (2019). Robot Tutors: Welcome or Ethically Questionable? In M. Merdan, W. Lepuschitz, G. Koppensteiner, R. Balogh, & D. Obdržálek (Eds.), Robotics in Education ‐ Current Research and Innovations. Vienna, Austria: Springer. [in press] Smakman, M. and Konijn, E.A. (2019-02-07) Onderwijsrobots: van harte welkom of ethisch onverantwoord? Presented at Robots en AI in het onderwijs. Den Haag, The Netherlands. Smakman, M. And Konijn, E.A. (2019-01-31) Moral challenges and opportunities for educational robots Presented at Workshop How do we work with educational robots? De Waag, Amsterdam, The Netherlands. Goudzwaard, M., Smakman, M., Konijn, E.A. Robots are Good for Profit: A Business Perspective on Robots in Education. [accepted] to 9th Joint IEEE International Conference on Development and Learning and on Epigenetic Robotics Smakman, M., Konijn, E.A. (2019, February) Moral Considerations Regarding Robots in Education: A Systematic Literature Review. Paper presented at Etmaal van de Communicatiewetenschap, 7-8 February 2019. Nijmegen, The Netherlands Smakman, M., Konijn. E.A. (2018, December) Considerations on moral values regarding robot tutors. Presented at the Symposium on Robots for Language Learning. 12-13 December 2018. Koç University, Istanbul, Turkey Smakman, M. (2018, February). Moral concerns regarding robot tutors, a review.Poster presented at the ATEE 2018 Winter Conference – Technology and Innovative Learning, Utrecht, The Netherlands. Looptijd 01 januari 2017 - 01 januari 2022 Aanpak Dit onderzoek maakt gebruik van de Value Sensitive Design (VSD) methodology. VSD is een methode om rekening te houden met morele waarden tijdens het ontwerpen en inzetten van technologie. Eerst richt dit onderzoek op het benoemen van relevante (morele) waarden. Door verschillende focusgroepen met onder meer ouders, leraren, overheid en robotbouwers, worden de waarden verder uitgewerkt. Vervolgens wegen we de waarden door ze voor te leggen aan diverse groepen. Daarna stellen we richtlijnen op hoe robots op een verantwoorde manier kunnen worden ingezet.
De robot assistent is een nieuwe, veelbelovende technologie om docenten te ondersteunen en leerprestaties te verbeteren. Echter, een moreel kader voor een aanvaardbare inzet van zulke robots mist nog.Doel Het doel van dit project is, het creëren van een richtlijn, in samenwerking met stakeholders, voor het toepassen van robots in het basisonderwijs op een moreel verantwoorde manier. Resultaten Het hoofddoel van dit project is het creëren van een richtlijn voor het moreel verantwoord toepassen van sociale robots in het Nederlandse basisonderwijs. Deze richtlijn kan worden gebruikt door alle belangrijke belanghebbenden, zoals leraren, robotbedrijven en schoolbesturen, bij het nemen van beslissingen over het ontwerpen, bouwen en toepassen van sociale robots. Looptijd 01 november 2017 - 01 november 2021 Aanpak Dit project maakt gebruik van de Value Sensitive Design Methodology. Ten eerste voeren we een grootschalig systematisch literatuuronderzoek uit om de relevante morele waarden te identificeren. Daarna houden we focusgroepsessies met belanghebbenden om deze waarden verder te conceptualiseren. Op basis van de focusgroepsessies zullen we een enquête ontwikkelen om kwantitatieve gegevens over de stakeholderperspectieven te verkrijgen. Deze onderzoeken vormen de basis voor de richtlijnen. Extra informatie Stel je voor: een robot die de leerkracht helpt in de klas. Interview met Matthijs Smakman voor De Nationale Wetenschapsagenda (NWA) Relevantie Bijdrage aan de wetenschap Meerdere studies benadrukken de dringende behoefte aan ethische reflectie en richtlijnen voor robotleraren en theoretisch integratie van de tot dusver bekende, gefragmenteerde resultaten. Dit promotieonderzoek beoogt dit te doen door het ontwikkelen van een nieuwe moraaltheorie over de ethische opvattingen die verbonden zijn aan de implementatie van robotleraren, en test de theoretische aannames empirisch. De resultaten zullen worden verspreid op wetenschappelijke conferenties, debatten en in tijdschriftpublicaties. Bijdrage aan de samenleving De angst en implicaties van intelligente robots die banen overnemen, maakt deel uit van een internationaal debat (Brynjolfsson & McAfree, 2016) en zal een grote impact hebben op de taken van docenten. Robotleraren zijn een perfecte kandidaat om te helpen leraren in hun toenemende werkdruk. Er moet echter voorzichtig worden omgegaan met het introduceren van robotleraren in het klas. Dit doctoraatsonderzoek erkent de morele overwegingen en zorgt voor de nodige theoretische basis om een richtlijn te ontwikkelen voor de implementatie van robotleraren op een moreel gepaste manier. De resultaten wordt via websites, videoclips en maatschappelijke debatten aan het publiek getoond. Co-financiering Dit onderzoek is gefinancierd door NWO, Promotiebeurs voor Leraren, projectnumer: 023.00.066 Aanvullende documenten en doorverwijzingen Publicaties Smakman, M.H.J.; Konijn, E.A.; Vogt, P.; Pankowska, P. Attitudes towards Social Robots in Education: Enthusiast, Practical, Troubled, Sceptic, and Mindfully Positive. Robotics 2021, 10, 24. https://doi.org/10.3390/robotics10010024 Smakman, M., Berket, J., Konijn, E. A. (2020, October). The Impact of Social Robots in Education: Moral Considerations of Dutch Educational Policymakers. In 2020 29th IEEE International Conference on Robot and Human Interactive Communication (RO-MAN) (pp. 647-652). IEEE. Van Ewijk, G., Smakman, M., & Konijn, E. A. (2020, June). Teacher's perspectives on social robots in education: an exploratory case study. In Proceedings of the Interaction Design and Children Conference (pp. 273-280). Konijn, E.A., Smakman, M. & van den Berghe, R. (2020). Use of Robots in Education. In: van den Bulck, J., Sharrer, E., Ewoldsen, D. & Mares, M-L. (Eds). The International Encyclopedia of Media Psychology. Wiley Publisher Smakman, M., Jansen, B., Leunen, J., & Konijn, E. (2020) Acceptable Social Robots in Education: A Value Sensitive Parent Perspective. In INTED2020 Proceedings (pp 7946-7953). Smakman M., Konijn E.A. (2020) Robot Tutors: Welcome or Ethically Questionable?. In: Merdan M., Lepuschitz W., Koppensteiner G., Balogh R., Obdržálek D. (eds) Robotics in Education. RiE 2019. Advances in Intelligent Systems and Computing, vol 1023. Springer, Cham Goudzwaard, M., Smakman, M., & Konijn, E. A. (2019). Robots are Good for Profit: A Business Perspective on Robots in Education. 2019 Joint IEEE 9th International Conference on Development and Learning and Epigenetic Robotics (ICDL- EpiRob), 54–60. https://doi.org/10.1109/DEVLRN.2019.8850726 Video Stel je voor: een robot die de leerkracht helpt in de klas
