Robot « social » GRETA ©Catherine Pelachaud CNRS/ISIR Sorbonne Université.
Le COMETS publie un nouvel Avis « Le phénomène d’attachement aux robots dits « sociaux ». Pour une vigilance de la recherche scientifique » (n°2024-46), approuvé le 1er juillet 2024.
Groupe de travail présidé par Christine Noiville
Rapportrice : Catherine Pelachaud
Membres du COMETS : Patrice Debré, Christine Noiville, Catherine Pelachaud
Membres invités : Raja Chatila, professeur émérite d’Intelligence artificielle, de robotique et d’éthique à Sorbonne Université, Jean-Gabriel Ganascia, professeur émérite d’informatique et d’intelligence artificielle à Sorbonne Université
RÉSUMÉ – Le COMETS a souhaité se saisir d’une question qui lui semble avoir été insuffisamment prise en compte par le monde de la recherche publique, celle des robots dits « sociaux » et, plus précisément, des impacts cognitifs et psychologiques liés à l’utilisation croissante de ces outils dans la vie quotidienne.
Les chatbots, agents conversationnels et autres robots de compagnie programmés avec des techniques d’intelligence artificielle et embarqués dans toute une série d’objets connectés – ordinateurs, téléphones, montres, automobiles – font désormais partie intégrante de l’environnement quotidien. Or une quantité croissante d’entre eux sont conçus dans une logique affective, pour faire office de compagnon, de confident, d’ami, de coach de santé ou de bien-être, ou pour remplacer un proche défunt (deadbot). Ils utilisent souvent des attributs propres aux humains (langage, apparence, attitude), sont capables d’interagir avec leur utilisateur sur le modèle des humains (voix, intonation, gestuelle, expressions faciales) et, à l’aide de capteurs audio ou de caméras, prétendent détecter ses émotions (vous êtes triste ? Vous avez l’air angoissé(e) !) et en simuler eux-mêmes (en pleurant avec l’utilisateur, en riant avec lui, en le félicitant, etc.). L’utilisateur tend alors à attribuer à la machine des capacités humaines (intelligence, conscience, bienveillance, empathie), à se projeter dans une interaction affective avec elle, à développer l’illusion que se noue un lien intime et de confiance entre elle et lui, voire à s’y attacher.
Tout en étant conscient que ce phénomène peut engendrer certains bénéfices, le COMETS est préoccupé par les impacts individuels et collectifs qui peuvent en résulter, notamment en termes de dépendance affective, d’addiction, d’emprise, de manipulation, de manque d’interactions avec autrui voire de désocialisation, etc.
Il adhère aux recommandations déjà formulées dans divers cadres (CNPEN, CERNA, littérature juridique et éthique…) en direction des industriels et des ingénieurs concepteurs de robots sociaux, d’une part, et des pouvoirs publics d’autre part. Il s’agit notamment de développer de manière réfléchie et responsable ces dispositifs dès leur conception pour éviter toute manipulation des utilisateurs, d’informer toute personne qui communique avec un robot du fait qu’elle dialogue avec une machine, d’éviter la possibilité technique de manipulations malveillantes, de menaces proférées par le robot, d’exploitation des émotions contraire à l’intégrité et à l’autonomie des personnes, etc.
Le COMETS estime toutefois nécessaire d’appeler spécifiquement à la vigilance les chercheurs, les sociétés savantes et les institutions de la recherche publique, et cela à deux titres.
D’une part, que ce soit au CNRS, à l’INRIA, au CEA, dans diverses universités, un certain nombre de travaux en informatique, robotique, sciences du comportement, traitement du langage, contribuent à conforter le phénomène d’attachement des utilisateurs aux robots sociaux, sans réflexion suffisante sur les finalités recherchées et les effets. S’il est louable de chercher à améliorer l’interface humain-machine pour un meilleur « engagement » des utilisateurs, il est nécessaire de questionner davantage les inconvénients liés à l’anthropomorphisation des robots (en termes d’apparence et de comportements) et aux impacts émotionnels et psychologiques qui l’accompagnent.
D’autre part, la recherche publique a un rôle de premier plan à jouer pour suivre et mesurer les conséquences à long terme de l’utilisation des robots sociaux. Maintenant que ces derniers sont utilisés à grande échelle, il s’agit d’en mesurer l’incidence sur la cognition, le psychisme, le comportement des utilisateurs, le rapport de ces derniers à autrui et au monde ; de construire ainsi un socle de savoirs nécessaires pour faire face aux enjeux liés à l’usage de ces outils et pour en assurer une utilisation responsable et libre.
Le COMETS recommande donc que la recherche publique (chercheurs en informatique et robotique, sociétés savantes, organismes de recherche) :
- développe des formations aux enjeux éthiques (dans les cursus scientifiques et techniques et pour les personnels de recherche concernés), se familiarise davantage avec la littérature internationale consacrée à ces questions et en débatte collectivement ;
- s’interroge sur les finalités de la recherche, des applications et des choix de conception, comme sur les avantages et les inconvénients à donner aux robots une forme ou un comportement humanoïde ou des capacités à capter et à simuler les émotions ;
- mène, dans des situations et contextes réalistes, des études scientifiques de long terme et à grande échelle sur : – les relations que les utilisateurs nouent avec « leurs » robots sociaux et sur les incidences en termes de cognition, de psychisme, d’attachement, d’autonomie d’actions et de décisions ; – les effets du déploiement des robots sociaux sur les relations entre humains ;
- renforce à cet effet les recherches interdisciplinaires et indépendantes associant aux travaux en informatique, en robotique, en sciences du comportement, du traitement du langage, etc., des recherches en psychologie, neurosciences, linguistique, sociologie, droit, éthique, philosophie, anthropologie ;
- dans le cadre d’un observatoire, collecte à grande échelle et à long terme les données relatives à l’utilisation de robots sociaux, la manière dont les utilisateurs se les approprient, les impacts sur leurs états émotionnels et leurs décisions ; l’objectif est d’alimenter la recherche scientifique et, à plus long terme, d’éclairer les utilisateurs et les décideurs sur les conditions d’un développement et d’un usage libre et responsable de ces dispositifs.
