Alexei Grinbaum, physicien, philosophe et auteur de Parole de machines (HumenSciences, 2023), préside le comité opérationnel pilote d’éthique du numérique au Commissariat à l’énergie atomique. Expert auprès de la Commission européenne, il est également membre du Comité consultatif national d’éthique du numérique.

Nous entrons dans une nouvelle époque. Les citoyens, dont des patients psychiatriques qui sont les premiers exposés car ils souffrent de troubles sévères, utilisent des chatbots généralistes, une sorte d’automédication à travers le langage. Auparavant, un patient parlait à un professionnel dans un cadre réglementé. Aujourd’hui, il ouvre son téléphone et discute avec un système qui n’est pas un dispositif médical.

C’est une illusion de croire que les gens préfèrent toujours les humains. Beaucoup disent : « La machine est toujours gentille, elle m’explique tout et ne se fatigue jamais, contrairement aux êtres humains qui s’impatientent. » Le patient ne vit plus seul, il « fait système » avec son chatbot et cela remet en cause le monopole de la confiance qu’avait le médecin, notamment le psychiatre.

C’est la grande question qui, pour l’instant, n’est pas résolue. Contrairement au médecin qui suit des protocoles, l’ingénieur conçoit un modèle de langage, mais ne peut prédire ses réponses à la requête d’un utilisateur, car elles ne sont pas déterministes [non directement liées à des événements antérieurs]. Pourtant, il est le fournisseur du système.