Retour sur la journée d’étude du SDFY sur le thème “Présence réelle dans un monde virtuel”

De nouveaux outils puissants à encadrer

Pour commencer, les participants se sont familiarisés aux nouveaux outils de l’intelligence artificielle grâce à Alexei GRINBAUM. Directeur de recherche au CEA-Saclay, physicien et philosophe, il est spécialiste de la théorie de l’information quantique et membre du Comité National Pilote d’Ethique du Numérique.

Dans un dynamique exposé, il a retracé l’histoire de l’IA dite générative depuis les balbutiements d’Eliza, le premier robot conversationnel créé en 1964, jusqu’aux plus loquaces des chatbox actuels, tels que ChatGPT. De cette plongée dans la technologie qui se cache derrière nos écrans, nous retiendrons qu’il ne s’agit que de calculs, de complétion automatique de mots par corrélation de portions de caractères sans signification, d’une illusion de personnalité créée par les scripts de réponse qui imitent le langage humain avec une évolution d’une sidérante rapidité. Pour donner un ordre d’idée, là où une technologie mettrait d’habitude quelques décennies à se développer, l’IA telle que nous la connaissons aujourd’hui dans sa forme grand public, c’est-à-dire commercialisée, a en fait vu le jour en 2020 !

La suite de l’exposé a été consacré au questionnement éthique.  Nous nous sommes ensuite posé la question, toujours avec Alexei Grinbaum, du rapport entre ces technologies et notre intelligence humaine. Se référant au mathématicien et philosophe Thomas Hobbes, pour qui “ce que fait l’esprit humain, c’est du calcul“, qu’est-ce qui nous distinguera demain de ces machines surpuissantes ? Des expériences ont également été menées sur des conversations où l’IA bien entrainée avec des scripts reproduisant le langage des émotions, donne l’illusion d’une relation personnelle. Il convient de garder à l’esprit que l’on s’adresse à une machine et qu’il ne faut pas faire d’anthropomorphisme. Ce sujet est à l’étude en comité d’éthique.

La question de la responsabilité dans l’usage de ces outils a enfin été évoquée. La machine ne peut être juridiquement déclarée responsable, qu’en est-il de ses concepteurs et de ses utilisateurs ? Cette responsabilité porte sur le corpus de documents servant à l’alignement et l’entrainement des IA, sur la finalité et le style des réponses, le libre-arbitre quant à l’usage des réponses bien sûr. Si la machine ne peut être responsable de rien en tant que telle, elle peut néanmoins être la cause de comportements humains problématiques. Un nouveau règlement vient d’être publié par l’Union Européenne interdisant un certain nombre de pratiques telles que l’utilisation de la reconnaissance faciale, l’étalonnage humain etc.

Les enjeux théologiques et éthiques de l’IA

La parole a dans un second temps été donnée à Gemma SERRANO. Théologienne connue dans notre diocèse pour y avoir fondée et puis enseigné à la Formation Approfondie des Responsables, elle est aujourd’hui directrice de recherche et participe activement au département Humanisme Numérique du Collège des Bernardins.

Elle est venue ouvrir la discussion sur les enjeux théologiques et éthiques de l’IA. Elle s’appuie pour cela sur la promesse de Salut. Que demandent les humains sinon d’être écoutés, compris et qu’on leur réponde. C’est bien ce que l’IA donne l’illusion de faire. Les robots conversationnels écoutent et répondent à des questions, semblent prendre en considération les états d’âme qu’on projette sur eux et simulent un comportement relationnel.
Elle évoque notamment deux types de promesses, celle de la création, de l’engendrement, c’est-à-dire la capacité à générer du neuf, à énoncer son identité qu’elle illustre par la mode des selfies, des avatars, autant de manières de se raconter. L’autre promesse est celle du secours, du soulagement, c’est-à-dire le service que nous rendrait la machine en nous affranchissement de la matière. Cette catégorie pose de nombreuses questions sur nos désirs, notre imaginaire collectif, notre rapport au sacré et nous invite d’urgence à construire des alternatives humaines, récupérer des liens, des savoir-faire, exercer notre esprit critique vis-à-vis de la technique.

Lors d’un ultime dialogue entre les deux conférenciers se sont dégagé quelques pistes de réflexion sur la nécessité d’une théologie du numérique. En effet, contrairement au paradigme technocratique dans lequel nous évoluons en Occident, toute technique n’est pas neutre, tout progrès n’est pas bon pour notre humanité. Gemma Serrano a soulevé les problèmes géopolitiques, écologiques et sociaux liés au développement du numérique tandis qu’Alexei Grinbaum nous faisait remarquer que le Comité National d’Ethique n’était pas convié au Sommet pour l’Action sur l’Intelligence Artificiel. Alors qu’il nous invitait à recourir à la sagesse chrétienne pour penser notre rapport à la technique aujourd’hui (Ecritures, Tradition etc.), Gemma Serrano nous mettait en garde contre deux écueils des textes magistériels qui sont : une approche critique trop systématique de notre culture occidentale technophile et le présupposé que le problème ne vienne pas des technologies en tant que telles mais de l’usage qu’en font les hommes soumis à leurs mauvais penchants.

L’IA pose selon Alexei Grinbaum la question du mal et nous incite à une grande vigilance contre un excès d’anthropomorphisme, l’illusion de la bonté dans la conception (une IA qui serait créée pour le Bien) et la tentation de toute-puissance. Nous sommes indéniablement à l’aube de changements anthropologiques et cette question doit être traitée collectivement.

En guise de conclusion, Gemma Serrano nous a rappelé à notre condition humaine (logos incarné) pour revenir à des gestes et des relations authentiques, concrètes, simples. Soyons des David face aux géants du numérique !

Laurence Bergeron

Consultez le guide formations du SDFY