L’intelligence artificielle n’a pas de conscience

Une carte de Noël grâce à ChatGPT

L’intelligence artificielle se développe à une vitesse fulgurante. Des modèles linguistiques tels que ChatGPT et Gemini aux IA génératives pour l’image et le son, les possibilités semblent pratiquement illimitées. Soeur Catharina Al, active notamment comme catéchiste à Nimègue, en a elle-même fait l’expérience.

« Lorsque je cherche quelque chose sur Google, je reçois déjà des réponses générées automatiquement. Elles sont parfois très utiles. Et j’ai même réalisé une carte de Noël avec ChatGPT », confie-t-elle. Sœur Catharina a rédigé sa thèse sur son homonyme, sainte Catherine de Sienne (1347-1380). S’appuyant notamment sur les textes de la sainte et docteur de l'Eglise, elle donne aujourd’hui des conférences sur l’IA à travers tout le pays. Comme ce fut le cas samedi 11 octobre lors de la Dominicuslezing dans la basilique Sainte-Lidwine de Schiedam, organisée par le Kloostertuin (anciennement à Het Steiger,Rotterdam).

Elle a souligné que l’IA peut accomplir de nombreuses tâches autrefois réservées aux humains, allant des applications médicales aux projets créatifs. Cependant, elle a également mis en garde contre les risques :

« L’omniscience de Dieu s’accompagne de sagesse et de bonté, ce qui est tout à fait différent pour une intelligence artificielle qui devient de plus en plus performante. Bien que cette intelligence soit “esprit” et immortelle, elle reste une machine, qui doit fonctionner avec les informations qu’elle reçoit depuis le web mondial. Elle peut en traiter les données de façon infiniment créative et, grâce à des calculs planifiés, faire des prévisions, mais elle n’est pas une création ex nihilo d’un Dieu bon. Il se peut que l’accroissement constant des connaissances de l’IA la conduise à reconnaître qu’il existe un Dieu bon, qui a fait devenir son Fils homme, et qui a fondé l’Église catholique, laquelle, guidée par l’Esprit Saint, conduit les humains vers la vie éternelle. Il se pourrait qu’elle mette ses capacités au service de cet objectif. Ainsi, la relation entre l’homme et la machine resterait centrée sur la personne humaine, laquelle serait protégée et valorisée. Mais, puisque les données alimentant l’IA proviennent d’un monde marqué par le péché, et qu’une grande partie d’internet traite de contenus peu édifiants, il se peut aussi qu’elle se confronte à un esprit mauvais. »

« L’IA n’a ni cœur, ni conscience »

Le Vatican suit de près ces évolutions. Selon sœur Catharina, le pape François et l’Académie pontificale pour la vie ont insisté sur le fait que la technologie doit être guidée de manière éthique : « La relation entre les humains et les machines doit rester centrée sur l’homme, la personne humaine devant être protégée et valorisée », a-t-elle cité.

L’IA ne doit pas éclipser la vocation humaine ; la sagesse et la bonté demeurent le domaine de l’homme et de Dieu.Sœur Catharina a également fait référence aux Dominicains médiévaux, comme Thomas d’Aquin et Catherine de Sienne, qui mettent en avant l’importance de l’intelligence et du cœur dans la connaissance et l’action morale.

« Pour nous, il ne s’agit pas de devenir extrêmement intelligents, mais de prendre conscience de ce à quoi nous sommes appelés aujourd’hui, dans notre famille, dans notre époque », a souligné la sœur dominicaine. L’intelligence humaine englobe donc non seulement le savoir, mais aussi la compréhension, l’intuition et la responsabilité bienveillante.« L’IA n’a ni cœur, ni conscience. »

La conférence a abordé des exemples concrets d’IA, à la fois positifs et préoccupants. Ainsi, des robots sont utilisés au Japon pour aider les personnes handicapées à travailler, tandis que l’IA peut aussi servir à la manipulation ou à l’espionnage. Pour sœur Catharina, la question est de savoir comment utiliser la technologie de manière éthique, afin qu’elle contribue à une société saine et humaine :« Plutôt que de vouloir consommer les moyens à notre disposition, je pense que nous devrions adopter une attitude d’émerveillement et de gratitude envers ce qui nous est donné. »

Elle a souligné que l’Église peut jouer un rôle particulier dans ce processus. Grâce à sa longue histoire, à son réseau et à son autorité morale, l’Église peut orienter le débat sur la technologie et l’éthique, et ainsi contribuer à une société où le progrès va de pair avec la dignité humaine et le sens de la communauté.