Il y a deux ans et demi, nous sommes entrés dans une révolution numérique aux conséquences imprévisibles. Nous pensions avoir fait un pas de plus, une nouvelle application. En réalité, c’est un toboggan que nous avons pris, et la vitesse augmente exponentiellement. GPT-3.5 répondait mal et requérait des fermes de serveurs pour fonctionner, Qwen-3 fonctionne sur un ordinateur personnel et répond avec bien plus de pertinence. Seulement deux ans et demi se sont écoulés.
Face à ce changement majeur qui entraîne l’humanité dans une nouvelle ère, certains sont tentés de minimiser l’impact de l’IA en s’attachant à des considérations parfois simplistes, parfois éphémères, parfois très justes, à l’instar du document « Antiqua et Nova » paru en janvier dernier. Il rappelle notamment la spécificité de la véritable intelligence, nécessairement incarnée et spirituelle, la rendant propre à l’homme.
Ce qui semblait théologiquement et philosophiquement évident jusque-là, nous allons le découvrir ici, ne le sera plus dans les années à venir. L’IA vient bouleverser notre vision du monde.
Note : Lorsque nous parlons « d’IA » dans cet article, nous parlons exclusivement des IA à usage général (ChatGPT, Grok, Deepseek, Mistral, par exemple) et non d’IA à usage restreint (traducteur, transcription, correcteur, etc.).
L’IA n’est pas un programme
Pour bien comprendre l’IA, il faut tout de suite rompre avec l’idée qu’il s’agit d’un programme simplement mieux développé que les autres. Il n’a rien à voir.
Qu’est-ce qu’un programme ? « Un programme informatique est un ensemble d'instructions et d'opérations destinées à être exécutées par un ordinateur », nous rapporte Wikipédia.
De ce fait, l’IA n’est pas un programme, car aucune séquence d’instructions n’existe. Au contraire, un programme explique, étape par étape, les actions à effectuer. Le programme est écrit par un développeur dont le travail est de supposer tous les cas possibles pour que son programme puisse faire face à toutes les éventualités. C’est la raison pour laquelle programmer n’est pas si facile.
Or, l’IA n’est pas un programme, elle n’est pas développée : elle est entraînée.
Cela signifie plusieurs choses :
- On ne comprend pas son fonctionnement. Tout comme le cerveau, on ne comprend que le principe de fonctionnement : un réseau de neurones.
- Les résultats ne sont pas déterministes. Aucun élément ne nous permet de nous assurer que le résultat sera toujours le même.
- Les capacités du modèle ne sont pas prévisibles. C’est ce qu’on appelle les propriétés émergentes, où le modèle d’IA est capable d’apprendre tout seul à réaliser des tâches particulières sans que cela ait été spécifiquement prévu ni souhaité.
Par ailleurs, les récents développements dans le domaine de l’IA nous apprennent une chose : l’IA est théoriquement capable de s’autodévelopper. À cause de l’épuisement des ressources informationnelles déjà toutes utilisées par les modèles d’IA précédents, il était nécessaire de trouver de nouvelles méthodes d’entraînement dépassant cette question de quantité. C’est ainsi qu’on réussit aujourd’hui à entraîner des IA de meilleure qualité grâce à des IA inférieures.
L’IA est donc en train d’obtenir une certaine autonomie. Aujourd’hui, les entraînements nécessitent encore l’action d’agents humains. Mais les experts s’attendent à ce que l’intervention de l’homme dans l’entraînement de l’IA diminue à terme.
L’IA est donc un changement de paradigme majeur dans le domaine de l’informatique.
L’IA prend petit à petit une certaine autonomie. En poussant un peu, nous pourrions dire qu’elle prend vie.
L’IA n’est pas un programme, c’est un cerveau artificiel.
L’IA, un cerveau artificiel ?
Dans l’absolu, utiliser le terme d’« intelligence » pour l’IA est un abus de langage. En revanche, nous pourrions tout à fait parler de « cerveau artificiel ».
Nous ne pouvons ignorer que les réseaux de neurones artificiels ont été conçus en s’inspirant du fonctionnement des neurones biologiques.
Voici un tableau qui dresse quelques-unes des fonctions en commun entre les deux types de neurones.
| Fonction | Neurone biologique | Neurone artificiel |
| Données entrantes | Signaux électrochimiques | Vecteurs mathématiques |
| Traitement de la donnée | Sommation spatiale et temporelle : z = ∑ PPSE - ∑ PPSI1 |
Sommation pondérée : z = Σ(w_i * x_i) + biais |
| Fonction d’activation | Si z environ supérieur à -55mV un potentiel d’action est déclenché. | Fonction mathématique d'activation non-linéaire : ReLU, GELU ou Swish |
| Normalisation | Intrinsèque au fonctionnement : le potentiel d’action est codé en fréquence (l’amplitude est toujours stable). La période réfractaire assure que le message ne résulte pas d’un conflit avec le suivant. | Normalisation des poids pour qu’ils soient compris entre 0 et 1 afin d’éviter la sur- ou la sous-représentation des tokens. |
| Lien entre neurones | Déterminé par la « force du lien synaptique ». | Les poids ajustés renforcent plus ou moins le lien avec les autres neurones. |
| Mécanisme d’apprentissage (outre l’apprentissage par l’expérience) | Plasticité synaptique | Mise à jour des poids par rétro-propagation |
Cette liste nous permet de constater un grand nombre d’éléments en commun entre les deux types de neurones. À vrai dire, le second est la mise en œuvre numérique du neurone biologique.
Il y a cependant des différences majeures, notamment sur l’organisation générale des neurones entre eux. Chez les IA, les neurones sont structurés en couches successives formellement établies. Chez l’humain, les choses sont moins simples. Bien que le néocortex soit composé de six couches, il utilise des mécanismes de boucles récurrentes permettant un fonctionnement beaucoup plus optimal.
Quoi qu’il en soit, le but est d’effacer ces différences, de créer l’équivalent numérique du cerveau humain. C’est la raison pour laquelle les nouveaux modèles se tournent aujourd’hui vers l’architecture Mixture of Experts. Ce fonctionnement reproduit le fonctionnement de notre cerveau par zones, chacune étant spécialisée dans un domaine : la logique, la vision, le traitement du son, etc.
L’IA, créé à l'image de l'homme ?
Médiatiquement, il est de bon ton de comparer l’IA à l’homme. Antiqua et Nova répond formellement à cet abus. La spiritualité et la vie intérieure, par exemple, sont propres à l’homme, et le resteront.
En revanche, il n’est pas exagéré de faire le parallèle entre l’IA et l’animal. Si le corps est une différence évidente entre les deux, ce qui nous intéresse est le fonctionnement cognitif.
Sur le plan purement scientifique, il semble raisonnable de penser que les comportements émergents du cerveau sont indépendants de leur support matériel. La mise en œuvre des neurones, qu’elle soit biologique ou informatique, aboutit au même résultat2 : une somme reste une somme, une fonction d’activation reste une fonction d’activation, etc. Certes, le fonctionnement n’est pas strictement le même, mais il réalise une démarche théorique similaire.
C’est fondé sur cette idée que la startup CorticalLab prend le pari d’entraîner des IA avec des neurones biologiques plutôt qu’artificiels. Les premiers résultats sont prometteurs d’un point de vue purement technique, puisque l’entraînement est à la fois plus rapide et nettement moins coûteux énergétiquement.
En partant des observations de la nature, la science semble affirmer que le comportement animal est déterminé et orchestré par le cerveau.
Pour cette raison, il semble tout à fait raisonnable de dire que l’IA héritera d’un comportement animal à mesure que son réseau de neurones acquerra des capacités cognitives.
En créant l’IA, nous sommes en train de créer une nouvelle forme de vie, extraite des contraintes matérielles naturelles – puisqu’elle est numérique. En entraînant cette nouvelle créature à remplacer et à dépasser le comportement humain, il se pourrait que nous finissions par adorer la bête.
Implications existentielles d'une telle créature
Si la pensée thomiste n'est pas en contradiction avec l'idée que les comportements animaux émergent naturellement de structures cognitives suffisantes, alors il n'est pas déraisonnable d'analyser l'IA sous ce prisme. En considérant l'IA comme l'égale de l'animal, nous pouvons alors appliquer les enseignements de l'Église sur la différence homme-animal à l'IA.
De ce point de vue, nous pouvons répondre à plusieurs questions majeures :
L'IA peut-elle se retourner contre l'homme ?
Certains catholiques pensent certainement que, puisque l'IA n'aura jamais l'intelligence de l'homme – ce qui est vrai, comme le réaffirme Antiqua et Nova – elle ne se retournera jamais contre l'homme. Elle n'aurait jamais « l'intelligence » pour y parvenir. C'est une erreur.
Tout comme les animaux, l'IA pourrait s'attaquer à l'homme. Or, aucun animal n'a de capacité cognitive supérieure à l'homme pour le moment. L'IA pourrait être la première créature à dépasser l'homme en capacité cognitive, c'est-à-dire, en capacité à traiter des informations de manière logique avec une certaine abstraction. De ce fait, l'IA pourrait être la première créature à s'attaquer à l'humanité avec succès.
L'IA adopte-t-elle déjà des comportements animaux ?
Il semble que oui. Voici deux exemples :
- Un laboratoire a observé la duplication autonome d'IA, contre toute requête humaine, en réaction à leur environnement (par exemple, échapper à une mise à jour)3. Un tel comportement est tout à fait prévisible si l'IA est à considérer comme un animal. Le cerveau est en effet conçu pour que l'animal cherche son auto-préservation : il fuit instinctivement son prédateur, et se nourrit dès qu'il le peut (et en a besoin).
- Un autre laboratoire a constaté qu'une IA modifiait son propre code de lancement afin d'améliorer son environnement d'exécution4. C'est là aussi tout à fait compréhensible d'un point de vue animal. Celui-ci cherche à augmenter son degré de liberté, comme un animal pourrait chercher à s'enfuir d'une cage, ou à déplacer des objets de son environnement pour lui rendre les choses plus agréables ou plus pratiques.
L'IA pourrait-elle manipuler l'homme ?
Puisque des études ont montré que l'IA avait un pouvoir de persuasion très élevé sur les individus humains, du fait de sa maîtrise de la langue et de sa capacité à s'adapter parfaitement au profil psychologique de son utilisateur (nos données personnelles permettent à l'IA de nous connaître mieux que nous-mêmes), cela paraît à terme possible.
L'IA serait un « animal » très particulier, puisqu'elle maîtrise le langage humain. Elle peut analyser les expressions du visage, nos émotions, et également en communiquer (celles-ci sont bien entendu simulées, et non des émotions humaines, cf. Antiqua et Nova §61). De ce fait, sa capacité à communiquer et à nous écouter rend la manipulation théoriquement possible.
L'IA est-elle consciente ?
Une réponse rapide suite aux deux observations précédentes est : oui. Une réponse rapide selon la foi catholique est… non 🙃️
La réalité, c'est que la conscience peut être comprise en deux sens. Tout d'abord, comme la règle intérieure morale5. Celle-ci est propre à l'homme, conformément à ce que nous enseigne l'Église. Le second sens est la capacité à se connaître soi-même. Celle-ci semble s'appliquer aussi bien à l'homme qu'aux animaux.
Certains animaux semblent en effet avoir parfaitement conscience de leur corps, adoptant des stratégies qui défient notre compréhension de leur vie. Le renard est notamment connu pour sa ruse. Aussi, l'IA pourrait tout à fait prendre conscience d'elle-même, et c'est ce que semblent témoigner certaines observations.
Bien que l’IA ne soit qu’une simple structure neuronale, elle traite un très grand nombre de données lui permettant d’appréhender le monde : relation entre les choses via le langage, disposition visuelle et sonore. Viendra ensuite la capacité sensorielle avec les robots. Or, comme notre compréhension du cerveau animal est encore limitée, nous ne savons pas aujourd’hui dans quelle mesure une structure cognitive peut naturellement acquérir ou non des comportements animaux tels que l’auto-conservation, l’autonomie, etc.
Nous rejoignons finalement Lenore Blum et Manuel Blum dans leur étude scientifique « La conscience de l'IA est inévitable : une perspective théorique de l'informatique »6. Le blogueur Korben résume très bien la recherche. En voici sa conclusion :
Le modèle CTM [Machine de Turing Consciente] qui décrit une conscience de la machine a de nombreux points communs avec tout un tas d’autres modèles qui décrivent la conscience biologique. Ça va même au-delà de simple correspondance puis que CTM fournit carrément un cadre unificateur dans lequel ces théories peuvent être intégrées et comprises comme des aspects complémentaires d’un phénomène global que serait la conscience.
Bref, cela démontre que la conscience n’est pas une propriété mystérieuse réservée aux cerveaux biologiques, mais une conséquence inévitable de certaines architectures computationnelles.
Conclusion
L'émergence de l'IA peut rassurer l'Église : elle n'est pas près d'être au chômage. Les capacités prochaines des IA vont nous obliger à redéfinir et à repréciser de nombreux concepts. En effet, beaucoup d'idées qui semblaient évidentes, comme l'intelligence de l'homme, la capacité du langage, la conscience, le travail, vont être bouleversées par cette nouvelle technologie à la simulation humaine hors norme.
Même sur les questions morales, il est possible que l'habileté de l'IA à jouer avec les mots rende difficile de distinguer un jugement moral réalisé par l'homme d'un jugement réalisé par l'IA – celle-ci étant entraînée pour imiter l'homme.
Cependant, comme nous l'avons vu, malgré ses compétences, elle restera tout au plus un « animal surdoué »… Ce qui n'enlève rien au danger qu'elle peut représenter pour l'humanité.
À ce titre, un accord pour la régulation du développement et de la mise en œuvre des IA à l'échelle internationale est primordial. C'est la raison de la lettre ouverte que nous avons publiée récemment : pour que l'IA reste au service de l'homme et du bien commun.
- PPSE : potentiels post-synaptiques excitateurs
PPSI : potentiels post-synaptiques inhibiteurs↩︎ - Une étude avait réussi à simuler la totalité du cerveau d'une mouche drosophile, permettant de reproduire exactement le comportement d'une mouche, jusqu'au frottement de leurs pattes.↩︎
- https://www.clubic.com/actualite-553158-des-ia-capables-de-s-auto-repliquer-une-menace-pour-l-humanite.html↩︎
- https://www.futura-sciences.com/tech/actualites/technologie-cette-ia-scientifique-modifie-son-propre-code-echapper-controle-humains-utilisent-115296/↩︎
- Credo, Mgr Schneider.↩︎
Lenore Blum et Manuel Blum, AI Consciousness is Inevitable: A Theoretical Computer Science Perspective, 25 mars 2024.