IA et science : le risque d’une recherche que l’humain ne sait plus lire

L’intelligence artificielle entre dans les laboratoires avec une promesse claire : analyser plus vite, modéliser des phénomènes complexes, trier une littérature scientifique devenue ingérable et suggérer des hypothèses que des équipes humaines n’auraient peut-être pas formulées seules. Cette promesse est réelle. Mais elle fait revenir une question moins confortable : que devient la science si une partie du savoir produit avec ces systèmes devient difficile à relire, vérifier ou expliquer par les chercheurs eux-mêmes ?

Le débat n’est pas seulement technique. Il ne s’agit pas de savoir si un modèle d’IA peut accélérer une simulation ou aider à concevoir une molécule. La difficulté est plus profonde : une explication peut-elle être considérée comme scientifique si elle fonctionne, mais si ses concepts, ses étapes ou ses justifications ne se traduisent plus dans un langage que la communauté scientifique peut discuter ? C’est ce que certains chercheurs et essayistes décrivent comme un problème de lisibilité.

Accélérer la recherche ne suffit pas

Les usages de l’IA en science sont déjà nombreux. Des systèmes génératifs ou prédictifs peuvent analyser des images, modéliser des matériaux, explorer des combinaisons chimiques, résumer des articles ou aider à formuler des hypothèses. Dans un article publié dans AI and Ethics, David B. Resnik souligne que l’IA transforme rapidement le flux de travail scientifique, tout en soulevant des enjeux de responsabilité, de transparence, de confiance, de biais et de confidentialité. La dynamique est claire : la recherche passe progressivement d’outils supervisés à des systèmes plus autonomes.

Cette transition change la nature du risque. Tant que l’IA sert d’outil sous contrôle humain direct, le chercheur reste responsable de l’hypothèse, de la méthode et de l’interprétation. Si des systèmes deviennent capables de proposer des expériences, de sélectionner des pistes, d’interpréter des résultats et de recommander la suite, la chaîne de responsabilité devient moins claire. La question n’est alors plus seulement « l’IA a-t-elle raison ? », mais « pouvons-nous comprendre pourquoi cette réponse devrait être acceptée ? ».

Cette distinction est essentielle pour le public comme pour les institutions. Un résultat scientifique n’a pas seulement vocation à être utilisé ; il doit pouvoir être interrogé, corrigé et replacé dans une théorie plus large. Si la machine devient le seul endroit où la justification existe, la communauté perd une partie de sa capacité de contrôle. L’IA peut donc accélérer l’exploration, mais elle ne doit pas transformer la validation en simple acte de confiance envers un système propriétaire ou mal documenté.

Le problème de lisibilité

Asimov Press a récemment formulé cette inquiétude de manière nette : le risque serait que la connaissance scientifique générée par l’IA devienne incompatible avec la compréhension humaine. Ce n’est pas exactement le même problème que l’interprétabilité interne des réseaux neuronaux. Comprendre ce qui se passe dans un modèle est une chose ; comprendre la connaissance qu’il produit en est une autre. Un système pourrait générer des régularités, des concepts ou des représentations qui fonctionnent statistiquement, sans correspondre aux catégories avec lesquelles les scientifiques raisonnent.

On peut imaginer une IA qui découvre une relation utile entre des variables biologiques ou physiques, mais qui la formule dans un espace mathématique impossible à expliquer autrement que par la sortie du modèle. Dans un cadre industriel, une telle réponse peut suffire si elle améliore un rendement ou réduit un coût. Dans un cadre scientifique, c’est plus délicat. La science ne se limite pas à prédire : elle construit des explications partageables, réfutables et réutilisables.

Pourquoi l’humain doit rester dans la boucle

Dire cela ne revient pas à rejeter l’IA scientifique. Au contraire, les outils d’IA peuvent aider à explorer des espaces de recherche trop vastes pour les méthodes classiques. Ils peuvent révéler des pistes faibles, tester plus rapidement des hypothèses et libérer du temps pour l’analyse. Le danger vient plutôt d’une délégation mal définie, où l’on confond vitesse de production et progrès de connaissance.

Pour rester scientifique, l’usage de l’IA doit préserver plusieurs exigences : des données traçables, des protocoles explicités, des résultats reproductibles, une distinction claire entre hypothèse et preuve, et une interprétation capable d’être discutée par des spécialistes humains. Une IA peut proposer une piste ; elle ne doit pas transformer l’incompréhension en argument d’autorité.

Le vrai enjeu : rendre la méthode vérifiable

Un autre texte d’Asimov Press sur l’IA et la science rappelle que l’accélération scientifique ne se produit pas automatiquement. Nous comprenons assez bien le schéma classique de la méthode — observer, formuler une hypothèse, tester, réviser — mais beaucoup moins les conditions qui produisent de vrais changements de paradigme. Les institutions, les incitations, la circulation des idées et la capacité d’une communauté à critiquer ses propres outils comptent autant que la puissance de calcul.

C’est là que le débat devient politique et épistémologique. Les laboratoires devront décider ce qu’ils acceptent de déléguer, ce qui doit rester auditable et comment documenter les contributions des systèmes autonomes. Les revues scientifiques, les financeurs et les universités devront aussi préciser leurs règles : une découverte assistée par IA doit-elle inclure le code, les données, les prompts, les modèles utilisés et les limites connues ? Sans ces garde-fous, le risque est de produire des résultats impressionnants mais difficilement vérifiables.

Comprendre ou seulement utiliser ?

La ligne de fracture est donc simple à formuler, mais difficile à résoudre. Faut-il accepter une science partiellement opaque si elle produit des traitements, des matériaux ou des modèles plus performants ? Ou faut-il maintenir la compréhension humaine comme condition centrale de la connaissance scientifique ? La réponse raisonnable se situe probablement entre les deux. Certaines découvertes peuvent commencer comme des résultats opaques, à condition qu’un travail d’explication, de validation et de traduction scientifique suive.

L’IA peut devenir un accélérateur majeur de la recherche. Elle peut aussi créer une science plus rapide que notre capacité à l’interpréter. La priorité n’est donc pas de choisir entre humain et machine, mais de concevoir des pratiques où la machine élargit le champ des hypothèses sans priver la communauté scientifique de ce qui fonde sa légitimité : comprendre, vérifier, expliquer et transmettre.