Les intelligences artificielles (IAs) sont présentées comme devant révolutionner la recherche scientifique. Mais les IAs, en particulier les IAs génératives, ne pourraient pas fonctionner sans un apprentissage – et parfois un pillage – massif des œuvres humaines. Aussi, leur usage exige des précautions élémentaires – sans même évoquer les enjeux écologiques et ceux de propriété de ses propres connaissances et qualifications.

Nicolas Belorgey
Sociologue au CNRS Membre du Bureau du SNCS-FSU

L’« intelligence artificielle » (IA) est un nom générique utilisé pour désigner une nouvelle évolution des sciences de l’information. Plus qu’une définition substantielle – que même ­Cédric ­Villani, lauréat de la médaille Fields et homme politique, se garde de formuler dans son rapport au gouvernement sur la question –, c’est une approche historique qui semble fournir la meilleure élucidation du phénomène.

Le « printemps de l’IA »

Le terme « IA » apparaît en 1956, lors d’un séminaire rassemblant à ­Dartmouth (États-Unis) des mathématiciens et des informaticiens, à l’origine de ce concept et plus généralement d’une nouvelle discipline académique, qui cherche à répliquer certains processus de la pensée humaine. Depuis lors, cette discipline connaît des hauts et des bas – ces derniers étant nommés par les intéressés « hivers de l’IA » – tant en termes de découvertes que de reconnaissance sociale, et donc de financements. La période qui s’ouvre dans les années 2020, parfois qualifiée de « boom de l’IA » ou de « printemps de l’IA », et caractérisée de manière emblématique par le lancement de ­ChatGPT en 2022, ou par la résolution, par une IA, d’une célèbre question mathématique (Navier-Stokes) en 2026, correspond à une phase haute du cycle, qui pourrait très bien être suivie par une nouvelle période de désillusions.

Plus concrètement, en 2026, on peut distinguer dans le domaine de l’IA, plusieurs technologies complémentaires :

• les réseaux de neurones artificiels
  Dès 1956, il s’agit de simuler le fonctionnement d’un neurone humain, ce qui se traduit informatiquement par l’émission d’un résultat (output) en réponse à un stimulus (input). Initialement binaire (0 ou 1), le résultat peut aujourd’hui être plus subtil (par exemple, compris entre -1 et 1). Initialement isolés, les neurones artificiels sont aujourd’hui regroupés dans des réseaux où ils fonctionnent en groupes et couches articulés les uns aux autres. L’ensemble cherche à reproduire le fonctionnement d’un cerveau humain. L’actuelle phase haute de l’IA a bénéficié de progrès importants dans ces technologies ;
• l’IA générative
  Cette IA est dite générative dans le sens où elle peut non seulement traiter des données mais aussi en produire (« générer ») de nouvelles, sous la forme de texte, de code informatique, de raisonnement mathématique, d’image, de musique, de vidéo, etc., en réponse à une demande (prompt) formulée par l’utilisateur. Les IA génératives sont notamment des robots conversationnels (­chatbots, comme ­ChatGPT ou Le ­Chat de ­Mistral AI), basés sur des grands modèles de langage (Large Language Models, LLM), eux-mêmes des réseaux de neurones. Les LLM sont fondés sur le principe de probabilité du mot suivant : pour répondre à une question, ils estiment, de manière récursive, quel est le mot le plus probable qu’ils doivent formuler après le précédent, le résultat final ressemblant à ce que pourrait faire une personne humaine ;
• l’apprentissage automatique (machine learning)
  Les LLM ne peuvent fonctionner que s’ils ont été alimentés (fed) par des corpus de textes à partir desquels ils vont pouvoir calculer les probabilités d’occurrence des mots suivants. Dès 1956, il s’agit de répliquer une fonction humaine essentielle dont les machines sont dépourvues : la capacité à apprendre, à partir d’un ensemble de données préalablement fournies et de la correction itératives des erreurs commises, de manière à aboutir peu à peu à un résultat acceptable.

Aujourd’hui, l’IA ne peut progresser qu’en accédant à des corpus de données toujours plus vastes et plus diversifiés (big data). Les LLM sont ainsi « nourris avec (…) l’équivalent de vingt mille années de lecture sans pause pour un humain ». Ils recourent, pour cela, aux plateformes, ces outils qui permettent l’échange d’informations entre utilisateurs à grande échelle, tels qu’Internet, les ­Gafam (Google, Apple, ­Facebook, ­Amazon ou ­Microsoft), ­Uber ou ­Airbnb. Ces plateformes – en particulier Internet et les moteurs de recherche – permettent aux IAs d’accéder aux informations à partir desquelles elles font leur apprentissage, et sans lesquelles elles ne parviendraient à aucun résultat valable (elles seraient « stupides »).
Parmi ces plateformes se trouvent les interfaces des robots conversationnels eux-mêmes : en conversant avec eux, l’utilisateur les entraîne, vérifie l’actualité et la pertinence de leurs réponses, corrige leurs erreurs (­feed-back), etc.
Le discours, dominant dans les années 2010-2020, de l’excellence des services rendus par ces robots (« demande à ChatGPT » tend à remplacer « Google a réponse à toutes vos questions ») est donc aussi, pour leurs promoteurs, une nécessité technique et commerciale : sans une utilisation massive, les IAs ne peuvent pas progresser. De plus, la situation de concurrence entre elles où se trouvent les nombreuses IAs disponibles sur le marché fait que chacune a intérêt à se présenter comme la meilleure, afin d’attirer plus d’usagers et donc de progresser plus vite que ses concurrentes – sachant qu’il existe, en outre, une prime à la première, en raison de l’effet de réseau propre aux plateformes, ce dont ­Google a bénéficié dans le domaine des moteurs de recherche.
Un corollaire de ce technosolutionisme largement répandu par les éditeurs d’IA est que les problèmes résiduels de celles-ci ne viendraient pas d’elles, mais du mauvais usage qui pourrait en être fait. Il s’agit, à vrai dire, d’un schéma discursif classique, déjà observé pour nombre d’innovations technologiques, comme le nucléaire. Cependant, cette figure de style est ici très présente, par exemple dans la Figure 1, tirée d’une formation pour les agents publics, qui suggère que les problèmes posés par les IA viendraient surtout… du facteur humain.
Le secteur de l’enseignement supérieur et de la recherche (ESR) au niveau international est fortement investi par des plateformes. Ainsi, nombre d’universités et d’organismes de recherche ont leur infrastructure informatique hébergée par un ­Gafam, qui peut dès lors en nourrir des apprentissages automatiques – et, au passage, acquérir une connaissance très fine de l’activité de l’établissement et de sa production scientifique, ce qui pose des problèmes critiques de confidentialité et de droits de propriété intellectuelle.
L’apprentissage à partir de textes rend aussi compte d’une autre caractéristique fondamentale des LLM : leur réalité est limitée à celle de ces textes, ce n’est pas la nôtre. Ils connaissent les textes mais non les contextes ; ils ne prennent en compte ni le contexte d’énonciation des textes utilisés et produits, ni leur rapport à la réalité.
Ces deux caractéristiques – besoin de se rendre utile pour susciter plus d’interactions, ignorance de la réalité hors des données utilisées – comme en rend compte l’illustration en exergue de cette note. Comme l’a indiqué le spécialiste de l’IA, ­Punya ­Mishra, lors de la conférence de l’Internationale de l’Éducation en 2025, un LLM est « un système probabiliste qui induit un texte plausible dénué de toute compréhension réelle ».
Parmi les autres innovations liées à l’IA, on pourrait citer également le traitement et l’analyse de signaux divers, notamment dans les domaines de l’imagerie médicale, ou encore la prise de décision autonome, ou l’aide à la décision humaine, par exemple pour le pilotage d’engins (voitures autonomes, drones, etc.).
La suite de ce texte se concentre sur un aspect plus limité : les risques que l’IA fait peser sur la qualité des résultats scientifiques pour ses usagers immédiats (indépendamment des risques de perte de savoirs collectifs et humains).

IA et qualité de la recherche

L’IA peut porter atteinte à la qualité de la recherche en ce qu’elle n’est pas exempte d’erreurs ponctuelles et porte de plus en elle des biais systémiques.
Erreurs
Comme l’informatique en général, l’IA est exposée tout d’abord à des erreurs (bugs), inhérentes à tout système complexe. En particulier, les IAs se heurtent à un problème de faible reproductibilité de leurs résultats – le code source et les données utilisées étant très faiblement partagés par leurs auteurs – et donc de difficulté à en vérifier la fiabilité. Elles mobilisent également beaucoup d’apprentissages fondés sur des retours humains (reinforcement learning from human feedback, RLHF), quasiment impossibles à documenter de manière exhaustive.
Corrélativement, les IA produisent beaucoup d’erreurs, comme l’illustrent de manière emblématique, en ce qui concerne les IA génératives, les « hallucinations » ou inventions de données, par exemple la création de références scientifiques inexistantes lors de l’écriture d’un texte scientifique. En effet, les IAs génératives produisent des textes plausibles – différents à chaque requête – et non des textes exacts, rigoureux et uniques. Parmi ces hallucinations se trouvent ainsi des références scientifiques plausibles mais fausses, mélangeant des noms d’auteurs et des mots de titres d’articles ou de livres existants pour en imaginer de nouveaux, comme ont pu s’en rendre compte avec effarement, à partir de 2022, les enseignants-chercheurs corrigeant des mémoires d’étudiants formellement impeccables mais n’affirmant que des platitudes, ou factuellement faux.
De manière plus gênante, les IAs utilisées à des fins de surveillance des populations ou de détection automatique des fraudes par recoupement de fichiers (computer matching) ne fonctionnent qu’à partir de corrélations statistiques qui ignorent tant les mécanismes sociaux qui les sous-tendent que la présomption d’innocence. Antérieures à son émergence, le « printemps de l’IA » leur donne une nouvelle vigueur par les capacités de traitement de l’information qu’il déploie et par la légitimation renouvelée qu’il leur confère. Elles sont particulièrement nocives quand elles débouchent directement sur des actions nuisibles aux personnes, sans intermédiaire humain. Elles sont enfin souvent associées à des mouvements politiques conservateurs voire réactionnaires, comme celui de Trump aux États-Unis.
Biais systémiques
Si l’IA sans adjectif peut commettre des erreurs, l’IA générative est, elle, sujette à des biais systémiques. Elle ne fournit en effet des données qu’à partir de celles sur lesquelles elle a été entraînée, et qui sont, par construction, douteuses et partielles. Par exemple, en philosophie, des pans entiers de la littérature ne sont pas référencés ; de manière analogue, les grandes bases de données qui recensent la presse internationale, auxquelles s’alimentent les LLM, ignorent des dizaines de milliers de titres publiés en langues locales.
Plus généralement, les LLM, fonctionnant sur le principe de plus grande probabilité du discours, reprennent les préjugés de race, de classe et de genre qui circulent de manière dominante au niveau mondial, par exemple l’association des femmes à la maison et des hommes au travail. Ainsi, à ses débuts, ­ChatGPT limitait la capacité d’être un bon scientifique aux hommes blancs, tandis que l’IA, utilisée par ­Amazon pour ses recrutement, excluait systématiquement les femmes. Les LLM peuvent simplement relayer des informations partielles et fausses, en un mot des rumeurs qui circulent. Enfin, les mêmes biais se manifestent pour d’autres IAs, par exemple dans le domaine médical, où les patients issus des minorités sont moins bien suivis, ou en matière d’identification biométrique des personnes (qui utilise des réseaux de neurones), où les membres de minorités se voient discriminés par des systèmes entraînés sur le plus grand nombre.
Plus profondément, les IAs ne sont pas à l’abri d’apprentissages malveillants, c’est à dire d’une production massive de données biaisées afin de les alimenter dans un sens particulier et ainsi d’influencer les résultats de recherche des utilisateurs.
Par ailleurs, si les IAs permettent d’accélérer des tâches bien balisées – comme la correction orthographique, la traduction linguistique, l’écriture de code informatique, les recherches bibliographiques, voire la résolution d’« énigmes » au sens de Kuhn, c’est à dire de problèmes scientifiques bien définis – en revanche, elles risquent d’enfermer dans ce qui est déjà connu, de négliger des territoires inconnus, et de ne pas voir les possibles changements de paradigmes (toujours au sens de Kuhn).
Enfin, les IAs, comme tout système informatique, sont exposées aux virus. Il en résulte des pertes importantes en temps, en données et en ressources financières – notamment les coûts de sécurisation des systèmes.
Donnant naissance à des erreurs et exposés aux biais des sources qui les alimentent, les LLM peuvent ainsi produire des textes certes formellement parfaits, mais totalement inexacts dans leur rapport à la réalité, ne véhiculant que des idées dominantes, approximatives ou fausses.

Cet article est tiré du n°446 de notre revue La Vie de la Recherche Scientifique (VRS). Retrouvez l’ensemble des numéros dans notre rubrique VRS.