L’impact de l’AI Act sur l’Enseignement Supérieur et la Recherche

L’AI Act ne régule pas seulement l’intelligence artificielle. Il redéfinit silencieusement ce que signifie produire, transmettre et valoriser le savoir en Europe. Voilà qui pourrait bien compliquer la vie des Robots tout en mettant en lumière la pertinence de leurs expertises. Alors, pour aller plus loin dans les conséquences de l’application de ce texte, nous vous proposons d’explorer les premières expériences vécues par le monde de l’Enseignement Supérieur et de la Recherche.

Rappelons en préambule que l’AI Act est entré en vigueur le 1er août 2024 avec une mise en application progressive jusqu’en 2027, et qu’il constitue le premier cadre juridique global régissant l’intelligence artificielle. Son approche par les risques classe les systèmes d’IA en quatre catégories : risque inacceptable (interdits), haut risque (encadrement strict), risque limité (obligations de transparence) et risque minimal (libre développement).

Depuis plusieurs mois, ce texte est commenté sous un angle essentiellement juridique ou technologique. On parle partout de niveaux de risque, de conformité, d’obligations pour les fournisseurs de modèles. Mais dans le monde de l’Enseignement Supérieur et de la Recherche, l’enjeu est ailleurs. Plus diffus. Plus structurant. Car ce que l’AI Act vient toucher, ce n’est pas uniquement l’usage des technologies. C’est l’architecture même de la confiance académique. Dans une université, une école ou un laboratoire, la confiance est partout. Dans l’évaluation d’un étudiant. Dans la validation d’un résultat scientifique. Dans la réputation d’un chercheur. Dans la capacité d’une institution à produire du savoir fiable.

Or, l’intelligence artificielle, telle qu’elle s’est diffusée ces dernières années, a profondément fragilisé ces équilibres. Non pas en détruisant la confiance, mais en la rendant plus difficile à situer.

• Qui est l’auteur d’un texte généré avec un modèle ?
• Que vaut une évaluation assistée par un algorithme opaque ?
• Comment interpréter un résultat scientifique produit à partir de données traitées par des systèmes que personne ne comprend entièrement ?

L’AI Act arrive précisément à ce moment-là. Et il impose une réponse européenne très particulière : si la confiance ne peut plus être implicite, elle doit devenir explicite, documentée, démontrable.

L’annexe III de l’AI Act identifie explicitement les systèmes suivants (article 6, paragraphe 2) comme présentant un risque fort dans le secteur de l’éducation et de la formation :

On comprend aisément qu’un dispositif comme ParcoursSup ou encore que les plateformes de proctoring (systèmes de surveillance des examens à distance) sont particulièrement visés par ce cadre légal. D’autant plus que ces systèmes doivent et devront respecter des exigences strictes : documentation technique exhaustive, gestion des risques, gouvernance des données, supervision humaine et marquage CE.

Ainsi, dans l’enseignement, pendant longtemps, les outils numériques ont été considérés comme des supports ou des facilitateurs. Désormais, l’IA change de nature et devient co-productrice des contenus, des évaluations, parfois même des parcours pédagogiques. Avec l’AI Act, cette co-production ne peut plus rester invisible. Elle doit être signalée, expliquée, justifiée. Cela oblige les enseignants à repenser non seulement leurs outils, mais aussi leurs méthodes.

Ainsi, évaluer ne consiste plus seulement à mesurer un résultat. Il faut désormais interroger les conditions de production de ce résultat. Et c’est une évolution majeure !

ULB (Université libre de Bruxelles)
L’université a adopté un plan d’action en sept points, articulé autour de la gouvernance, de la formation, des outils, de l’enseignement et de la recherche. Elle a notamment mis en place des instances internes dédiées, engagé une révision du cadre réglementaire des études et lancé des actions de sensibilisation pour les enseignants, les étudiants et les personnels. L’enjeu est double : sécuriser les usages et accompagner l’acculturation. Voir le plan de l’ULB ici.

Université de Lille
L’établissement s’inscrit dans une dynamique de réflexion sur les usages de l’IA dans l’enseignement et la recherche, en lien avec des travaux sur les politiques institutionnelles et les pratiques des enseignants-chercheurs. La logique dominante est celle de la montée en compétence progressive, avec une attention particulière à la clarté des règles et à la responsabilité des utilisateurs. On pourra consulter la charte d’utilisation des SIAG ici.

Russell Group (Royaume-Uni)
Ce réseau regroupant plusieurs grandes universités de recherche a publié des principes pour l’usage éthique de l’IA générative dans l’enseignement supérieur. Les priorités sont la littératie IA, l’intégrité académique, l’adaptation des évaluations et la prise en compte des effets de l’IA sur l’apprentissage. L’approche est pragmatique : encadrer sans freiner l’innovation.

Voir la charte ici.

Lorsqu’on analyse ces chartes pour en vérifier la conformité avec l’AI Act, on observe quelque chose de plutôt positif. Les chartes sont très orientées sur les usages étudiants et répondent alors bien aux exigences réglementaires.

Par exemple, à l’université de Lille, la charte semble conforme sur les travaux pédagogiques et l’intégrité académique. Elle couvre donc bien l’usage étudiant, mais elle ne suffit pas forcément, à elle seule, à garantir la conformité de tous les usages institutionnels de l’université avec l’ensemble de l’AI Act.

En effet, les obligations de transparence de l’Article 50, ou les exigences plus larges liées à certains systèmes IA utilisés par l’établissement, doivent être vérifiées dans d’autres documents internes et dans les usages réels de l’université.

L’usage de modèles d’IA dans les processus scientifiques — analyse de données, simulation, rédaction — n’est pas nouveau. Mais il change d’échelle et s’étend à des chercheurs issus d’un spectre disciplinaire plus large. Et avec lui, une question devient centrale : peut-on encore parler de preuve scientifique lorsque les outils mobilisés sont en partie opaques ?

L’AI Act impose des exigences de traçabilité, de documentation, de robustesse qui vont progressivement redéfinir les standards de la production scientifique. Sans aucunement chercher à qualifier la science, l’AI Act contribue à redéfinir les conditions dans lesquelles elle peut être reconnue comme telle. Ainsi pour la recherche, la charte interdit de transmettre des données sensibles à des SIAG externes et demande de vérifier les politiques de confidentialité, ce qui est compatible avec les exigences de protection des données et de prudence attendues dans les usages académiques.

Avec l’AI Act, l’Europe ne cherche pas simplement à encadrer l’innovation en régulant ses conditions d’émergence et de diffusion. Elle tente par ailleurs de préciser les conditions de sa légitimité. En effet, l’AI Act redéfinit implicitement ce qu’est une innovation légitime, tant il prône une innovation plus seulement nouvelle, performante ou rentable, mais qui doit être human-centric, fiable, transparente et proportionnée aux risques.

Dans ce mouvement, l’Enseignement Supérieur et la Recherche occupent une position singulière. Non seulement parce qu’ils utilisent ces technologies, mais surtout parce qu’ils participent à définir ce qui sera considéré comme acceptable, fiable et responsable. On pourrait y voir une contrainte. Une couche supplémentaire de complexité dans un système déjà sous tension.

L’Université Paris-Dauphine PSL propose une réponse dans un épisode de son podcast Ex-Machina, consacré à la problématique de l’impact de l’AI Act, apparu à peine deux ans après le lancement de ChatGPT, et accusé un peu rapidement d’être un frein à l’innovation. Les deux intervenants, Olivia Tambou (Maître de conférences en droit européen à l’Université Paris Dauphine – PSL) et Thierry Poibeau (Directeur de recherche CNRS à l’École Normale Supérieure), expliquent pourquoi il ne s’agit pas d’une restriction mais davantage d’une opportunité.

Deux questions cruciales sont au cœur des débats : d’une part les modèles et d’autre part la gouvernance des données utilisées.

La question des modèles :

Les modèles à usage général (GPAI), dont les grands modèles de langage, font l’objet d’obligations distinctes :

• Obligations de transparence pour tous (documentation, respect du droit d’auteur)
• Obligations renforcées pour les modèles présentant unrisque systémique (seuil de 10²⁵ FLOPS d’entraînement) : évaluations adverses, tests de robustesse, signalement d’incidents

Les universités, organismes de recherche et plus spécifiquement les chercheurs développant ou adaptant ces modèles devront intégrer ces exigences dès la conception.

La question de la gouvernance des données de recherche :

Le règlement renforce les exigences en matière de données d’entraînement :

• Documentation des sources et des processus de préparation
• Analyse des biais potentiels
• Respect du RGPD et des droits de propriété intellectuelle

Cela implique une coordination accrue entre services juridiques, délégués à la protection des données, et équipes de recherche.

Les Technology Transfer Offices, en particulier, vont se retrouver en première ligne.

Valoriser une technologie issue de la recherche ne consistera plus seulement à démontrer son potentiel économique. Il faudra aussi évaluer sa conformité réglementaire, ses risques éthiques, sa robustesse.

A ce sujet, l’étude CESAER (https://www.cesaer.org/content/3-task-forces/2024-2025/task-force-innovation/ethical-applications-ai/20250414-workshop-note-initial-survey-results-ai-in-tto.pdf)  sur les usages de l’IA dans les TTO montre que les préoccupations éthiques sont jugées “très significatives” ou “somewhat significant” par la majorité des TTO, et que les risques éthiques représentent un verrou majeur à l’adoption de l’IA dans leurs propres processus. Leurs guides et bonnes pratiques soulignent que les TTO doivent intégrer des comités d’éthique ou des boards de gouvernance dans leurs processus d’IO, définir des règles claires pour l’audit et la mise en conformité de nouveaux outils IA, équilibrer la perspective académique (sociétale) et la perspective business (atténuation des risques).

Le TTO ne décide pas seul de la légitimité éthique, mais il s’assure que la question éthique est traitée avant le transfert. En d’autres termes, la valeur d’une innovation ne sera plus uniquement technique ou marchande. Elle sera aussi normative.

C’est peut-être là que se joue le changement le plus profond. On peut aussi y voir une opportunité plus rare. Celle de réaffirmer que produire du savoir ne consiste pas seulement à aller plus vite ou plus loin, mais à rendre explicites les conditions dans lesquelles ce savoir est produit.

Autrement dit, tous les acteurs de l’ESR devront agir dans la transparence et non pas en réponse à une obligation administrative, respectant ainsi une dimension constitutive de l’excellence académique. Cela ne devrait pas être trop compliqué pour des acteurs dont l’ADN est celui de la démonstration et de la preuve.

L’AI Act ne transforme pas seulement les règles du jeu. Il nous oblige à redéfinir ce à quoi nous acceptons de faire confiance.

Envie de découvrir d’autres articles sur l’enseignement supérieur et la EdTech ? Rendez-vous sur le Blog des Robots !