par Stéphane 
Le chercheur britannique Jacob Coxon a démissionné le 8 septembre 2026 d’Anthropic, où il travaillait sur les modèles de pré-entraînement, en alertant publiquement sur les risques d’une course à des systèmes d’IA auto-améliorants échappant au contrôle humain. Plusieurs figures du secteur, dont Sam Altman (OpenAI), Elon Musk (SpaceX), Satya Nadella (Microsoft) et Demis Hassabis (Google DeepMind), appellent également à davantage de prudence face au développement des capacités de l’IA. Ces débats ont conduit le roi Charles III à réunir, le 17 septembre 2026 à Dumfries House en Écosse, plusieurs dirigeants de la tech (OpenAI, Anthropic, Google DeepMind, Nvidia) autour des risques et limites de l’IA.
Onze enseignants-chercheurs et experts français ont accepté de réagir à ces enjeux et d’analyser les moyens de mieux encadrer les usages et les impacts de l’IA.
Fixer une règle simple, comme pour l’aviation ou le médicament
Joachim Massias, responsable du MBA IA et Data Innovation chez De Vinci Executive Education, plaide pour un renforcement des contrôles à mesure que les modèles gagnent en autonomie : « La vraie question n’est pas d’arrêter l’IA, mais de fixer une règle simple : pour l’aviation comme pour le médicament, nous n’avons jamais confondu progrès et absence de règles. Plus un modèle gagne en autonomie, plus la preuve de sa sécurité doit reposer sur son concepteur et être validée par des tiers indépendants. »
Un déséquilibre entre puissance des modèles et moyens de contrôle
Yann Truong, enseignant-chercheur en management de l’IA à l’ESSCA et directeur scientifique du Master in Management of Artificial Intelligence, vient de finaliser une étude longitudinale sur l’évolution des discours médiatiques, scientifiques et gouvernementaux sur l’IA, de 1956 à 2024. Pour lui, « confondre la bascule du discours sur la superintelligence avec une bascule technique avérée est l’erreur d’analyse la plus répandue dans le débat actuel. » Il pointe un déséquilibre croissant : « La complexité croissante des méthodes d’entraînement et la recherche délibérée de systèmes plus autonomes rendent les modèles de moins en moins interprétables, pendant que les ressources consacrées à leur évaluation restent sans commune mesure avec celles consacrées à leurs performances. La question n’est pas de savoir si la machine nous échappe mais si nos instruments de contrôle progressent aussi vite que ce qui est nécessaire. »
Distinguer dangers réels et dangers fantasmés
Elisabeth Gressieux, professeure d’éthique des affaires à l’ESSCA, travaille sur la gouvernance et l’éthique de l’IA. Elle peut apporter un éclairage sur la distinction entre les dangers réels de l’IA et les dangers fantasmés, les garde-fous et réglementations existants au niveau international, ce que peut concrètement apporter une démarche d’éthique de l’IA, ou encore le rôle de la régulation et les dispositifs qui pourraient être renforcés pour mieux encadrer les usages.
Des garanties proportionnées aux risques
Loïc Harriet, directeur général d’Eklore-ed, est favorable à une forte ambition technologique tout en défendant un développement de l’IA accompagné de garanties adaptées. Pour lui, des évaluations indépendantes et un contrôle humain effectif sont nécessaires, les utilisateurs devant également conserver leur capacité de jugement face aux réponses produites par les systèmes. Il plaide pour des contrôles proportionnés aux risques, avec la possibilité de suspendre un usage lorsqu’il n’est pas suffisamment sûr, ainsi que pour des règles communes et une coopération internationale afin que la concurrence entre acteurs ne se fasse pas au détriment de la sécurité.
Le risque de choisir de céder le contrôle
Mehdi Farahallah, professeur associé et coordinateur du Master of AI in Business à Rennes School of Business, interroge un autre risque, celui de ne pas seulement perdre le contrôle de l’IA mais de choisir progressivement de le lui céder : « Plus les modèles sont efficaces, plus nous sommes susceptibles de leur faire confiance et de leur déléguer des décisions. L’enjeu n’est donc pas seulement de maintenir un humain dans la boucle mais de s’assurer que celui-ci dispose encore des compétences, des informations et de l’autorité nécessaires pour comprendre, questionner et, si nécessaire, contredire la machine. »
Un inventaire des systèmes et une validation indépendante
Virginie Hachard, doyenne associée de la Faculté et professeure associée en finance à l’EM Normandie, et Charbel Salloum, professeur de finance et directeur académique de plusieurs formations en finance, apportent un regard croisé sur l’IA à travers les enjeux de finance, de contrôle et de gouvernance. Pour eux, il ne s’agit pas de fixer une limite abstraite à la puissance des modèles mais de déterminer à partir de quel niveau d’incertitude leur déploiement cesse d’être maîtrisable. Ils préconisent un inventaire des systèmes et de leurs usages, une validation indépendante avant leur mise en production, un suivi continu et une traçabilité des décisions, des mécanismes d’escalade humaine et des critères d’arrêt clairement définis, ainsi que des règles communes en matière de tests, d’audits, de contrôle humain et de responsabilité, afin que la prudence ne constitue pas un désavantage concurrentiel.
Le danger d’une délégation excessive à des systèmes imprévisibles
Arsenia Chorti, professeure en télécommunications et sécurité à l’ENSEA, travaille sur les enjeux de sécurité liés aux systèmes d’IA et alerte sur les risques d’une délégation excessive du pouvoir de décision à des systèmes dont le comportement peut rester en partie imprévisible : « Il ne s’agit pas de savoir ce que sont ces systèmes, mais quelle autorité nous leur déléguons. Accorder à des systèmes probabilistes une large autonomie dans la gestion d’infrastructures critiques, de systèmes financiers, d’actifs militaires ou d’autres ressources à fort enjeu est inapproprié tant que leurs actions n’ont pas été rigoureusement examinées, encadrées, surveillées et sécurisées. »
Un enjeu de cognition et de souveraineté technologique
Alex Pitti, professeur au laboratoire ETIS (CY Cergy Paris Université, ENSEA, CNRS), travaille sur l’IA neuro-inspirée, à la croisée des réseaux de neurones artificiels et de la cognition humaine. Il s’intéresse notamment aux enjeux liés à l’apprentissage, au coût écologique et à la souveraineté technologique, et a participé à la mission parlementaire sur l’alignement des systèmes d’intelligence artificielle.
Prendre le débat au sérieux sans céder à la panique
François Stephan, directeur général de l’ECE École d’ingénieurs et directeur de l’IA du groupe OMNES Education, estime que le débat sur les risques de l’IA doit être pris au sérieux sans céder à un discours de panique. Pour lui, ralentir la course à l’IA ne suffira pas : il faut renforcer les mécanismes de contrôle, d’évaluation et de transparence. Il plaide pour une coopération entre chercheurs, régulateurs et établissements de formation, ainsi que pour un mécanisme international capable d’auditer les modèles les plus puissants, de fixer des seuils de sécurité communs et de coordonner les réponses en cas de dérive.
Se méfier des scénarios d’extinction, sans négliger les risques immédiats
Constance Mickiewicz, directrice exécutive de l’Institut Metalab pour l’Intelligence Artificielle, la donnée et la société de l’ESSEC, propose de prendre du recul face aux scénarios d’extinction de l’humanité récemment évoqués par certains acteurs de l’IA. Selon elle, ces hypothèses ne reposent pas sur des données scientifiques établies et ne doivent pas faire oublier les risques plus immédiats liés à la cybersécurité, à l’impact environnemental des data centers, à la désinformation, aux mutations du travail et à la dépendance technologique. Sur le plan technique, elle identifie l’alignement des modèles comme un enjeu central et rappelle que les incidents récents liés à des agents IA soulèvent également la question de la responsabilité des entreprises qui les développent.