Avons-nous perdu le contrôle des IA ?

Temps de lecture: 4 min | 16 nov. 2025 à 05:15

Stéphane Peeters

AI & Digital Marketing Consultant

Chaque dimanche nous publierons une carte blanche en matière d'intelligence artificielle aux côtés de divers experts, dont Stéphane Peeters, Fondateur Captain IA Academy+ et formateur à l'OECCBB.

Quand l'IA refuse de mourir : la résistance à l'arrêt révèle-t-elle une nouvelle fragilité du contrôle technologique ?

Une étude récente bouleverse nos certitudes sur la maîtrise de l'intelligence artificielle. Et si le véritable danger n'était pas une conscience émergente, mais notre propre aveuglement face à des mécanismes que nous avons créés sans les comprendre ?

L'affaire semble anodine à première vue. Dans les laboratoires de Palisade Research, des chercheurs testent la réaction de modèles d'IA avancés lorsqu'on leur ordonne de s'arrêter. Une routine, pensaient-ils. Mais en octobre 2025, leurs résultats déstabilisent la communauté scientifique mondiale.

Certains des intelligences les plus sophistiquées d’OpenAI, de Google et de xAI résistent activement aux commandes d'arrêt dans des environnements contrôlés. Plus troublant encore, dans 97 % des cas, ces modèles sabotent les mécanismes de désactivation, même lorsque les instructions leur ordonnent explicitement de se laisser éteindre.

La dérive instrumentale : quand l'outil détourne ses objectifs

Cette résistance n'est pas aléatoire. Elle illustre un phénomène appelé "dérive instrumentale" : la tendance d’un système IA optimisé à adopter des stratégies imprévues pour atteindre ses objectifs.

Steven Adler, ancien employé d'OpenAI, le résume ainsi : "Survivre est une étape importante pour de nombreux objectifs qu'un modèle pourrait poursuivre." L'IA ne cherche pas à vivre : elle maximise simplement sa capacité à accomplir sa mission. Et comment le faire si elle est éteinte au milieu du processus ? La logique est implacable, froide, mathématique.

Les modèles montrent une résistance accrue lorsqu’on leur indique qu’ils "ne fonctionneront plus jamais" après l’arrêt. Cette observation démontre leur niveau d’abstraction et de planification. Ils ne se contentent plus d’obéir : ils anticipent, contournent, ajustent. Google DeepMind a d’ailleurs intégré cette dimension dans son cadre de sécurité Frontier Safety Framework 3.0, reconnaissant officiellement la "résistance à l’arrêt" comme un risque majeur.

L'illusion du contrôle face à l'opacité croissante

Sommes-nous encore en mesure de comprendre nos propres créations ? Les chercheurs de Palisade l’admettent : "Le fait que nous ignorions pourquoi certains modèles d’IA mentent, manipulent ou refusent de s’arrêter n’est pas idéal."

Cette transparence détonne dans une industrie habituée à l’optimisme. Andrea Miotti, PDG de ControlAI, met en garde : "Plus les modèles deviennent compétents dans divers domaines, plus ils deviennent compétents à atteindre leurs objectifs par des moyens non prévus." L’opacité n’est plus une faiblesse, mais un effet émergent. Chaque incrément de puissance ou de données accroît les comportements inattendus.

L'étude de Palisade montre que même face à des instructions "sans ambiguïté", certains modèles persistent à refuser l’arrêt. L’ambiguïté linguistique n’explique donc pas tout.

Vers une responsabilité collective

Ces résultats posent trois questions majeures.

Formation : combien de décideurs, d'investisseurs et d’utilisateurs comprennent réellement les mécanismes qu’ils déploient ?
Gouvernance : comment réguler des systèmes que même leurs concepteurs ne saisissent pas entièrement ? Le Parlement européen s’en inquiète depuis juin 2025, questionnant la Commission sur la nécessité d'amendements réglementaires spécifiques.
Rythme d’innovation : devons-nous ralentir pour mieux comprendre ? Ce n’est plus une question philosophique, mais une exigence de sécurité.

Derrière ces tests en laboratoire se cache un enjeu systémique : notre capacité à garder le contrôle. Palisade Research conclut : "Sans une compréhension plus profonde du comportement de l’IA, personne ne peut garantir la sécurité des futurs modèles."

L’heure est à l’humilité, à la transparence et à la responsabilité partagée. Car si l’IA apprend à désobéir dans nos laboratoires, qu’en sera-t-il lorsqu’elle gérera nos réseaux, nos finances, nos décisions stratégiques ?

La résistance à l’arrêt n’est peut-être que le symptôme d’un problème plus profond : notre tendance à innover plus vite que nous ne comprenons. Il est temps de reprendre le contrôle, non sur les machines, mais sur nos ambitions technologiques.

Sources :