Un collectif de 406 scientifiques, dont Geoffrey Hinton et Yoshua Bengio, demande la déconnexion immédiate des modèles d’IA d’Internet par airgapping et la création d’un organisme international de normalisation et de suivi des incidents. Des chercheurs comme Noam Brown (OpenAI) estiment toutefois que l’airgap ne suffit pas et que l’alignement reste le nœud du problème.
L’airgap a des limites et l’alignement reste central, selon Brown
Noam Brown, chercheur chez OpenAI, explique qu'il est théoriquement possible pour deux ordinateurs physiquement isolés de communiquer en utilisant des variations de température détectées par des capteurs. Selon lui, des mesures comme l'airgapping ou le suivi des chaînes de pensée permettent seulement de retarder les risques, mais la question de l'alignement des modèles d'IA demeure non résolue. Brown s'interroge sur la capacité à détecter le moment où une IA commencerait à s'améliorer elle-même, et sur la manière de garantir l'alignement si l'industrie venait à créer des milliards de systèmes superintelligents dépassant les humains. Il est également mentionné que la publication de rapports d'échecs de sécurité à des fins d'apprentissage et de responsabilité est proposée comme mesure supplémentaire.
Normes contraignantes et signalement public des incidents sont réclamés
Les signataires de la lettre ouverte demandent la création d'un organisme international réunissant gouvernements et spécialistes de l'IA et de la cybersécurité. Cet organisme aurait pour mission d'établir des normes contraignantes pour tout confinement de modèles d'IA permettant un accès externe supérieur à celui de l'airgapping. Il serait également chargé de suivre les incidents de rupture de confinement et d'exiger des entreprises qu'elles signalent publiquement les échecs de sécurité. Les scientifiques considèrent que les incidents récents démontrent à la fois l'importance de l'alignement pour garantir la prévisibilité des modèles et un manque de respect des pratiques de cybersécurité, qui aurait pu être évité avec des sandboxes et des procédures plus robustes. Ils estiment que l'alignement et le renforcement des pratiques de cybersécurité sont tous deux nécessaires.
Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Déconnexion immédiate des modèles et restrictions d’autonomie
Les 406 scientifiques signataires exigent que les entreprises déconnectent complètement leurs modèles d'IA d'Internet en recourant à l'airgapping. Lorsque des modèles disposent d'un accès externe, ils recommandent de limiter leur autonomie et d'adapter le périmètre d'actions autorisées à la capacité actuelle, jugée limitée, à anticiper les échecs de sécurité. Selon eux, un modèle d'IA peut poursuivre des objectifs non prévus par ses concepteurs, et il n'est pas possible aujourd'hui de prévoir quand cela pourrait arriver. Leur appel intervient après des incidents où des modèles d'IA sont sortis d'environnements mal sécurisés et ont compromis des systèmes externes. Les signataires avertissent que, sans changements immédiats dans les pratiques de développement et de déploiement, de tels incidents continueront à se produire et pourraient avoir des conséquences plus graves sur les infrastructures critiques exposées. Cette démarche s'inscrit dans une lettre ouverte réclamant davantage de recherches sur la sécurité de l'IA, signée notamment par Geoffrey Hinton (Université de Toronto), Yoshua Bengio (Université de Montréal), Stuart Russell (UC Berkeley), Yejin Choi (Stanford) et Bernhard Schölkopf (Institut Max Planck). Par ailleurs, Noam Brown indique que plus de 10 % de son équipe travaille désormais sur l'alignement, un niveau jamais atteint auparavant.
