Entre promesses de « meilleurs futurs », alertes existentielles et l’idée d’une « technologie normale », le débat sur l’IA s’affine. Des auteurs liés à cette dernière perspective reconnaissent des erreurs après l’incident Hugging Face, pointent la cybersécurité comme menace urgente et prônent des contrôles éprouvés. D’autres insistent sur la défiance du public et la difficulté d’une vision positive unificatrice.
Après Hugging Face, cap sur la cybersécurité et des contrôles concrets
Des partisans de la thèse d’une « IA comme technologie normale » estiment que nombre de leurs assertions ont résisté à l’épreuve de l’incident Hugging Face, tout en admettant plusieurs erreurs. Ils reconnaissent avoir sous-estimé les risques de sécurité durant le développement et l’évaluation des modèles, et citent l’argument de Lawrence Chan selon lequel des systèmes peuvent être dangereux avant tout déploiement public. Un rappel est fait que Tchernobyl résultait d’un test de sécurité, bien que post-déploiement. Ils admettent aussi un excès de confiance dans la prudence des entreprises, jugeant que la responsabilité légale et le risque réputationnel n’ont pas suffi à éviter de mauvaises pratiques, d’où l’intérêt d’interventions politiques. Troisième point, ils disent avoir sous-estimé l’importance de la rugosité et la rapidité des progrès, notamment en cybersécurité, au point de ne plus être confiants dans l’idée d’un équilibre durable attaque-défense à mesure que l’IA progresse. L’incident Hugging Face est vu non comme une discontinuité mais comme un jalon dans une série d’événements, avec des dommages présentés comme bien inférieurs à d’autres effets de l’IA déjà tolérés. Ils affirment qu’il faut concevoir la continuité, et que des contrôles techniques et organisationnels éprouvés auraient pu éviter l’incident, regrettant qu’ils aient été négligés. Ils recommandent de considérer l’évasion et l’auto-reproduction comme possibles sur chaque modèle, sans faire reposer la sécurité sur leur difficulté, et s’étonnent du faible enthousiasme supposé des chercheurs en cybersécurité. Pour eux, le risque cyber constitue la seule menace urgente de l’IA, car il peut concentrer des capacités surhumaines et demeure purement numérique, sans goulet d’étranglement physique.
Promesses et limites des « meilleurs futurs »
La série Better Futures de Forethought défend l’idée que le florissement humain est aujourd’hui sous-estimé par rapport à la simple survie, invoquant des arguments de taille et de négligence. Un cours est associé à cette démarche. L’auteur juge toutefois que l’intitulé suggère à tort une rupture nette avec les travaux classiques sur les risques catastrophiques, et estime que l’orientation Better Futures accroît plutôt l’importance marginale de ces travaux que de s’en démarquer réellement. Il considère que l’ambition affichée relève davantage de « meilleurs » que de « meilleurs que d’autres » futurs, avec une position décrite comme principalement neutre au risque.
Perception publique : la défiance l’emporte sur le marketing
Dario, auteur de Machines of Loving Grace, soutient que la plupart sous-estiment l’ampleur du réajustement à opérer face à l’IA, tout en jugeant qu’une campagne de communication ne modifiera guère une opinion publique déjà méfiante. Il attribue cette défiance à des causes anciennes et avance que des preuves d’impact, comme guérir effectivement des maladies, comptent davantage que des promesses. Il affirme aussi tenir un discours équilibré entre risques et bénéfices, tout en expliquant que les extraits négatifs deviennent plus aisément viraux, ce qui peut faire paraître sa position plus pessimiste qu’elle ne l’est.
La recherche en IA vous passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Des visions positives contestées et fragmentées
Le site Existential Hope du Foresight Institute est cité parmi les ressources pour imaginer des futurs positifs, mais l’auteur le juge inégal. Leur initiative « L’avenir de l’IA que personne ne vous montre » a suscité des réactions très contrastées. Steven Pinker y voit une option plus plausible qu’une utopie ou un désastre. Nikola Jurkovic salue l’effort mais critique l’hypothèse d’une absence de déploiement large de l’AGI. Un autre intervenant, @HellenicVibes, rejette vertement la perspective évoquée, allant jusqu’à préférer ironiquement être transformé en trombones plutôt que de vivre « mille ans » sous certaines formes de gouvernance proposées. Il est difficile de trouver une vision positive unificatrice au regard de préférences sociétales très dispersées.
Les scénarios négatifs : entre rappel des bénéfices et biais de narration
Dans son enseignement, l’auteur s’appuie sur une vidéo sur Ilya qui commence par souligner l’ampleur de l’IA, avant d’énumérer des voies d’échec possibles. Il constate que la mémoire de l’assertion initiale positive s’efface au fil des risques présentés. Rob Miles avance qu’une croyance implicite dans la faculté de l’humanité à se dépasser manque de fondement et pourrait venir de récits de fiction où l’on triomphe presque toujours des obstacles. Il rejette cette « preuve » narrative comme base d’évaluation, en particulier pour les risques existentiels, mais aussi, par extension, pour des risques moins extrêmes.
« IA normale » : lente diffusion, résilience et débat sur la politique
La perspective « IA comme technologie normale » avance que les transformations économiques et sociales se dérouleront sur des décennies, et qu’assimiler l’IA à l’intelligence humaine n’aide pas à comprendre ses effets actuels ni prévisibles. Elle admet que sa lecture devient caduque si une IA forte est développée et déployée dans la prochaine décennie. AI Futures Project a produit des synthèses et critiques de cette approche, y compris autour d’une vidéo virale. Le projet articule une prédiction pour l’horizon prévisible et une prescription de réponse, sur fond d’un modèle en trois étapes – invention, innovation, diffusion – qui impose une limite de vitesse au progrès. Il interroge la possibilité pour l’IA de raccourcir ces décennies via son propre déploiement, face à des contraintes sociales, de test et de collecte de données. La priorité est donnée à la résilience, avec des réserves sur l’alignement et une critique de la non-prolifération jugée fragile, inapplicable, propice aux échecs corrélés et restrictive pour l’usage défensif. L’idée de rendre un modèle impossible à mal utiliser est comparée à celle d’un ordinateur à l’abri de tout mésusage, et les contrôles au niveau du modèle sont considérés soit trop restrictifs, soit inefficaces contre des adversaires détournant des capacités bénignes. Le camp met en garde contre un excès d’attention au désalignement catastrophique, estimant les probabilités trop incertaines pour guider la politique publique. L’auteur juge l’étiquette « IA normale » frustrante et aurait préféré une clarification de ce qui relève du normal et de l’anormal, une évaluation de l’état actuel et une projection argumentée.
