Hinton, Li et Ng défendent l'ouverture de l'IA face aux risques

Les inquiétudes croissantes autour de la sécurité de l'IA

Dans le contexte actuel où des initiatives comme Pacing the Frontier visent à sécuriser la recherche en intelligence artificielle en se concentrant sur les grands laboratoires, les modèles open-source suscitent un débat intense au sein de l'industrie. Ces modèles, distribués gratuitement et sans contrôle strict sur leur utilisation, posent des défis en matière de sécurité, car ils échappent facilement à toute tentative de régulation stricte. Cette caractéristique inquiète certains laboratoires qui voient dans ces modèles un potentiel de dérive.

Lors de la conférence Ai4 à Las Vegas, trois figures emblématiques de la recherche en IA — le lauréat du Prix Nobel Geoffrey Hinton, Fei-Fei Li, et Andrew Ng, co-fondateur de Coursera — ont exprimé leurs préoccupations sur cette question. Bien qu'ils aient des approches différentes, ils s'accordent sur l'importance de maintenir une certaine ouverture dans le domaine de l'IA.

Pour ces experts, la principale crainte réside dans le fait qu'un petit nombre de grandes entreprises puissent contrôler le rythme des avancées technologiques. À l'image de Apple et Google qui dominent les systèmes d'exploitation mobiles, une telle concentration pourrait freiner l'innovation et influencer les développements technologiques selon leurs intérêts.

Andrew Ng a exprimé sa crainte de voir émerger une situation similaire dans le domaine de l'IA. « Je ne veux pas qu'il y ait des gardiens », a-t-il déclaré, soulignant que cela limiterait l'accès général à l'IA.

Les grandes entreprises ont tendance à protéger leurs avantages compétitifs, influençant parfois les règles du jeu au sein de l'industrie. Cela pourrait aboutir à une situation où seules les entreprises les plus puissantes, dotées de ressources suffisantes pour développer des systèmes d'IA avancés, domineraient le marché.

Ng propose de maintenir une diversité de fournisseurs et de modèles en concurrence, plutôt que de laisser quelques acteurs monopoliser le secteur. « Si je devais donner une prescription, ce serait de promouvoir l'ouverture », a-t-il affirmé, insistant sur le fait que l'IA est une technologie aux potentialités incroyables qui devrait être accessible à tous.

Les divergences sur les modèles à poids ouverts

Cependant, l'idée que les modèles à poids ouverts soient la solution pour préserver cette ouverture ne fait pas l'unanimité. Geoffrey Hinton a notamment distingué entre le logiciel open-source, qui permet une inspection et une modification du code, et les modèles à poids ouverts qui rendent publics les paramètres d'un modèle d'IA entraîné.

« L'open-source est formidable. Vous montrez le code, et de nombreuses personnes peuvent y détecter des bugs », a expliqué Hinton. « Les poids ouverts, en revanche, signifient que vous entraînez un grand modèle et que vous partagez ensuite ces poids. C'est très différent. »

Hinton s'est montré critique à l'égard des poids ouverts, soulignant que leur disponibilité facilite la tâche à ceux qui voudraient utiliser ces modèles pour des activités malveillantes, comme des cyberattaques. Malgré ses réserves, il a reconnu que les modèles à poids ouverts sont désormais une réalité incontournable de l'IA. « Je pense que cette bataille est perdue », a-t-il admis, notant que la barrière d'accès, qui était le coût d'entraînement de ces modèles, a disparu.

Accepter cette réalité ne signifie pas ignorer les risques. Hinton reste convaincu que l'IA continuera de progresser, ce qui est globalement positif selon lui. Il a souligné que cela pourrait accroître la productivité et améliorer des domaines comme l'éducation et la santé. « S'inquiéter des effets néfastes potentiels de l'IA et des actions que des entités plus intelligentes que nous pourraient entreprendre n'est pas injustifié », a-t-il ajouté, précisant qu'il est injuste de qualifier quiconque ayant ce type de pensée de semeur de peur.

La concurrence et la régulation

Andrew Ng a une perspective différente. Pour lui, la question n'est pas tant de savoir si les modèles ouverts sont risqués, mais plutôt qui contrôle l'accès et qui dominera le marché. Celui qui parviendra à construire le modèle le plus économique aura un avantage décisif.

Ng a mis en garde contre le risque que les modèles à poids ouverts de la Chine ne s'imposent largement en Asie, en Afrique et dans le monde en développement, influençant ainsi la perception de concepts tels que la démocratie et les droits de l'homme. « Une chose que j'espère, c'est que nous encouragerons la compétitivité américaine et l'IA open-source », a-t-il déclaré. Il a souligné que l'IA représente une source énorme de pouvoir doux, citant comment le modèle chinois a accompli de grandes choses avec l'Afrique.

Cependant, Ng a exprimé sa crainte que l'IA open-source en Amérique peine à rivaliser avec les modèles à poids ouverts venant de Chine, en raison du lobbying et de la peur aux États-Unis. Si la Chine trouve un moyen fondamentalement plus rentable de construire l'IA, alors ces modèles pourraient avoir un avantage commercial fondamental.

Fei-Fei Li a contesté cette vision binaire. « Il est très dangereux de réduire cela à une dichotomie entre ouverture totale et fermeture totale », a-t-elle déclaré. Elle a utilisé la physique nucléaire comme exemple pour illustrer la nuance nécessaire dans l'ouverture : les articles scientifiques sont publiés ouvertement, mais l'uranium est réglementé, et le travail en laboratoire se situe entre les deux.

Li a souligné que l'ouverture ne doit pas être un choix tout ou rien. Différentes couches de l'écosystème peuvent fonctionner à différents niveaux d'ouverture. Elle a également mentionné des collaborations entre institutions publiques et privées, comme le Human Genome Project, où les connaissances résultantes sont devenues une plateforme sur laquelle d'autres pouvaient s'appuyer, permettant aux entreprises pharmaceutiques de réaliser des bénéfices, aux scientifiques d'avancer dans leurs travaux et à la société d'en bénéficier.

« Nous devons utiliser [l'IA] comme ce type d'infrastructure », a-t-elle affirmé. Elle a plaidé pour des niveaux d'ouverture variés, tant dans la découverte scientifique que dans l'éducation et les partenariats mondiaux, tout en acceptant des systèmes à code fermé. Pour elle, le débat ne doit pas se limiter à un choix unique, mais doit embrasser une approche nuancée.

Cependant, tous s'accordent sur la nécessité d'une régulation pour orienter le développement de l'IA dans une direction bénéfique pour la société. « Ce que nous voulons, c'est développer l'IA de manière à ce qu'elle aide les gens, et la régulation peut nous y aider », a conclu Hinton. Il a insisté sur le fait qu'il ne faut pas laisser des individus comme Elon Musk et Mark Zuckerberg décider seuls de l'avenir de l'IA.