Les chercheurs en IA face aux défis des géants technologiques

Une rencontre au cœur de l'innovation en IA

Récemment, un rassemblement de chercheurs en intelligence artificielle s'est tenu à Mountain View, en Californie, réunissant certains des esprits les plus brillants du domaine. Cette réunion, organisée par le programme Schmidt Sciences AI2050, visait à soutenir les universitaires travaillant sur des projets liés à l'IA. Le programme, financé par Eric et Wendy Schmidt, est un lieu de rencontre pour les chercheurs. La liste des participants est impressionnante, regroupant des personnalités influentes de l'IA, bien que tous n'aient pas pu être présents. (Divulgation complète : l'auteur a reçu un prix de communication scientifique financé par Schmidt Sciences en 2024.)

La recherche académique en IA face à des obstacles majeurs

Les chercheurs universitaires en IA traversent une période complexe. Au cours des dernières années, l'accent de la recherche s'est déplacé vers les grands modèles de langage, avec une migration notable des talents des universités vers les entreprises privées. Les institutions académiques peinent à rivaliser avec les ressources des entreprises comme Anthropic et OpenAI, qui disposent des infrastructures nécessaires pour développer et exploiter des modèles avancés tels que Claude et ChatGPT. Les universités manquent des GPU indispensables pour ces tâches, et même si elles en avaient, l'accès aux détails internes de ces modèles reste limité.

Une comparaison frappante avec le domaine de la biologie

Nika Haghtalab, professeur à l'UC Berkeley, a comparé la situation actuelle des chercheurs en IA à celle des biologistes dans un monde où les outils d'édition génétique comme CRISPR seraient contrôlés exclusivement par des entreprises privées. Les chercheurs extérieurs aux laboratoires de pointe peuvent observer le comportement des modèles comme ChatGPT, mais ils sont exclus des processus de conception et d'entraînement de ces outils, ce qui limite leur capacité à influencer le développement de ces technologies.

Le soutien financier du programme AI2050

Le programme AI2050 offre un soutien financier aux chercheurs, leur permettant d'acquérir des GPU, un avantage majeur selon plusieurs participants. Cependant, le financement reste une préoccupation constante, d'autant plus que le soutien fédéral à la recherche scientifique aux États-Unis diminue. Pour ceux qui ne gèrent pas de modèles localement, le coût des requêtes répétées aux modèles d'entreprises comme OpenAI peut s'avérer prohibitif.

Une réorientation vers des questions négligées par les entreprises

Face à ces défis, de nombreux chercheurs choisissent de se concentrer sur des questions que les entreprises technologiques ne traitent pas. Anjalie Field, professeur à Johns Hopkins, explique qu'elle évite de travailler sur des problèmes susceptibles d'être résolus par des entreprises, préférant explorer des sujets qui pourraient ne pas être rentables pour elles. Par exemple, elle a mené une étude révélant que les modèles de langage répondent différemment selon le genre de la formulation des requêtes, une recherche peu probable de la part d'entreprises comme Anthropic ou OpenAI.

Les chercheurs en IA spécialisés et leurs défis

Tous les chercheurs en IA ne se concentrent pas sur les grands modèles de langage. Certains développent des modèles spécialisés pour analyser des données ou simuler des systèmes physiques. Bien qu'ils ne soient pas en concurrence directe avec les géants technologiques, ces chercheurs rencontrent des difficultés. Lors de la réunion, des inquiétudes ont été exprimées quant à la méconnaissance des IA non-LLM, ce qui complique la valorisation de leur travail, notamment dans des domaines comme le changement climatique. Par ailleurs, l'équipe d'AlphaFold de Google DeepMind, qui a développé un modèle prédisant les structures des protéines et récompensé par un prix Nobel, a récemment été dissoute.

Les mutations du paysage académique

Les défis actuels modifient profondément le paysage académique. Plusieurs chercheurs ont pris des congés pour rejoindre des laboratoires de pointe, et beaucoup jonglent entre des postes académiques et industriels. De plus, l'avancée des modèles d'OpenAI dans la résolution de problèmes mathématiques soulève des inquiétudes quant à l'avenir des mathématiques pures et à la santé mentale des mathématiciens.

Une perspective optimiste malgré les défis

Malgré ces obstacles, certains chercheurs restent optimistes. La science empirique, par exemple, pourrait résister à l'automatisation grâce à la complexité de la collecte de données. Tim Dettmers, de Carnegie Mellon, voit les modèles d'IA comme des outils pour améliorer l'efficacité des scientifiques humains, leur permettant d'explorer des idées novatrices. Les contraintes actuelles poussent les chercheurs à innover, à rendre les modèles plus efficaces ou à explorer de nouvelles architectures. Ainsi, la prochaine grande avancée en IA pourrait bien émerger d'un laboratoire académique audacieux.