Automatisation totale de la R&D en IA : un bond sans singularité

L'impact de l'automatisation sur la R&D en IA

L'automatisation totale de la recherche et développement (R&D) en intelligence artificielle (IA) pourrait générer un gain de vitesse significatif, même sans atteindre ce que l'on appelle une "singularité logicielle". Cette singularité se caractérise par des progrès exponentiels en IA, où les algorithmes s'améliorent à un rythme accéléré, surmontant les rendements décroissants. Un tel phénomène nécessiterait que ces progrès soient suffisamment durables pour représenter, par exemple, quatre ans de progrès en une seule année.

Même sans cette singularité, l'automatisation complète de la R&D en IA pourrait accélérer le progrès pour deux raisons principales. Premièrement, l'automatisation elle-même offre un gain de vitesse notable. Avec des paramètres médians et un facteur de r=0.7, il est estimé que l'on pourrait atteindre 3,5 ans de progrès en seulement une année après l'automatisation, sans même augmenter la puissance de calcul durant cette période.

Deuxièmement, une fois que la R&D en IA est entièrement automatisée, l'augmentation de la puissance de calcul disponible pourrait générer des rendements plus élevés qu'auparavant. Les IA, devenues la principale force de travail, pourraient utiliser ce calcul supplémentaire pour mener des expériences et des formations, optimisant ainsi leur efficacité et réduisant les coûts d'exécution.

Boucles de rétroaction et progrès

Cette situation crée une boucle de rétroaction où des IA améliorées mènent à de meilleures expériences, produisant à leur tour des IA encore plus performantes. Même si cette boucle reste subcritique, chaque augmentation de calcul pourrait désormais entraîner davantage de progrès. Cet effet pourrait potentiellement doubler, tripler, voire quadrupler le taux de progrès observé sans l'automatisation.

En analysant les trajectoires de progrès, un modèle AI Futures montre qu'après l'automatisation complète, il est possible d'atteindre plus de deux ans de progrès en une seule année. Cela pourrait permettre à une IA de surpasser les meilleurs experts humains en moins d'un an.

Facteurs indirects d'accélération

Plusieurs facteurs indirects pourraient également accélérer le progrès de l'IA au moment de l'automatisation de la R&D. Une capacité accrue en IA pourrait attirer des investissements et des revenus supérieurs à la tendance actuelle, permettant d'acquérir plus de calcul. Une entreprise ayant un avantage net pourrait obtenir plus facilement du calcul d'autres entreprises en retard.

De plus, les IA pourraient accélérer la R&D matérielle, en développant de meilleures conceptions de puces et en accélérant la recherche et la construction de nouvelles usines de fabrication.

Cependant, il est important de noter que le taux d'augmentation du calcul pourrait être inférieur à celui d'aujourd'hui, ce qui pourrait réduire le taux de progrès de l'IA, rendant l'accélération relative à une base plus faible.

Historique et perspectives

Historiquement, le progrès en IA a été alimenté par deux facteurs : l'augmentation du calcul et l'augmentation du travail. Le calcul pour les algorithmes et la formation a été multiplié par environ quatre fois par an, tandis que le nombre d'employés dans les entreprises a triplé chaque année. Cette dynamique pourrait changer avec l'automatisation complète de la R&D en IA.

Conclusion

L'automatisation complète de la R&D en IA pourrait rendre les avantages modérés plus stables et prévisibles, car la partie travail de la R&D IA serait commoditisée et similaire entre les entreprises. Cependant, maintenir un avantage compétitif nécessiterait de conserver un avantage en calcul. Une entreprise en retard pourrait rattraper son retard si elle disposait de plus de calcul, car le travail serait commoditisé après l'automatisation. Les investisseurs pourraient pousser une entreprise en retard à vendre son calcul à une entreprise leader, même si la direction n'est pas encline à le faire.