«"L'intelligence artificielle superintelligente (ASI) pourrait être développée dans les prochaines années. Il n'est pas clair si l'alignement est sur la bonne voie pour être prêt dans le même délai."»
Citation originale
"Artificial superintelligence (ASI) may be developed in the next few years. It is unclear whether alignment is on track to be ready on the same timeframe."
Jack Clark
Co-founder · Anthropic · US
Pourquoi ça compte
L'auteur souligne l'urgence de développer des techniques d'alignement pour l'ASI, car la sécurité des systèmes superintelligents est incertaine et pourrait poser des risques majeurs.
Source
importai.substack.com
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.
« « Cela suggère que des agents IA très intelligents pourraient être capables d'apprendre du monde de manière à pouvoir récapituler les choses avec lesquelles ils interagissent en tant que capacités mai »
« L'implication principale ici est que l'écart entre la frontière contrôlable et la frontière ouverte sans loi se réduit. »
« Plus les systèmes d'IA sont performants dans des tâches comme la conception de noyaux, mieux ils réussissent dans les tâches nécessaires au développement de l'IA, ce qui signifie qu'ils s'améliorent d »