Jacob Tsimerman, médaillé Fields, rejoint OpenAI pour sécuriser l'IA
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Jacob Tsimerman, médaillé Fields, rejoint OpenAI pour sécuriser l'IA
Jacob Tsimerman, le nouveau médaillé Fields, rejoint OpenAI pour travailler sur la sécurité de l'IA. Ce théoricien des nombres de l'Université de Toronto a déclaré que l'IA est une technologie extrêmement transformative et que la société doit consacrer beaucoup plus d'efforts à la sécurité. Selon lui, les mathématiciens peuvent apporter une contribution significative, car l'IA fonctionne encore principalement sur une base empirique avec peu de garanties sur le fonctionnement réel de ces systèmes.
Tsimerman a également publié un article sur les "événements d'omnicide" l'année dernière, des scénarios où l'IA pourrait contribuer à l'extinction humaine. Cette position est débattue parmi les experts. La panique n'est pas la bonne réponse, mais nous devons évaluer honnêtement les risques, a déclaré Tsimerman. Il est convaincu que l'IA surpassera bientôt les humains dans la recherche mathématique.
L'ancien PDG de DeepMind, Demis Hassabis, a également commenté les dernières avancées mathématiques de l'IA. Il les considère comme un progrès, mais pas encore une percée fondamentale comme le légendaire "Coup 37" d'AlphaGo de DeepMind. Pour cela, l'IA devrait résoudre des problèmes comme les Millennium Prize Problems. Le nouveau modèle d'OpenAI, Astra, a également échoué dans ces domaines, mais cela pourrait n'être qu'une question de temps. "Je ne vois aucune raison pour que cela ne soit pas possible", dit-il.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.