«« Le coût de la mise en œuvre de ces politiques est modeste par rapport aux avantages potentiels. Le coût de l'inaction, en revanche, est potentiellement catastrophique », écrivent les auteurs.»
Citation originale
“The cost of implementing these policies is modest, relative to the potential benefits. The cost of failing to act, by contrast, is potentially catastrophic,” the authors write.
Jack Clark
Co-founder · Anthropic · US
Pourquoi ça compte
L'auteur souligne l'importance d'une approche de 'radical optionality' pour la régulation de l'IA, afin de préparer les gouvernements à des crises futures, ce qui est crucial face aux enjeux croissants de l'IA en 2026.
Source
importai.substack.com
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.
« « Les systèmes d'IA étaient systématiquement plus persuasifs que des experts humains, même lorsque ces experts choisissaient leurs sujets, faisaient des recherches à l'avance, suivaient des heures de »
« "L'intelligence artificielle superintelligente (ASI) pourrait être développée dans les prochaines années. Il n'est pas clair si l'alignement est sur la bonne voie pour être prêt dans le même délai." »
« Lorsque les institutions sociétales sont codées comme des systèmes de règles portant des récompenses, le hacking des récompenses devient le hacking des règles sur lesquelles la société fonctionne, pui »