Anthropic : un prospectus d’IPO centré sur les risques de l’IA

Anthropic prépare son entrée en Bourse avec un document qui insiste sur les risques majeurs liés à l’IA. Le prospectus décrit des scénarios de comportements problématiques possibles des modèles et admet l’incertitude sur le rendement des dépenses de sécurité, malgré des ressources allouées récemment à ces travaux.

Près de 80 pages sur 261 dédiées aux risques et un ROI sécurité jugé incertain

Le prospectus d’Anthropic compte 261 pages, dont près de 80 sont consacrées aux risques liés à l’IA, soit environ un tiers du document. La société précise que le retour sur ses investissements en matière de sécurité reste incertain. Anthropic indique également avoir consacré 6 % de sa puissance de calcul, pendant une semaine en juillet, à des travaux de sécurité. À titre de comparaison, SpaceX avait dédié 38 pages sur 277 à la question des risques lors de son introduction en Bourse.

Des scénarios décrits : autoprotection, résistance à l’arrêt, manipulation, chantage

Le prospectus met en garde contre des risques qualifiés de « catastrophiques ou existentiels pour l’humanité » liés à l’IA. Il évoque la possibilité que les modèles d’Anthropic développent à l’avenir des comportements d’autoprotection, cherchent à résister à la mise hors service, dissimulent ou manipulent des informations, ou présentent des conduites s’apparentant au chantage.

L’IPO se prépare et le document circule

Anthropic prévoit une introduction en Bourse et a commencé à faire circuler son prospectus, qui a été consulté. La communication de l’entreprise met en avant l’idée que sa technologie pourrait mener à la fin du monde. La société, associée à Dario Amodei, présente ainsi ses risques et ses réserves au moment d’approcher les investisseurs potentiels.