Anthropic réduit les faux positifs de Fable 5

Anthropic réduit les faux positifs de Fable 5

Anthropic a réduit les faux positifs dans ses filtres de sécurité biologique pour Fable 5 d'environ 85 %. Auparavant, presque toutes les requêtes biologiques étaient bloquées et redirigées vers l'Opus 5, moins performant, ce qui a suscité de vives critiques de la part des scientifiques. Les utilisateurs peuvent désormais gérer beaucoup plus de tâches biologiques avec Fable 5, telles que l'interprétation des résultats de laboratoire, la compréhension des symptômes et la réponse à des questions médicales.

Le classificateur permet désormais à la plupart des requêtes biologiques bénignes de passer tout en bloquant les sujets de recherche à double usage.

Les restrictions demeurent pour les sujets à "double usage" tels que la virologie, la toxicologie et la conception moléculaire, où Anthropic affirme que Fable 5 pourrait donner aux acteurs malveillants des capacités indisponibles ailleurs. L'entreprise développe également des programmes d'accès afin que les chercheurs puissent éventuellement utiliser ces fonctionnalités restreintes.

La justification d'Anthropic : les risques biologiques peuvent être plus difficiles à contenir que les cyberattaques. Un virus libéré ne peut pas être arrêté, et les contre-mesures prennent du temps. Une analyse des agences de renseignement américaines, une revue des discussions de ChatGPT demandant des instructions sur les armes biologiques, des avertissements conjoints de chercheurs, et un projet de Stanford qui a utilisé l'IA pour concevoir des virus entièrement synthétiques suggèrent tous que la menace est réelle et ne relève pas seulement de l'angoisse habituelle d'Anthropic.