Nathan Lambert (AI2) : « les politiques de sécurité appliquées de manière inégale qu'Anthropic a mises en… »

⚠️ AlerteSafety📧 Substack · il y a 1 mois

«les politiques de sécurité appliquées de manière inégale qu'Anthropic a mises en place sont sur le point de devenir une fable d'avertissement classique sur la façon dont des notions de sécurité et de contrôle étroites et auto-réalisatrices fonctionnent rarement.»

Citation originale

the unevenly applied safety policies that Anthropic have rolled out are on track to become a classic cautionary fable in how narrow and self-fulfilling notions of safety and control rarely work out.

Nathan Lambert

Researcher · AI2 · US

Pourquoi ça compte

L'auteur souligne que les nouvelles mesures de sécurité d'Anthropic pour Claude Fable 5 pourraient paradoxalement nuire à la sécurité globale, illustrant les dangers d'une approche trop restrictive.

Source

www.interconnects.ai

Voir la source

📬 Newsletter gratuite

Ne rate rien de l'actu IA

Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.

Autres prises de parole de Nathan Lambert

⚠️ Alerte· il y a 1sem

« La mesure la plus probable à venir est d'interdire ou de retarder indéfiniment tout modèle à poids ouverts significativement au-dessus du niveau de capacité dans la fourchette de GPT 5.5, Claude Opus »

🧠 Analyse· il y a 3sem

« Les tentatives de ralentir ou d'interdire cet écosystème sont non seulement futiles, comme l'a montré l'histoire des interdictions liées à la technologie, mais aussi dangereuses et anti-liberté. »

🧠 Analyse· il y a 1 mois

« GLM-5.2 est le premier de nombreux modèles à poids ouverts (à venir bientôt) à offrir des alternatives crédibles. »

← Tous les hot takes IA