Tu codes avec l’IA ?
Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anton Osika soutient un coup de frein sur les développements d’IA lorsque la sûreté n’est pas démontrée et appelle à une responsabilité publique. Son message intervient après l’alerte de Jacob Coxon et alors qu’un cadre d’Anthropic évoque une probabilité de plus de 10% d’un scénario extrême d’ici dix ans.
Risque chiffré et désaccords publics sur l’ampleur de la menace
Evan Hubinger, responsable de l'équipe d'alignement d'Anthropic, estime personnellement à plus de 10% la probabilité que l'IA puisse tuer tous les humains dans la prochaine décennie. Il précise qu'Anthropic n'a pas encore de plan pour résoudre l'alignement à l'échelle d'une superintelligence, même si des efforts sont en cours. Suite à l'alerte lancée par Jacob Coxon, un vif débat a éclaté au sein de la communauté scientifique, des décideurs et des spécialistes du secteur technologique. Certains membres actuels ou anciens d'Anthropic ont exprimé publiquement leur soutien à certains aspects de l'avertissement de Coxon. D'autres intervenants expriment une opinion contraire : Gary Marcus considère qu'il n'existe pas de scénario crédible d'extinction humaine dans un avenir proche, tandis que Melanie Mitchell qualifie ces préoccupations d'extravagantes.
Osika demande de prouver le contrôle et d’envisager un frein coordonné
Anton Osika estime que le développement de l'IA devrait ralentir lorsque la sécurité ne peut pas être garantie. Dans un message publié jeudi sur LinkedIn, il appelle à une responsabilité publique pour les décisions susceptibles d'affecter tout le monde et considère que les concepteurs des systèmes les plus puissants doivent démontrer leur capacité à les contrôler. Il se dit favorable à une coordination internationale, y compris à ralentir les avancées jugées dangereuses si la sûreté ne peut être démontrée. Il conclut que l'ambition en matière d'IA devrait se mesurer à ce qu'elle permet à l'humanité. Osika est le fondateur de Lovable, une startup suédoise de vibe-coding.
L’alerte initiale de Jacob Coxon et la réaction du secteur
Jacob Coxon, 27 ans, affirme avoir travaillé environ trois ans comme chercheur chez OpenAI et Anthropic et avoir quitté Anthropic cette semaine. Il critique les deux laboratoires pour leur empressement à atteindre une superintelligence capable de s'améliorer elle-même, sans adopter une démarche responsable. Il indique sur X que des individus participant à la conception de ces systèmes sont réellement convaincus qu'ils pourraient entraîner la disparition de l'humanité avant la fin de la décennie, et souligne qu'il ne s'agit pas d'une opération de communication. La plupart des leaders de l'IA sont restés silencieux face à ces accusations, à l'exception d'Anton Osika, qui partage ses inquiétudes.
Silence immédiat des géants, rappels d’alertes antérieures
Pour l'instant, les dirigeants d'OpenAI et d'Anthropic ne se sont pas exprimés publiquement sur l'avertissement de Jacob Coxon, et les demandes de commentaires adressées en dehors des heures ouvrées n'ont pas reçu de réponse. Par le passé, Sam Altman a indiqué en avril que son entreprise pourrait devoir collaborer avec des gouvernements, des organismes internationaux et des développeurs d'AGI rivaux pour traiter des problèmes graves d'alignement, de sécurité ou sociétaux avant toute avancée supplémentaire. En février 2025, Dario Amodei a mis en garde contre des menaces pour la sécurité mondiale liées à l'IA avancée, de l'usage catastrophique aux risques autonomes. Dans ce contexte, Anton Osika fait entendre une voix favorable à un ralentissement conditionné par la démonstration de la sûreté.
