DeepMind : Hassabis prône des garde-fous pour l'IA avancée

Demis Hassabis propose un cadre de régulation pour l'IA avancée

Demis Hassabis, le PDG de Google DeepMind, a récemment présenté une proposition ambitieuse visant à encadrer le développement de l'intelligence artificielle avancée. Il suggère la création d'un nouvel organisme de normalisation aux États-Unis, qui s'inspirerait du modèle du régulateur financier FINRA. Cet organisme aurait pour mission de développer des protocoles d'évaluation pour les modèles d'IA les plus avancés.

Un ralentissement du développement si nécessaire

L'une des fonctions clés de cet organisme serait de coordonner un ralentissement du développement de l'IA si cela s'avérait nécessaire pour des raisons de sécurité. Cette approche vise à anticiper les risques potentiels associés à l'IA avancée et à garantir un développement responsable et sécurisé.

Exemptions pour startups et recherche

Dans sa proposition, Hassabis précise que les startups et les projets de recherche seraient exemptés de cette régulation. Cela permettrait de ne pas freiner l'innovation et la recherche fondamentale, tout en assurant que les modèles de pointe soient soumis à des normes strictes.

Un appel à l'optimisme prudent

Hassabis souligne l'incertitude qui entoure l'avenir de l'IA, affirmant que "personne au monde ne sait ce qui se passe ensuite". Cette incertitude justifie, selon lui, la nécessité de mettre en place des garde-fous dès maintenant pour maintenir un "optimisme prudent" face aux avancées rapides de la technologie.