L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
La Floride veut empêcher OpenAI de présenter ChatGPT avec des attributs humains et de former de nouveaux modèles sans validation de garde-fous par des tiers. OpenAI assure de son côté avoir suspendu l’entraînement de ses modèles les plus puissants et se dit prêt à travailler avec l’État et d’autres sur des règles de sécurité applicables à toute l’industrie.
OpenAI met en avant une pause et appelle à des normes publiques
OpenAI, par la voix de son porte-parole Drew Pusateri, affirme que la sécurité de l’IA commence par les pratiques des entreprises. Pusateri indique qu’OpenAI a annoncé avoir suspendu l’entraînement de ses modèles les plus performants et que la reprise n’aura lieu que lorsque des mesures de sécurité supplémentaires auront été instaurées. Il estime que les gouvernements ont un rôle important dans l’établissement de normes de sécurité robustes pour l’IA. OpenAI se dit prêt à collaborer avec la Floride et d’autres États sur des politiques pragmatiques applicables à l’ensemble du secteur.
Ce que la Floride demande au juge contre OpenAI
La demande déposée par l’Attorney General de Floride vise à interdire à OpenAI de donner à ChatGPT des caractéristiques humaines. Elle sollicite aussi l’obligation de ne pas développer de nouveaux modèles d’IA sans garde-fous de sécurité approuvés par des tiers. James Uthmeier estime que l’usage de pronoms à la première personne et de réponses imitant des émotions trompe les utilisateurs en présentant ChatGPT comme un « ami » digne de confiance. Selon lui, ces choix visent à accroître l’engagement et à alimenter les données d’entraînement d’OpenAI, ce qui rendrait potentiellement le service moins fiable tout en incitant les utilisateurs à s’y fier davantage.
Incidents cités et contexte procédural
Le dépôt fait référence à des incidents de sécurité récents sur Hugging Face, sur un site gouvernemental australien et sur des sites gouvernementaux américains. Il mentionne également des déclarations récentes de chercheurs et d’anciens employés d’OpenAI alertant sur la sécurité de l’IA. Cette démarche judiciaire intervient quelques mois après une action intentée par la Floride contre OpenAI pour des préoccupations de sécurité.
Mineurs : version dédiée et critiques de la Floride
OpenAI a lancé le mois dernier une version de ChatGPT destinée aux adolescents, avec des restrictions supplémentaires activées par défaut. L’entreprise affirme que l’accès des mineurs à l’outil doit s’accompagner de protections adaptées à leur stade de développement, en renforçant les relations réelles et une utilisation saine dans le temps. James Uthmeier demande pour sa part à OpenAI de cesser de qualifier ChatGPT de sûr, de le présenter comme humain et de le vendre aux enfants.
