L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Musk contre OpenAI : un procès qui soulève des questions de sécurité
Elon Musk a lancé une action en justice contre OpenAI, mettant en lumière les tensions entre la mission initiale de l'organisation et ses récentes orientations commerciales. Le procès, qui se déroule devant un tribunal fédéral à Oakland, Californie, pourrait redéfinir la manière dont OpenAI équilibre ses objectifs de sécurité avec ses ambitions lucratives.
Jeudi dernier, Rosie Campbell, ancienne employée et membre du conseil d'administration d'OpenAI, a témoigné que l'entreprise avait progressivement délaissé son engagement envers la sécurité de l'intelligence artificielle générale (AGI) pour se concentrer davantage sur la commercialisation de ses produits. Campbell, qui a quitté OpenAI en 2024 après la dissolution de son équipe de préparation à l'AGI, a souligné que cette transition avait altéré la culture de l'organisation.
« Lorsque je suis arrivée, l'organisation était très axée sur la recherche et il était courant que les gens parlent d'AGI et de questions de sécurité », a-t-elle déclaré. « Au fil du temps, cela est devenu plus une organisation axée sur les produits. »
Sous le contre-interrogatoire, Campbell a reconnu qu'un financement significatif était probablement nécessaire pour atteindre l'objectif du laboratoire de construire une AGI, mais a déclaré que créer un modèle informatique super-intelligent sans les bonnes mesures de sécurité ne correspondrait pas à la mission de l'organisation qu'elle avait initialement rejointe.
Des incidents révélateurs
Campbell a évoqué un incident marquant où Microsoft a déployé une version du modèle GPT-4 en Inde via Bing, sans l'approbation préalable du Deployment Safety Board (DSB) d'OpenAI. Bien que le modèle n'ait pas présenté de risque immédiat, Campbell a insisté sur l'importance de maintenir des processus de sécurité rigoureux à mesure que la technologie évolue.
Les avocats d'OpenAI ont tenté de minimiser ces préoccupations en soulignant que, selon Campbell elle-même, la sécurité chez OpenAI était supérieure à celle de xAI, l'entreprise d'IA fondée par Musk et acquise par SpaceX.
Tensions au sein de la direction
Le déploiement controversé de GPT-4 a également conduit à des tensions internes, culminant avec le renvoi temporaire de Sam Altman, PDG d'OpenAI, en 2023. Des membres du conseil, dont Ilya Sutskever et Mira Murati, ont exprimé leur mécontentement face au manque de transparence d'Altman et à son style de gestion.
Tasha McCauley, alors membre du conseil, a témoigné que la structure de gouvernance atypique d'OpenAI était mise à mal par le manque de communication d'Altman. Elle a également mentionné des incidents où Altman aurait induit le conseil en erreur, notamment concernant le lancement public de ChatGPT.
McCauley a discuté d'un schéma largement rapporté d'Altman induisant le conseil en erreur. Notamment, Altman a menti à un autre membre du conseil au sujet de l'intention de McCauley de retirer Helen Toner, un troisième membre du conseil qui avait publié un document blanc contenant certaines critiques implicites de la politique de sécurité d'OpenAI. Altman a également omis d'informer le conseil de la décision de lancer ChatGPT publiquement, et les membres étaient préoccupés par son manque de divulgation des conflits d'intérêts potentiels.
« Nous sommes un conseil à but non lucratif et notre mandat était de pouvoir superviser le secteur lucratif en dessous de nous », a déclaré McCauley au tribunal. « Notre principale manière de le faire était remise en question. Nous n'avions pas du tout un haut degré de confiance pour croire que les informations qui nous étaient transmises nous permettaient de prendre des décisions de manière éclairée. »
Cependant, la décision de renvoyer Altman est survenue en même temps qu'une offre de rachat pour les employés de l'entreprise. McCauley a déclaré que lorsque le personnel d'OpenAI a commencé à se ranger du côté d'Altman et que Microsoft a travaillé pour rétablir le statu quo, le conseil a finalement fait marche arrière, les membres opposés à Altman se retirant.
Un débat sur la gouvernance de l'IA
Le procès soulève des questions plus larges sur la gouvernance de l'IA dans un contexte où ces technologies sont de plus en plus intégrées dans des entreprises à but lucratif. David Schizer, ancien doyen de la Columbia Law School, a souligné l'importance de respecter les règles de sécurité établies pour garantir que les profits ne priment pas sur la sécurité.
McCauley a conclu que les échecs de gouvernance interne chez OpenAI devraient inciter à une réglementation gouvernementale plus stricte de l'IA avancée, pour éviter que les décisions critiques ne reposent sur un seul individu, surtout lorsque l'intérêt public est en jeu.
