La perspective d’abus des modèles à poids ouverts alimente un débat qui gagne les régulateurs. Des discussions ont lieu au sein de l’Union européenne sur un futur cadre, tandis qu’une étude rapporte que 70 % d’experts jugent ces systèmes détournables et qu’une autre chiffre à 65 % la part d’utilisateurs sans formation en IA.
L’Union européenne prépare un cadre, avec transparence et audits possibles
Des discussions sont en cours au sein de l’Union européenne pour élaborer un cadre visant une utilisation éthique et responsable de l’IA. Parmi les mesures envisagées figurent des exigences de transparence et la mise en place d’audits réguliers des modèles. Au-delà du contexte européen, les préoccupations concernant des usages détournés pourraient pousser gouvernements et autorités à envisager des restrictions plus strictes sur le développement et la diffusion de ces systèmes. Dans ce contexte, des appels à la collaboration entre acteurs du secteur émergent pour établir des normes d’adoption responsable, alors que les débats sur la réglementation et les bonnes pratiques sont jugés particulièrement pertinents actuellement.
Risques mis en avant et chiffres d’alerte sur l’usage détourné
Le fait que les modèles à poids ouverts soient facilement accessibles pose des questions de sécurité. Certains chercheurs alertent sur le risque qu'ils servent à la création de deepfakes, à la production de fausses informations ou à la réalisation d’attaques automatisées. D’après une étude récente, 70 % des spécialistes en intelligence artificielle considèrent que ces modèles sont susceptibles d’être utilisés à des fins malveillantes. Une autre étude révèle que 65 % des personnes utilisant ces modèles ne disposent pas de formation en intelligence artificielle, ce qui augmente la probabilité d’utilisations inadaptées.
L’IA et sa régulation vous intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Ce que recouvrent les modèles à poids ouverts
Les modèles à poids ouverts permettent à chacun d’accéder et de modifier les algorithmes sous-jacents. Ils reposent généralement sur des réseaux de neurones profonds, sont entraînés sur de vastes ensembles de données et sont capables de générer du texte, des images ou de la musique. Des organisations telles qu’OpenAI ou Hugging Face figurent parmi les acteurs qui développent ce type de modèles.
Pistes de réponse, équilibre recherché et effets possibles sur l’innovation
Plusieurs approches sont avancées pour limiter les dérives : certains experts recommandent d’intégrer des mécanismes de sécurité dès la conception, tandis que d’autres défendent l’accès ouvert, estimant que la transparence favorise l’innovation et la collaboration. Des initiatives de sensibilisation et de formation des utilisateurs sont également proposées pour réduire les risques. À l’inverse, la crainte d’abus pourrait freiner l’innovation si des entreprises hésitent à investir dans ces technologies. La nécessité de trouver un compromis entre innovation et sécurité s’impose aux entreprises technologiques et aux organismes de recherche. Il est jugé crucial de parvenir à un juste milieu entre ouverture d’accès et prévention des usages malveillants, la sécurisation des modèles à poids ouverts étant perçue comme un enjeu central. Les réponses apportées à ces problématiques auront une incidence sur l’évolution de l’intelligence artificielle et ses répercussions sociétales.
