TechBBQ : souveraineté et vie privée dominent les débats IA

À Copenhague, la question de qui tient réellement les rênes de l’IA a aimanté panels et couloirs. Du pouvoir concentré chez quelques laboratoires à la critique des intégrations d’assistants dans les OS, les débats ont croisé enjeux de souveraineté et de confidentialité. En toile de fond, un épisode d’indisponibilité de modèles d’Anthropic a ravivé l’interrogation sur la dépendance européenne.

Pouvoir, agents et contrôle : la souveraineté redéfinie par des voix opposées

Emad Mostaque a défini la souveraineté comme la capacité de résister à un pouvoir exercé sur soi et a évoqué la concentration du pouvoir entre quelques laboratoires d’IA. Il a affirmé qu’inévitablement chaque pays sera dirigé par l’IA et que la personne qui contrôle l’IA contrôle le pays. À rebours d’un récit d’autonomie grandissante des machines, Ellen de Brever a soutenu que l’ère des agents IA correspond surtout à des humains qui décident ce qu’ils sont prêts à abandonner, et que les débats concernent le jugement humain et qui reste aux commandes. Dans un message après un panel, Mia Negru a estimé que si des agents réalisent le travail cognitif et des robots davantage de travail physique, il pourrait falloir repenser la propriété, le travail, la démocratie, la participation économique et qui a le droit de participer à la société.

Vie privée face aux intégrations d’assistants dans les OS

Lors d’un panel consacré à la coexistence entre vie privée et IA, la présidente de Signal, Meredith Whittaker, a critiqué l’intégration des assistants et agents IA dans les systèmes d’exploitation, citant l’exemple de l’intégration de ChatGPT avec iMessage. Elle a décrit l’époque actuelle comme un appareil de collecte de données et accusé des laboratoires d’IA d’utiliser un marketing astucieux pour faire oublier les conséquences collatérales de la collecte. Elle a jugé qu’il existe encore un énorme besoin de marché pour la vie privée et, compte tenu des préoccupations de souveraineté, a estimé que des clients se trouveront en Europe.

Un signal d’alarme : l’indisponibilité de Mythos et Fable hors d’Europe

Au cours de cette année, l’accès aux modèles Mythos et Fable d’Anthropic a été retiré pour les utilisateurs situés en dehors de l’Europe. Selon un responsable de startup, cette situation a fortement désorganisé son équipe chargée du développement logiciel, tandis qu’un autre responsable a tempéré en considérant que si la dépendance envers les États-Unis et la Chine pourrait poser des difficultés à l’avenir, la situation actuelle demeurait globalement satisfaisante. Cet événement a remis sur le devant de la scène la question de l’importance de détenir ses propres modèles et infrastructures, au lieu de s’en remettre à d’autres puissances. Dans ce contexte, les échanges ont régulièrement porté sur la manière d’obtenir un meilleur contrôle européen sur la technologie d’IA, en écho au thème « Émerger de l’Agence » et à une édition qui s’est achevée le 27 août.

Panels, capital et scènes informelles ancrent le débat à Copenhague

Au-delà des grands principes, des panels ont exploré l’avenir de la santé des femmes, la collaboration entre écosystèmes nordiques et africains en matière d’innovation et d’investissement, ainsi que les voies pour obtenir davantage de capital de croissance en Europe. En marge, un barbecue sur toit co-organisé par Lovable, Nvidia, OpenAI, AWS Startups et HSBC a donné lieu à des échanges sur les pôles technologiques en pleine croissance au Danemark. Ada Ventures a réuni des participants au bar Bird, où il a été question d’innovation en santé cérébrale des femmes. Un dîner des conférenciers sur une île avec presse internationale et danseurs de feu a précédé une after-party qui s’est prolongée jusqu’à la clôture de la note du bar. Dans ce cadre copenhaguois, Ellen de Brever a rappelé que les moments marquants restent ceux des liens humains en face à face, du partage d’idées et de ce que la technologie ne remplace pas.