Campbell Brown : l'IA doit choisir entre vérité et engagement

Campbell Brown et sa vision de l'IA dans l'information

Campbell Brown, une figure reconnue dans le domaine du journalisme, a consacré une grande partie de sa carrière à la quête d'informations précises. Après avoir été une journaliste télévisée de renom, elle a pris les rênes des nouvelles chez Facebook, devenant ainsi la première à occuper ce poste. Aujourd'hui, alors qu'elle observe l'intelligence artificielle transformer la manière dont les gens accèdent à l'information, elle exprime ses craintes quant à une répétition des erreurs du passé. Cette fois-ci, elle ne souhaite pas se reposer sur d'autres pour trouver des solutions.

Forum AI : une approche innovante pour évaluer l'IA

Brown a fondé Forum AI, une entreprise qui se concentre sur l'évaluation des performances des modèles d'IA dans des domaines qu'elle qualifie de "sujets à enjeux élevés". Ces domaines incluent la géopolitique, la santé mentale, la finance et le recrutement. Ces sujets sont caractérisés par leur complexité et l'absence de réponses simples. L'objectif de Forum AI est de collaborer avec les meilleurs experts mondiaux pour établir des références, puis former des juges IA capables d'évaluer les modèles à grande échelle.

Pour son travail sur la géopolitique, Brown a réuni des personnalités influentes telles que Niall Ferguson, Fareed Zakaria, l'ancien secrétaire d'État Tony Blinken, l'ancien président de la Chambre Kevin McCarthy, et Anne Neuberger, qui a dirigé la cybersécurité sous l'administration Obama. L'objectif est que les juges IA atteignent un consensus d'environ 90 % avec ces experts humains, un seuil que Forum AI affirme avoir déjà atteint.

Les origines de Forum AI et ses motivations

Forum AI a vu le jour il y a 17 mois à New York, à un moment que Brown décrit comme crucial. Elle se souvient de son temps chez Meta, lorsque ChatGPT a été lancé pour la première fois. Elle a rapidement réalisé que cette technologie deviendrait le principal canal de diffusion de l'information, ce qui l'a profondément préoccupée. Les implications pour ses enfants ont rendu cette prise de conscience presque existentielle, craignant qu'ils ne deviennent "vraiment idiots" si une solution n'était pas trouvée.

Les défis de la précision dans l'IA

Brown a été particulièrement frustrée par le manque d'attention accordée à la précision dans le développement de l'IA. Elle critique les entreprises de modèles de base pour leur focalisation excessive sur le codage et les mathématiques, au détriment de la qualité de l'information. Selon elle, bien que la tâche soit complexe, elle ne doit pas être négligée.

Lors des premières évaluations de Forum AI, les résultats des modèles leaders n'étaient pas encourageants. Brown a cité l'exemple de Gemini, qui puisait des informations sur des sites du Parti communiste chinois pour des sujets sans lien avec la Chine. Elle a également noté un biais politique à gauche dans presque tous les modèles. D'autres échecs incluent le manque de contexte et de perspectives, ainsi que des arguments simplifiés à l'extrême.

Leçons tirées de l'expérience chez Facebook

Brown a passé plusieurs années chez Facebook, observant les conséquences d'une optimisation mal orientée. Elle a confié à Tim Fernholz que de nombreuses initiatives avaient échoué, notamment le programme de vérification des faits qu'elle avait mis en place. Elle a appris que l'optimisation pour l'engagement était nuisible à la société et contribuait à une désinformation accrue.

L'espoir d'un avenir meilleur avec l'IA

Malgré les défis, Brown espère que l'IA pourra rompre ce cycle de désinformation. Elle estime que les entreprises ont le choix entre fournir aux utilisateurs ce qu'ils désirent ou leur offrir des informations véridiques et honnêtes. Bien que l'idée d'une IA optimisée pour la vérité puisse sembler idéaliste, elle croit que le secteur privé pourrait jouer un rôle clé. Les entreprises utilisant l'IA pour des décisions critiques, telles que le crédit ou le recrutement, ont un intérêt à garantir des résultats précis.

Les défis économiques de Forum AI

Forum AI mise sur cette demande de responsabilité pour son modèle économique, bien que transformer cet intérêt en revenus stables reste un défi. Le marché actuel est souvent satisfait d'audits de conformité superficiels, que Brown considère comme insuffisants. Elle critique le paysage de la conformité, le qualifiant de "blague", et souligne la nécessité d'une expertise réelle pour traiter des scénarios complexes.

Le décalage entre perception et réalité de l'IA

Avec un financement de 3 millions de dollars levé l'automne dernier, dirigé par Lerer Hippeau, Brown est bien placée pour observer le fossé entre la perception de l'industrie de l'IA et la réalité pour les utilisateurs. Elle note que, malgré les promesses grandioses des dirigeants technologiques, les utilisateurs reçoivent souvent des réponses erronées de la part des chatbots. La confiance dans l'IA est faible, et Brown estime que ce scepticisme est souvent justifié. Elle souligne la différence entre les discussions à Silicon Valley et les préoccupations des consommateurs.