Meta : lunettes AI sécurisées mais collecte accrue de données

Meta : lunettes AI sécurisées mais collecte accrue de données

Les lunettes AI de Meta ont une réputation grandissante en tant que technologie intrusive. La société espère changer cette perception en annonçant une mise à jour qui désactivera la caméra si la lumière LED indiquant que les lunettes sont en train d'enregistrer a été altérée.

Cette décision semble être une concession face aux préoccupations des consommateurs, qui voient ces lunettes non seulement comme des accessoires amusants et à la mode, promus par Kylie Jenner, mais aussi comme des dispositifs de surveillance potentiels.

Cependant, même si Meta vante cette nouvelle mesure de sécurité cette semaine, l'entreprise continue de promouvoir des produits et des fonctionnalités qui demandent aux utilisateurs de renoncer à davantage de leur vie privée.

Que ce soit en formant son IA sur vos images, en activant des fonctionnalités d'IA utilisant votre contenu personnel à moins que vous ne choisissiez de vous désinscrire, ou en explorant des moyens d'enregistrer en continu ou d'utiliser la reconnaissance faciale biométrique, la vision de l'avenir de Meta semble toujours dépendre de la collecte de plus de vos données personnelles.

Dans son article de blog sur la nouvelle fonctionnalité de sécurité de la caméra, l'entreprise se félicite, notant que « aucun autre type de caméra n'a fait cela et nous sommes fiers de mener l'effort de l'industrie ». Cependant, Meta admet également que cette mesure était nécessaire car certaines personnes avaient utilisé du ruban adhésif pour couvrir la lumière LED, ce qui avait déjà contraint Meta à adapter sa technologie pour désactiver l'enregistrement lorsque la LED est bloquée.

Déterminés, ces mêmes utilisateurs de lunettes AI auraient ensuite utilisé des « efforts sophistiqués pour modifier ou détruire la LED de capture », explique l'annonce de Meta.

En d'autres termes, Meta confirme que certaines personnes qui utilisent des lunettes AI ont des intentions cachées — à savoir le désir d'enregistrer des situations ou des personnes (souvent des femmes) sans leur consentement.

Malgré cela, la société teste apparemment un prototype de lunettes AI qui « collecterait en continu de l'audio tout en prenant des photos toutes les quelques secondes », ont récemment rapporté des sources au Financial Times.

L'article de blog de Meta sur la fonctionnalité des lunettes tente de rassurer les gens sur la vie privée des dispositifs en répondant à des questions telles que « qui peut voir les photos et vidéos que je prends avec mes lunettes ? » Meta répond en promettant, « Vous, et seulement vous — à moins que vous ne choisissiez de les partager ». Pourtant, la politique de confidentialité de Meta a expliqué que toute image que vous partagez avec Meta AI peut être utilisée pour former son IA.

Pendant ce temps, l'entreprise fait face à plusieurs enquêtes et poursuites concernant des violations de la vie privée liées aux lunettes AI de Meta. L'une des poursuites fait suite à l'annulation par Meta d'un contrat avec une entreprise de technologie sous-traitante après que certains de ses employés kenyans ont allégué avoir dû visionner du contenu graphique, comme des scènes de sexe, de nudité et des personnes utilisant les toilettes, tout en formant l'IA de Meta à partir des vidéos des lunettes AI des utilisateurs.

Ce ne sont pas les premières frictions de Meta avec les violations de la vie privée ou les mesures de sécurité.

On peut dire que la réputation de Meta en matière de vie privée est ternie depuis des années après de nombreuses fuites et des poursuites perdues concernant son prétendu manque de mesures de sécurité pour les enfants et son désir de croissance à tout prix. Des livres de lanceurs d'alerte documentent ses abus présumés, sans parler des précédents désastres de confidentialité à grande échelle, comme le scandale des données de Cambridge Analytica et d'autres.

Après le scandale de Cambridge Analytica en 2018, Meta insiste désormais sur sa page de mise à jour des progrès en matière de confidentialité, « Depuis 2019, nous avons investi de manière significative dans les personnes, les produits et la technologie pour continuer à faire évoluer notre programme de confidentialité rigoureux ».

Pourtant, l'entreprise avance avec ce que beaucoup de gens considéreraient comme des idées violant la vie privée. Par exemple, le même jour où elle a annoncé la nouvelle mesure de sécurité des lunettes Meta, elle a partagé que Meta AI peut désormais utiliser les photos publiques de n'importe qui sur Instagram pour créer des images d'IA, à moins que vous ne choisissiez de vous désinscrire.

Elle a également développé des fonctionnalités pour utiliser Meta AI sur des images dans votre pellicule que vous n'avez jamais partagées et a mis en place des contrôles de confidentialité si médiocres dans son application Meta AI, que les utilisateurs finissent par se dévoiler en révélant leurs recherches embarrassantes.

C'est la même entreprise avec laquelle Apple n'a pas voulu s'associer en raison de préoccupations en matière de vie privée, qui enregistre les frappes de ses employés pour former son IA, et qui prévoit de vendre des publicités ciblées basées sur les données de vos discussions avec l'IA.

Ainsi, bien qu'une mesure de sécurité LED sur des lunettes AI puisse être une fonctionnalité nécessaire, les consommateurs ont clairement de nombreuses raisons de rester méfiants quant à la manière dont les réseaux sociaux utiliseront leurs images et leurs données, en particulier dans le cadre de leurs projets d'IA plus larges.