LLM vulnérables : une faille expose les secrets des modèles de langage

Une vulnérabilité fondamentale expose les LLM à des attaques

Les grands modèles de langage (LLM) sont au cœur de nombreuses applications d'intelligence artificielle, mais leur sécurité reste un défi majeur. Une équipe de chercheurs a mis en lumière une vulnérabilité intrinsèque à ces systèmes lors d'une conférence sur l'IA, soulignant qu'il est impossible de les protéger totalement contre les piratages. Cette faille réside dans la manière dont les LLM interprètent les instructions qui leur sont données, ce qui peut être exploité pour obtenir des informations sensibles que ces modèles ne devraient pas divulguer.

En exploitant cette faille, les chercheurs ont réussi à pousser des LLM populaires à révéler des informations qu'ils étaient censés garder confidentielles. Parmi ces informations, on trouve des instructions sur la synthèse de drogues comme la cocaïne ou des méthodes pour perturber le système de navigation d'un avion commercial. Ces exemples illustrent les risques potentiels liés à l'utilisation des LLM dans des contextes sensibles.

Une centrale géothermique négligée obtient une seconde chance

En juin 2024, une entreprise nommée Zanskar a pris le pari audacieux de racheter la centrale géothermique Lightning Dock au Nouveau-Mexique, alors en déclin. La baisse de température de l'eau du réservoir souterrain avait rendu l'exploitation de la centrale non rentable. Deux ans plus tard, grâce à des avancées technologiques et à une stratégie innovante, la centrale fonctionne à nouveau à pleine capacité.

Zanskar a utilisé des modélisations avancées et des techniques de forage modernes pour identifier un emplacement optimal pour un nouveau puits. En forant à des milliers de pieds de profondeur, l'entreprise a réussi à relancer l'activité de la centrale. Ce succès démontre le potentiel des technologies modernes pour revitaliser des infrastructures énergétiques vieillissantes, offrant une source d'électricité renouvelable et continue.

Les travailleurs des semi-conducteurs en Corée du Sud, les nouveaux célibataires prisés

En Corée du Sud, les employés du secteur des semi-conducteurs, comme ceux de SK Hynix, connaissent une popularité croissante sur le marché des rencontres. Baek, un manager de 35 ans chez SK Hynix, a été inscrit par sa mère dans une agence matrimoniale, un geste courant parmi les parents sud-coréens désireux de voir leurs enfants se marier.

Récemment, Baek et ses collègues ont constaté une augmentation de leur succès dans les rencontres, probablement en raison des primes substantielles qu'ils ont reçues. Grâce aux bénéfices générés par le boom des puces pour l'IA, SK Hynix a décidé de redistribuer 10 % de ses bénéfices d'exploitation à ses employés, ce qui représente un bonus de 476 000 dollars par employé cette année. Cette manne financière rend ces travailleurs particulièrement attractifs sur le marché matrimonial.

Les nouvelles importantes de la technologie

1. Le gouvernement américain a interdit les Roombas : Les aspirateurs robots sont désormais inclus dans une nouvelle interdiction de la FCC, aux côtés des humanoïdes chinois.

2. Les incendies en Europe battent des records modernes : Les prévisions indiquent que d'autres destructions sont à venir.

3. Google DeepMind a dissous son équipe AlphaFold, lauréate du prix Nobel : Ce changement reflète une tendance de l'industrie vers des agents IA plus généraux pour la science.

4. Construire des centres de données est facile. Les faire fonctionner ? Pas tant que ça : Cela nécessite des investissements conséquents en temps et en infrastructure réseau.

5. DoorDash prévoit de lancer un programme de livraison par drone : Il faudra encore du temps avant que ce service ne soit disponible pour le grand public.

6. L'IA accélère l'inégalité numérique mondiale : Les ressources financières, l'infrastructure et les talents se concentrent dans un nombre limité de régions.

7. Les ordinateurs quantiques promettent des super-pouvoirs mathématiques : Nous nous rapprochons de la commercialisation de ces machines révolutionnaires.

8. Des étudiants chinois anxieux utilisent l'IA pour les admissions universitaires : Les entreprises d'IA offrent désormais gratuitement des services de coaching, autrefois payants.

9. Les baby-boomers continuent d'offrir à leurs petits-enfants des livres générés par l'IA : Cette tendance agace les parents milléniaux.

10. Minecraft aide les enfants à redessiner leurs villes : Un exemple de créativité florissante, même en temps de guerre.

Citation du jour

« Je veux voir le sang, la sueur et les larmes qui y ont été consacrés. » —Ray Slater Berry, fondateur de l'agence de marketing dslx, partage son attrait pour les textes rédigés par des humains.

La vision de l'Europe pour un avenir de guerre rempli de drones

L'Europe a lancé des tests pour un réseau d'intelligence automatisée invisible, baptisé "web de ciblage numérique", dans le cadre du Project ASGARD. Ce système vise à connecter tous les capteurs et tireurs à un cerveau électronique partagé, sans fil.

Ce développement marque un tournant dans la défense européenne, 80 ans après que la guerre totale a redéfini le continent. "Les Russes frappent à la porte", affirme Sven Weizenegger, responsable du Cyber Innovation Hub de l'armée allemande, soulignant l'urgence de renforcer la défense avec des technologies de pointe.