Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Trois grimpeurs du mont Shasta ont été récupérés au terme d'une opération étalée sur plusieurs jours, après s'être perdus lors de la descente. Le bureau du shérif évoque un recours excessif à Gemini pour préparer l'ascension et alerte sur la planification via l'IA. Google affirme enquêter mais dit ne pas avoir reproduit les réponses décrites.
Google ouvre une enquête et dit ne pas reproduire les réponses
Un représentant de Google indique que l'équipe Trust and Safety examine les conseils d'escalade fournis par Gemini. Selon l'entreprise, les réponses décrites par les grimpeurs n'ont pas pu être reproduites. Le représentant reconnaît que Gemini peut se tromper et recommande de vérifier les sources citées par l'outil en cas de doute. Les randonneurs n'ont pas précisé ce que Gemini leur aurait suggéré en nourriture et boisson ni les quantités, tandis que le bureau du shérif a désigné l'alimentation et l'hydratation comme un point problématique.
Les secours dénoncent une dépendance à l'IA pour préparer l'ascension
Les randonneurs ont déclaré avoir planifié leur itinéraire avec YouTube, l'application AllTrails et Google Gemini. Le bureau du shérif du comté de Siskiyou parle d'une erreur majeure liée à la forte dépendance à Gemini, expliquant que les hommes s'en sont remis à l'outil pour le choix d'itinéraire et la préparation du matériel. Le même bureau affirme que Gemini les a conduits à emporter beaucoup moins de nourriture et d'eau que nécessaire et avertit de ne jamais se fier uniquement à l'IA pour organiser un voyage.
Chronologie du sommet au sauvetage et défaillances d'équipement
Parti à 3 heures du matin un dimanche, le groupe a atteint le sommet 16 heures plus tard. La descente a déraillé après la chute d'un membre, blessé à la jambe, et le trio s'est égaré. Deux tentatives d'évacuation par hélicoptère ont échoué avant un sauvetage mené dans le cadre d'une opération de plusieurs jours, l'évacuation ayant eu lieu le lundi. Les téléphones étaient déchargés, les batteries de secours inopérantes et aucune carte hors ligne n'était disponible, ce qui a accentué la désorientation. Le blessé a avancé sans lampe frontale, dans l'obscurité, pour préserver la batterie restante.
Ce que Gemini fournit quand on l’interroge sur la nutrition
Une tentative de reproduire les réponses décrites par les grimpeurs n'a pas abouti. Lorsqu'on l'interroge sur les aliments à prévoir pour une ascension, Gemini suggère d'associer glucides, lipides et protéines. Même en formulant une demande réduite en matières grasses, l'outil mentionne des denrées fréquemment transportées en montagne, caractérisées par leur teneur élevée en sodium, en lipides et en calories, comme le fromage et les viandes séchées. Il ne précise aucune quantité si la durée de la randonnée n'est pas indiquée.
Au-delà de ce cas, vérifier les conseils d’IA reste la règle
L'IA peut omettre des détails essentiels, avec des effets allant d'ennuis mineurs à des conséquences professionnelles. Un éditeur a constaté que des recettes générées par ChatGPT pour une semaine de repas étaient fortement sous-assaisonnées, tandis que des avocats ayant utilisé l'IA pour des dépôts juridiques ont été officiellement réprimandés pour des erreurs. Les systèmes génératifs prédisent des modèles à partir de données en grande partie issues de sources web non vérifiées, ce qui conduit des experts à exiger une vérification indépendante avant de s'y fier. Dans l'affaire du mont Shasta, une ascension préparée avec des contenus en ligne et des conseils d'IA a duré trois jours au lieu des huit heures initialement prévues.
