⚠ ChatGPT tue des randonneurs

Cet été, ChatGPT a tué plus de randonneurs que le loup. 🌴 À quelques jours de la rentrée, ma sélection des « perles » de l’été sur l’iA… Voici un exemple dramatique qui illustre comment l’intelligence artificielle peut devenir un danger public. Cet été, plus de 100 randonneurs ont trouvé la mort dans les Alpes italiennes. Trois par jour en moyenne. Pas uniquement à cause du climat (fonte des glaces, etc.), de l’âge (tantôt ados, tantôt senior++) du manque d’expérience ou de l’excès de confiance… Ou plutôt si : à cause de l’excès de confiance de + en + de randonneurs dans l’iA et notamment ChatGPT pour préparer leurs sorties ! Résultat : sentiers interdits recommandés comme « belle balade », via ferrata suggérée sans mentionner casque ni harnais, ou encore sortie en baskets proposée pour gravir un 3 000 mètres. Le tout « écrit avec assurance » comme en a l’habitude l’iA, alors qu’évidemment elle ne sait rien et ne produit que des réponses « plausibles », pas des indications fiables d’un guide avisé. Et le plausible en montagne, ça ne suffit pas. Ce que révèle cette actu tragique c’est un symptôme bien plus large : - nous utilisons (déjà) l’iA pour tout et n’importe quoi. Et souvent n’importe comment ; - le risque de confondre assistance et vérité est grand, même pour ce type d’aventures que d’aucun sait pourtant potentiellement périlleuse. Alors imaginez dans d’autres contextes - y compris pros - jugés plus communs ; - déléguer notre discernement à des outils qui n’ont ni conscience du réel, ni sens des responsabilités, n’est-ce pas faire preuve nous-mêmes d’un appauvrissement de notre conscience du réel et de notre sens des responsabilités ? 👉 l’article d’où est tiré ce post (OutsideOnline) en lien dans les commentaires