Technologie et réseaux sociaux
IA overview de Google
Le post
Voir sur
« OK Google, j'ai la flemme, donne-moi une réponse toute faite »
Google teste IA Overview aux US et ça ne se passe pas tout à fait comme prévu…
Les résumés IA de Google sont censées fournir la réponse la plus pertinente sans devoir fouiller sur le web. Les exemples partagés sur les réseaux sont hilaires.
Au-delà des moqueries, je me questionne quand même sur 2 points :
1. Est-ce que l'IA va nous dispenser de réfléchir (voire nous débiliser) ? C'est vrai, on veut du facile et des réponses instantanées. Sans se fatiguer de cliquer sur des liens.
Il paraît que dans une époque lointaine (en 2020), être passionné voulait dire cliquer sur la page 2 des résultats de recherche. J'ai juste peur de savoir où on mettra la barre en 2025...
2. Est-ce que le développement de l’IA va trop vite pour ce que notre cerveau puisse encaisser ?
Les chercheurs en neurobiologie disent que oui. Ça va trop vite pour notre système nerveux.
Si tu as sentiment d'être largué⸱e dans le développement des dernières technos (dont l'IA), c'est parfaitement normal.
On a hâte, hein ?
Le débunk
✅ Effectivement, Google a ajouté une vue d'ensemble générée par l'IA. Cette fonctionnalité est actuellement en phase de test. Les dérives mentionnées dans ce post ont bien eu lieu, comme le rapportent plusieurs médias. Cependant, selon Google, cela n'impacterait qu'une minorité des recherches.
🌐 https://cvc.li/CjwEf
🌐 https://cvc.li/POIqG
🌐 https://cvc.li/Twsoa
Il est important de rappeler le fonctionnement des modèles derrière ces IA. On pourrait croire qu'ils sont capables de réflexion, mais ce n'est pas le cas. Les modèles de langage de grande taille (LLM) ont pour but de prédire chaque token (ou fragment de mot) afin de compléter une phrase. Ces modèles n'ont donc pas conscience de ce qui est "dangereux" pour un être humain. Si on leur demande de résumer le premier lien, ils résumeront le premier lien.
🌐 https://cvc.li/nRBPh (Vidéo de Monsieur Phi expliquant de quoi est capable ChatGPT)
Un excellent article d'Andreas Stöffelbauer, Data Scientist chez Microsoft, explique comment fonctionnent les LLM (et le Machine Learning en général).
🌐 https://cvc.li/OsleU
Il est donc crucial de faire attention aux outils que l'on utilise et d'être critique quant aux résultats obtenus.
Vous avez une question, une remarque ou une suggestion ? Nous vous répondrons au plus vite !
Contactez-nous