La recherche IA n'est pas la solution miracle que Google pense, voici pourquoi

Récemment, Google a annoncé qu'il intégrerait l'IA dans la recherche, ce qui vous permettrait de trouver plus facilement les informations dont vous avez besoin sans d'abord parcourir une pile de résultats de recherche inutiles. Cependant, il y a plusieurs raisons pour lesquelles cela ne fonctionnera pas.

La vision de Google pour l'avenir de la recherche s'appuie sur l'IA

Lors de Google I/O 2024, la société a présenté « La recherche à l'ère Gemini », sa façon de dire qu'elle intègre l'IA dans la recherche. Cette décision n’est pas surprenante, car Google joue depuis un certain temps déjà avec l’idée de la recherche IA via Search Generative Experience.

Lors de la conférence, Google a présenté de nouvelles fonctionnalités expérimentales d'IA telles que la planification dans la recherche, les pages organisées par l'IA et la recherche vidéo. Cependant, la fonctionnalité qui a volé la vedette était les aperçus de l’IA.

L’idée derrière les aperçus de l’IA est qu’au lieu d’analyser plusieurs pages Web pour rassembler les informations dont vous avez besoin, Google effectuera la recherche sur Google pour vous. Il extraira les informations les plus importantes des meilleurs résultats Google et vous donnera un résumé soigné. Vous pouvez même modifier la présentation de ces réponses pour les rendre plus claires ou les décomposer étape par étape.

La recherche AI ​​est la stratégie de Google pour lutter contre le spam sur Internet

L’une des principales raisons pour lesquelles Google se lance dans la recherche AI ​​est qu’il y voit une solution à l’un de ses problèmes de longue date : le spam sur Internet.

Pendant la majeure partie de son existence, Google a été dans une course perpétuelle avec les spammeurs Internet qui tentent constamment de manipuler le système pour détourner une partie du trafic Internet. Chaque fois que Google améliore ses algorithmes, ces spammeurs trouvent de nouvelles façons de les exploiter.

Cependant, fin 2022, quelque chose a changé et a bouleversé l’équilibre des pouvoirs. Open AI a dévoilé son modèle d'IA générative ChatGPT et, ce faisant, a involontairement livré les codes nucléaires à ces spammeurs Internet, leur permettant de produire des articles rapidement et à moindre coût. Ces articles de spam ne sont peut-être pas bien classés, mais ils brouillent les pistes, faisant de Google une expérience qualitativement pire pour tout le monde. Cela pourrait également expliquer pourquoi le sentiment omniprésent selon lequel « Google est en train de mourir » s'est intensifié ces derniers mois.

Google espère que AI Search sera la solution à ce problème, mais ce plan présente quelques problèmes.

Le problème avec la recherche IA est qu’elle hallucine et érode la confiance

Lorsque Google a annoncé pour la première fois qu'il déploierait des aperçus de l'IA, ma première pensée a été : « Que vont-ils faire pour résoudre le problème des hallucinations ?

Il s’avère que la réponse était : pas grand-chose. Peu de temps après l'annonce d'AI Overviews, les gens ont remarqué que l'une des suggestions contenues dans la vidéo de démonstration en réponse à une question sur la façon de réparer un appareil photo argentique cassé était plus susceptible de gâcher toutes vos photos que d'aider à résoudre le problème.

Mais cela ne s'est pas arrêté là. Peu de temps après le début du déploiement des aperçus de l’IA, les gens ont remarqué que certaines de ses réponses étaient ridicules, voire nuisibles. Par exemple, il suggère d’utiliser de l’essence pour faire des spaghettis et de boire au moins 2 litres d’urine par jour.

Mais alors quoi? Tout le monde sait qu’il ne faut pas croire tout ce que l’on voit sur Internet, et d’autres chatbots inventent aussi des choses, alors pourquoi est-ce si grave ?

Voici le problème : les hallucinations de l'IA dans la recherche soulèvent un problème de confiance. C'est une chose qu'un nouveau chatbot IA expérimental vous mente occasionnellement et fabrique des informations. C'est une tout autre affaire lorsque Google le fait parce que les gens lui font confiance.

Google affirme avoir corrigé les résultats étranges des aperçus de l'IA et mis en place des garanties supplémentaires, mais je suis toujours sceptique. Certains experts pensent même que les hallucinations ne peuvent pas être réparées et constituent un élément fondamental des LLM. Si cela est vrai, nous pourrions nous diriger vers une ère d’Internet où vous ne pouvez vraiment faire confiance à rien en ligne, pas même à votre moteur de recherche.

Perdre la nuance avec les aperçus de l'IA

Les aperçus de l'IA de Google ne génèrent pas de réponses basées uniquement sur ses données d'entraînement. Il consulte également les meilleures pages Web de Google. Ceci est censé l’aider à éviter les hallucinations, mais cela soulève également un nouveau problème de contexte et de nuance.

Nous avons déjà vu cela se jouer dans le viral « Comment empêcher le fromage de glisser de la pizza ? requête où l'IA a suggéré d'ajouter de la colle à la pizza. Il a tiré cette réponse d'un article Reddit vieux de 11 ans, que n'importe qui pourrait facilement considérer comme une blague ou un commentaire de troll lorsqu'il est vu dans le contexte d'origine. Cependant, les aperçus de l'IA de Google suppriment cette nuance et la présentent comme un fait concret avec la même autorité qu'ils suggèrent d'autres options.

Un autre exemple est la recommandation de l’IA de manger au moins une petite pierre par jour. Encore une fois, les aperçus de l'IA de Google ont extrait ces informations de leur source : dans ce cas, un article satirique sur l'oignonle privant de son contexte et le présentant comme un fait concret.

Ce sont des erreurs évidentes et faciles à considérer comme inoffensives. Mais que se passera-t-il la prochaine fois que AI Overviews interprètera subtilement quelque chose d'important qui n'est pas si facile à repérer ?

Les aperçus de l’IA pourraient tuer l’Internet ouvert

Les aperçus de l’IA menacent l’ensemble de la structure commerciale d’Internet. Les sites Web dépendent des revenus publicitaires pour réaliser des bénéfices, et ces revenus publicitaires dépendent du trafic. Par conséquent, les sites Web sont incités à créer un contenu de qualité qui incite les gens à visiter le site.

Les aperçus de l’IA perturbent cette structure lorsqu’ils extraient des informations directement des sites Web. Désormais, vous n'avez plus besoin de visiter un site Web, ce qui réduit son trafic et ses revenus publicitaires. La progression naturelle pourrait être que les sites Web soient obligés de verrouiller leur contenu derrière des paywalls pour rester en activité.

Réclamations de Google que les liens dans les aperçus de l'IA génèrent plus de clics que les listes traditionnelles, mais ils n'ont pas fourni de données pour étayer cela. Cela semble également peu probable étant donné que ces liens sont enfouis tout en bas des résultats de l’AI Overview. Même si cela est vrai pour les pages les moins bien classées, il est difficile de croire aux meilleurs résultats.

Si le contenu est bloqué derrière des paywalls pour survivre, qu’arrive-t-il à Internet ? Certains disent que cela pourrait conduire à la théorie de l'Internet mort, selon laquelle tout ce qui reste du Web ouvert est un groupe de LLM recyclant sans cesse le contenu des uns et des autres jusqu'à ce qu'Internet ne soit plus qu'un ragoût méconnaissable de prédictions de mots.

En fin de compte, les gens veulent des expériences et du contenu humains

Google a de bonnes intentions avec les aperçus AI. Le problème, cependant, est qu’ils comprennent fondamentalement mal ce que les gens attendent de la recherche : l’authenticité.

Les gens en ont assez du contenu générique. Ils veulent de vraies expériences humaines et pas seulement des conseils régurgités. C'est pourquoi de plus en plus de personnes effectuent des recherches sur Reddit dans l'espoir de trouver l'opinion de vrais humains qui ont une réelle compréhension de leurs problèmes.

Au lieu de davantage d’IA, l’avenir de la recherche pourrait être mieux servi par un algorithme qui récompense le contenu authentique et les expériences réelles.