Un éminent musicien canadien déclare que son concert a été annulé après que Google AI l'ait qualifié à tort de parasite sexuel

L'éminent violoniste canadien Ashley MacIsaac affirme avoir été qualifié à tort de délinquant sexuel reconnu coupable par la fonction AI Overview de Google, ce qui a conduit les organisateurs de concerts à annuler un concert la semaine dernière.

Avant de continuer, j'ai besoin que vous regardiez le clip de « Sleepy Maggie » d'Ashley MacIsaac (avec la voix en gaélique écossais de Mary Jane Lamond). N'étant pas originaire du Canada où cette chanson a connu un succès en 1995, je n'avais jamais eu droit à ce somptueux festin d'images et de sons des années 90 avant aujourd'hui, mais cet oubli a été corrigé grâce à cet événement d'actualité. Pour de meilleurs résultats, allumez une cigarette aux clous de girofle avant de lancer la lecture :

Quoi qu'il en soit, selon un article paru mardi dans le Globe and Mail, le gars dans cette vidéo avec le violon, Ashley MacIsaac, se préparait à se produire dans la communauté de la Première Nation Sipekne'katik, dans le centre de la Nouvelle-Écosse, lorsque les organisateurs ont soudainement fait marche arrière, apparemment après avoir lu que MacIsaac avait des condamnations épouvantables dans son dossier pour agression sexuelle et « leurre par Internet ».

Il est apparu plus tard, dit MacIsaac, que ces organisateurs avaient vu un résultat Google AI Overview qui avait mélangé la biographie de MacIsaac avec un autre MacIsaac, beaucoup plus horrible, également de l'est du Canada.

Vous vous souvenez probablement de la controverse autour de la fonctionnalité Google AI Overviews en 2024, lors de ses débuts, et qui est rapidement devenue une blague après avoir dit aux gens de mettre de la colle sur la pizza, etc. Pour ma part, j'ai donné six mois à la fonctionnalité pour l'améliorer avant de le revoiret j'ai découvert un certain nombre de types d'erreurs bizarres qu'il était encore susceptible de commettre dans ce que je croyais être des simulations plausibles de cas d'utilisation réels. Google m'a dit à l'époque qu'il lui restait encore « du travail à faire du côté de la qualité ».

Si la caractérisation de MacIsaac est correcte, elle l'est toujours, et il ne faut vraiment pas qu'il commette des erreurs comme celle alléguée ici. Il y a une citation intéressante dans le Globe and Mail de Clifton van der Linden, professeur adjoint à l'Université McMaster qui a mené des recherches sur la désinformation sur l'IA. « Nous assistons à une transition des moteurs de recherche de navigateurs d'informations à narrateurs », a-t-il déclaré au journal.

Les aperçus IA sont des extraits de texte originaux, un peu comme des réponses de chatbot préparées sur commande lorsqu'un terme est recherché sur Google, et ils sont dérivés de tout ce que Google peut trouver en ligne qui semble se rapporter au sujet que vous recherchez. Vous ne savez jamais comment quelqu'un pourrait formuler une recherche à votre sujet, car les possibilités sont infinies et, par conséquent, vous ne savez jamais comment l'aperçu de l'IA pourrait mal tourner.

MacIsaac se demande dans l'article du Globe and Mail si d'autres personnes l'ont cherché sur Google et ont vu des résultats similaires sans le lui dire. Il considère cela comme une source potentielle d'inquiétude, car il pense qu'il a peut-être perdu son travail ou qu'il a gagné un ennemi qui a cru ce qu'il a lu et a décidé de lui faire du mal.

Pour ce que ça vaut, la porte-parole de Google, Wendy Manton, a déclaré au Globe and Mail ce qui suit : « La recherche, y compris les aperçus de l'IA, est dynamique et change fréquemment pour afficher les informations les plus utiles. Lorsque des problèmes surviennent – par exemple si nos fonctionnalités interprètent mal le contenu Web ou manquent de contexte – nous utilisons ces exemples pour améliorer nos systèmes et pouvons prendre des mesures conformément à nos politiques.  » Ce journal indique également que Google « a modifié les résultats de recherche pour le musicien ».

De plus, un représentant de la communauté de la Première Nation Sipekne'katik a déclaré à MacIsaac : « Nous regrettons profondément le préjudice que cette erreur a causé à votre réputation, à vos moyens de subsistance et à votre sentiment de sécurité personnelle », et lui a dit qu'il était le bienvenu pour se produire là-bas à l'avenir, dit-il. Le Globe and Mail n'a pas reçu de réponse de la Première Nation Sipekne'katik lorsqu'elle a demandé un commentaire.

Tout cela ressemble à beaucoup de problèmes pour beaucoup de gens à cause d’une apparente hallucination de l’IA. Mais bon, au moins j'ai entendu parler de « Sleepy Maggie ».