Les futuristes préoccupés par le fait que nous glissions dans une dystopie alimentée par l'IA où la race humaine acquiesce ses pouvoirs éthiques, décisionnels et intellectuels à un groupe d'algorithmes d'entreprise n'a pas besoin de chercher plus loin que Ulf Kristersson pour justifier leurs craintes.
Kristersson, qui est le Premier ministre de la Suède, a récemment admis sur un site de nouvelles nordiques qu'il demande parfois à Chatgpt pour un «deuxième avis» en ce qui concerne ses stratégies de gouvernance.
«Je l'utilise moi-même assez souvent», a déclaré Kristersson Pendant l'interview. «Si pour rien d'autre que pour un deuxième avis. Qu'est-ce que les autres ont fait? Et devrions-nous penser le contraire complet? Ces types de questions.»
Comme on pouvait s'y attendre, Kristersson a été immédiatement traîné pour ses commentaires. «Plus il compte sur l'IA pour des choses simples, plus le risque de confiance excessive dans le système», Virginia Dignum, professeur d'intelligence artificielle responsable à l'Université Umeå, dit en discutant avec le même point de vente qui a interviewé le PM. «C'est une pente glissante. Nous devons exiger que la fiabilité puisse être garantie. Nous n'avons pas voté pour Chatgpt.»
Le PM a également été critiqué par une variété d'autres points de vente, qui semblaient tous penser que la gouvernance via Chatbot n'était pas la voie idéale pour la civilisation occidentale. « Dommage pour la Suède que l'IA devine principalement », a écrit Signe d'Aftonbladet Krantz. « Les chatbots préfèrent écrire ce qu'ils pensent que vous voulez que ce que vous avez besoin d'entendre. »
Krantz fait un bon point, à savoir que les chatbots peuvent être incroyablement sycophantiques et délirants. Si vous avez un leader posant des questions de tête de chatbot, vous pouvez imaginer un scénario dans lequel les algorithmes du logiciel ne servent qu'à renforcer les prérogatives existantes de ce leader (ou à les pousser plus loin sur le bord dans un territoire inexploré). Heureusement, cela ne semble pas que beaucoup de politiciens ressentent le besoin d'utiliser Chatgpt comme consiglie.
Que Kristersson s'appuie vraiment sur un chatbot lors de la navigation sur ses fonctions de leadership ou qu'il ait, en réalité, d'essayer de paraître la hanche en nommant un produit technologique populaire lors d'une interview, il est clair que l'IA est de plus en plus utilisée par toutes sortes de personnes pour externaliser les capacités intellectuelles qui, il y a seulement quelques années, étaient exclusivement le domaine de l'esprit humain. C'est une situation dangereuse à faire, car l'industrie technologique a déjà atrophie notre capacité à réfléchir depuis deux décennies maintenant. Combien de stupide pouvons-nous tous obtenir? Je suppose que nous sommes sur le point de le découvrir.
Vous pouvez lire l’article original (en Angais) sur le sitegizmodo.com