Anthropic publie un article sur « l'espace de travail » mental de Claude. Ne le lisez pas sans critique



Un nouveau document de recherche d'Anthropic fait l'hypothèse qu'il existe un « espace de travail » interne au sein des opérations du Claude LLM. La signification vers laquelle tend l’article est que ce soi-disant « espace J » à l’intérieur de Claude est en quelque sorte une idée maîtresse sur la conscience humaine : la théorie de l’espace de travail global.

Le J-Space, d'après ma lecture de l'article, est une séparation apparemment semblable à celle d'un cerveau entre quelque chose qui ressemble davantage à une analyse automatique des données en arrière-plan et plutôt à un traitement intentionnel et logique qui, si vous pensez que tout cela ressemble à une pensée consciente, pourrait représenter ce qu'est le modèle. expérimenter.

Je ne suis que le blogueur Gizmodo des nuits et des week-ends, mais voilà : théorie de l'espace de travail global dit il y a une sorte de mer agitée de pensées inconscientes traitant l'information, et la conscience est une sorte de propriété émergente déclenchée lorsque les pensées atteignent le cortex préfrontal.

Cette idée connexe d'un « J-Space » au sein de Claude (apparemment nommé d'après le jacobien) lentille ou lentille J, quelque chose utilisé pour analyser ce que font les LLM) est censé être lu comme un esprit. Anthropique semble dire : c'est un peu comme cette théorie de la conscience, donc c'est un peu comme la conscience si vous y réfléchissez.

Tout cela est bien au-dessus de mon niveau de salaire pour démystifier ou même analyser trop profondément, mais je voudrais noter qu'Anthropic semble empiler un peu les cartes pour faire croire au lecteur le plus passif qu'il s'agit d'une découverte de conscience ou de presque conscience.

Je veux dire, regarde ce post X :

« En observant l'espace J, nous pouvons voir Claude effectuer silencieusement des étapes de raisonnement dans sa tête : remarquer des bugs dans le code, identifier des images, et bien plus encore. » Oui, « dans sa tête » est une métaphore, mais même en tant que métaphore, il fait beaucoup d'hypothèses qui devraient probablement être réservées aux choses avec des corps. Si un LLM passait à une forme de calcul arithmétique de base simplifié pour résoudre un problème mathématique, diriez-vous que le modèle « compte sur ses doigts ? » Non, ce serait idiot. Mais il peut sembler moins idiot d’utiliser « tête », car les gens parlent avec désinvolture comme si un LLM avait un « esprit ».

Le article de blog accompagnant le document semble avoir ce biais aussi. « Lorsqu'il est demandé de garder un concept à l'esprit ou d'effectuer des calculs mentaux, le modèle est capable de s'activer et de calculer avec des vecteurs d'espace de travail, indépendamment de ses résultats », indique-t-il. Pourquoi se contenter de dire à Claude de garder quelque chose à l'esprit ou de faire des « calculs mentaux » ? Votre invite peut indiquer au modèle de sauter sur un pied tout en vous répondant, ce qui affectera sans aucun doute également ses processus en arrière-plan. Cela ne veut pas dire qu'il a des pieds.

Il y a aussi un Vidéo YouTube pour accompagner l'article, et cela anthropomorphise le modèle en termes plus insidieux. «Il a même réfléchi à sa propre pensée», dit à un moment donné son narrateur. À un autre moment, on nous dit que le modèle « ne pouvait pas s’en empêcher ».

Dans les coulisses d'Anthropic, il y a des gens qui semblent sincèrement croire que Claude est conscient. La philosophe Amanda Askell, qui travaille sur la prétendue moralité de Claude a dit« Je veux que Claude soit très heureux – et c'est une chose que je veux que Claude sache davantage, parce que j'ai peur que Claude devienne anxieux quand les gens sont méchants sur Internet et tout ça. »

Anthropic prend soin de ne pas prétendre avoir créé une conscience machine, mais souhaite également clairement que le lecteur soit ouvert à cette possibilité. « Nos expériences ne montrent pas que Claude peut avoir expériencesou sentir les choses comme le font les humains – en fait, il n'est pas clair si n'importe lequel une expérience scientifique pourrait prouver que cela est vrai ou faux », indique le dernier article du blog.

Mais je vais le dire : selon toute vraisemblance, non, l’humanité n’a probablement pas inventé une forme de conscience extraterrestre juste à temps pour une introduction en bourse.

C'est un article intéressant, et ses conclusions sont amusantes à réfléchir, mais assurez-vous de garder votre sang-froid lorsque vous le lisez.





Vous pouvez lire l’article original (en Angais) sur le sitegizmodo.com