« Comment pouvons-nous nous assurer que Claude se comporte bien ? » : Anthropic a invité 15 chrétiens à un sommet

La morale du co-fondateur et PDG d'Anthropic, Dario Amodei, est influencée à un degré ou à un autre par le concept d'altruisme efficace-une idée qui, en théorie sinon en pratiquea le souci d’aider les autres avant tout. Le nom de l'entreprise reprend le mot « misanthropique » et supprime le préfixe négatif « mis- », qui implique un slogan tacite tel que « nous sommes pro-humains ». Les querelles morales de l'entreprise avec le Pentagone ont constitué l'actualité technologique la plus importante jusqu'à présent cette année.

Alors faites ce que vous voulez d'un Entreprise de 380 milliards de dollars dont la popularité explosive de son produit phare était directement lié à l’automatisation du travailet qui, de son propre aveua « plus de points communs avec le ministère de la Guerre que de différences », mais on ne peut pas dire qu'il n'insère pas le concept de moralité dans le discours technologique.

Et à la fin du mois dernier, il se dosait spécifiquement à chrétien moralité, selon le Washington Post.

Quatre sources ayant assisté à un sommet au siège d'Anthropic à San Francisco ont déclaré au Post Anthropic qu'elles avaient accueilli 15 chrétiens éminents pour deux jours de réunions et un dîner avec des chercheurs de l'entreprise.

Les personnes travaillant chez Anthropic « cherchaient des conseils », dit l'article, sur la moralité de Claude et son « développement spirituel ». Selon le récit d’un participant, un catholique pratiquant nommé Brian Patrick Green qui enseigne l’éthique de l’IA à l’Université de Santa Clara, le sommet comprenait une discussion sur la question de savoir si l’on pouvait ou non considérer Claude comme un « enfant de Dieu ».

« Que signifie donner une formation morale à quelqu'un ? Comment s'assurer que Claude se comporte bien ? » Green a déclaré au Post, en utilisant une formulation qui attribue une grande part d'action au logiciel d'IA plutôt qu'aux êtres humains qui le construisent et aux autres êtres humains qui l'utilisent. Plus tôt cette année, l'agent IA de quelqu'un a publié des articles de blog méchants sur un codeur, et l'agent a été blâmé dans une grande partie de la couverture médiatique – ce que j'avais écrit à l'époque était peut-être un peu erroné.

L'un des acteurs de la scène technologique et chrétienne de la Silicon Valley qui a assisté aux réunions était Brendan McGuire, un prêtre catholique d'origine irlandaise qui a travaillé dans le domaine de la technologie avant de devenir sacerdoce et qui, selon Observer.com travaille sur un roman écrit par Claude. « Ils cultivent quelque chose dont ils ne savent pas vraiment à quoi cela va aboutir », a-t-il déclaré au Post, ajoutant: « Nous devons intégrer une réflexion éthique dans la machine afin qu'elle soit capable de s'adapter de manière dynamique. »

Le Post indique que les chercheurs en interprétabilité – des personnes qui tentent de comprendre pourquoi les modèles d’IA fonctionnent comme ils le font – ont été fortement impliqués et que les débats comprenaient des discussions sur la sensibilité de l’IA. La sensibilité de l'IA est une question philosophique sérieuse, et les débats en valent vraiment la peine, mais organiser ces débats au sein d'une entreprise envisage une introduction en bourse plus tard cette année cela jette sans doute le doute sur la validité de cette exploration particulière du sujet.

Un porte-parole d'Anthropic a déclaré au Post Anthropic qu'il s'efforçait d'attirer des penseurs moraux représentant d'autres groupes. Je dois admettre qu’il serait vraiment remarquable que des sessions juives, musulmanes et hindoues aient lieu ensuite. Mais pourquoi s'arrêter là ? Le la version la plus récente et inédite de Claude a une étrange fixation sur le regretté philosophe marxiste Mark Fisherl'homme dont l'œuvre la plus célèbre est une méditation sur la citation « Il est plus facile d'imaginer la fin du monde que la fin du capitalisme » (bien qu'il ne soit pas à l'origine de l'expression elle-même). Un sommet entre Anthropic et un groupe de fidèles de Mark Fisher est quelque chose qui pourrait vraiment élargir certains esprits.