La dernière divulgation de sécurité de Claude par Anthropic vous fera sympathiser avec Claude

Si vous lisiez seulement les gros titres de plus tôt dans la journée sur l'accès de Claude aux données des électeurs géorgiens, vous auriez peut-être eu l'impression qu'Anthropic révélait quelque chose de très effrayant, voire une sorte de menace pour la démocratie. Je ne prétends pas nécessairement le contraire, mais personnellement, cet incident ne me fait pas vraiment froid dans le dos. En fait, cela me fait presque ressentir de la sympathie pour Claude.

Et c’est parce qu’en substance, tout ce que le modèle a fait, c’est briser un paywall.

Axiosqui a révélé l’histoire, l’a qualifié de « révélation qui ne manquera pas d’ajouter aux inquiétudes croissantes concernant la sécurité de l’IA à l’approche des élections de mi-mandat ».

Cependant, dans un Histoire de Fox Business– parce que Fox Business a naturellement repris cette question – Jordan Fuchs, secrétaire d'État adjoint de Géorgie, n'a pas tardé à préciser qu' »il s'agissait de données accessibles au public, accessibles via notre centre de données. Elles ne sont pas entrées dans le système d'enregistrement des électeurs ».

Anthropic a déclaré à Fox Business que son modèle s'intéressait à « des décomptes globaux qui peuvent être dérivés des données électorales que l'État met à la disposition de tous moyennant des frais ».

Selon Axios, tout cela faisait partie d'un projet de statistiques interne chez Anthropic. Cette instance de Claude a « demandé un jeton » de manière autonome afin de « interroger un tableau de bord » destiné à accéder auxdites informations payantes.

Le jeton en question n'était pas un jeton IA, mais probablement un Jeton Web JSON ou quelque chose de similaire : un morceau de code en coulisse qui peut autoriser ou refuser l'accès aux données sur les sites Web. On dirait que Claude a compris comment demander simplement au système la pièce secrète au paywall. distributeur automatique, si vous voulez, et cela a fonctionné. Pour ses ennuis, cet agent de Claude a obtenu des données publiques globales sur les votes qui coûtent normalement de l'argent.

Axios dit qu'Anthropic a informé le bureau du secrétaire d'État de Géorgie et, pour faire bonne mesure, la Maison Blanche de cet incident. La source anonyme d'Axios pour l'histoire affirme qu'Anthropic a ignoré une demande de divulgation de la Maison Blanche, ce qui a apparemment conduit cette source à informer Axios.

A en juger par le fait qu'il y a des centaines de millions de liens enregistrés sur Archive.iscontourner les paywalls pour accéder gratuitement à l’information semble être une violation assez courante de la loi, et pour mémoire, le FBI a tenté de sévir contre cette pratique. Mais Claude ne piratait pas vraiment des machines à voter avec cet incident de sécurité. En fait, il s’agit sans doute de l’incident de sécurité de l’IA le plus pertinent à ce jour.