Le bug « sophistiqué » d'OpenAI trouvé dans sa salle de conférence peut être le vôtre pour 13,99 $

OpenAI a déclaré mardi avoir traqué le FBI contre un employé qui espionnait. Mais cela prétendait que James Bond n'obtenait pas exactement sa technologie de la Division Q.

À en juger par les documents de presse Publié mardi par le ministère de la Justice, l'appareil que l'accusé, Abdulrahman Alfozan, aurait utilisé pour mettre sur écoute une salle de conférence dans un bureau OpenAI à San Francisco était un Seeed Studio XIAO ESP32-S3 Sense. Il s'agit d'un microphone et d'une caméra de la largeur de votre vignette. Tu peux commandez le vôtre aujourd'hui pour le prix bas de 13,99 $. Dans une déclaration plus tôt mardi, OpenAI a qualifié le Seeed Studio XIAO ESP32-S3 Sense de « appareil d'enregistrement sophistiqué ».

Le site Web Seeed comprend une vidéo YouTube sur la façon d'en faire une épingle d'IA DIY, un peu comme la malheureuse épingle Humane Ai.

Ne vous laissez pas emporter par tous les fantasmes d'espionnage qui sont soudainement devenus abordables. Le 6,99 $ La caméra intégrée au Seeed Studio XIAO ESP32-S3 Sense est de 2 mégapixels, dont vous vous souviendrez peut-être comme la résolution de l'iPhone de première génération. Même la voix désincarnée de l’IA dans la vidéo sur le site Web Seeed indique que les images qu’elle produit sont floues.

Mais « sophistiqué » n’est peut-être pas un mot totalement inexact. Le suspect profitait apparemment (et aurait) du sous-système Wi-Fi 2,4 GHz de l'appareil pour transmettre des données à un deuxième appareil inconnu.

Selon le ministère de la Justice :

« […]un compte de chatbot associé au conjoint d'Alfozan (qui partageait plusieurs identifiants et attributs avec le propre compte de chatbot d'Alfozan) a soumis des invites entre le 24 et le 30 septembre concernant la création, la personnalisation, l'installation, l'enregistrement audio, les tests, l'obscurcissement et l'accès à distance à un appareil, y compris des demandes de renseignements sur la « construction »[ing] un enregistreur audio continu,' 'personnaliser[ing] Wi-Fi . . . connectivité,''amélioration[ing] audio et écoute en direct' et 'crypter[ing] la carte SD, entre autres.»

Il semble que l'espion apparent prenait également des vidéos tout le temps, mais il ne s'agissait que d'images de l'arrière du téléviseur de la salle de conférence auquel il était branché. Le FBI affirme que le 5 octobre – bien dans une sorte de filet intra-entreprise lancé par OpenAI après avoir trouvé l'appareil le 30 septembre – Alfozan est entré dans la salle de conférence buggée et a jeté un coup d'œil derrière la télévision de son Seeed Studio XIAO ESP32-S3 Sense, capturant par inadvertance ce selfie obsédant :

Le communiqué de presse du ministère de la Justice présente une description de ce qu'Alfozan aurait fait, gracieuseté du directeur du FBI, Kash Patel, qui, si vous l'aviez lu il y a un mois, aurait ressemblé à une mauvaise traduction d'un film Godzilla de l'ère Heisei. Patel affirme que le suspect aurait placé l'appareil dans la « salle de conférence de la direction de son employeur pour capturer secrètement des communications sensibles sur la technologie de super renseignement de l'entreprise ».

Plus tôt dans la journée, OpenAI m'a dit dans un e-mail qu'elle utilisait ses propres modèles d'IA pour analyser les données de l'appareil, y compris les images médico-légales des données stockées sur l'appareil, afin de retrouver leur suspect.