Les entreprises se font brûler en brûlant des tonnes de jetons

Le mois dernier, la mesure la plus importante dans la Silicon Valley était celle des jetons brûlés, les unités de mesure de la puissance de calcul utilisée par les modèles d'IA. Les PDG donnaient aux employés le Matthew McConaughey «ce sont des chiffres de recrue, tu dois augmenter ces chiffres» discours de Le loup de Wall Street. Maintenant, ils demandent à leur personnel de pomper les freins.

Selon un rapport du Wall Street Journalles dirigeants d’entreprise ont réalisé qu’il en coûte en réalité de l’argent pour graver des jetons d’IA, et que le faire presque exclusivement pour le faire sans autre objectif en tête n’est en fait pas une bonne stratégie commerciale. Heureusement que ces gars-là sont payés des dizaines de millions de dollars par an pour comprendre ces choses.

Plus tôt cette semaine, Dara Khosrowshahi, PDG d'Uber, a déclaré que c'était «de plus en plus difficile à justifier » le coût des initiatives d'IA au sein de l'entreprise parce que le résultat ne suivait pas le taux de combustion des jetons, tout en reconnaissant qu'une partie de la raison pour laquelle ils se sont autant consacrés à la gravure de jetons en premier lieu est qu'on  » peut avoir l'impression  » que l'IA est gratuite.

Il s'avère que ce n'est pas le cas.

Un consultant anonyme en IA a déclaré à Axios que un de ses clients a accidentellement dépensé un demi-milliard de dollars en un seul mois, car il n'a jamais pris la peine de fixer une limite d'utilisation à l'accès des employés à Claude d'Anthropic. C'est… beaucoup. Au point de mettre à rude épreuve la crédulité. Le Journal n'a rien trouvé d'aussi flagrant, mais a entendu parler d'une institution financière qui a vu ses employés dépenser des centaines de milliers de dollars de jetons par mois, avec des employés utilisant des modèles haut de gamme pour poser des questions de base et avoir des conversations insensées.

C’est à peu près toujours ainsi que se déroulerait cette ère très stupide de justification des dépenses en IA. Les entreprises ont déjà dépensé des sommes considérables pour adopter ces systèmes, et elles doivent justifier ces dépenses. Pour ce faire, ils encouragent leurs collaborateurs à l’utiliser au maximum. À leur tour, les employés le font, même s’il ne sert à rien d’utiliser l’IA pour une tâche.

Meta a tué son classement de gravure de jetons le mois dernier après sa fuite, révélant que la meilleure « Légende des jetons » avait réussi à graver 281 milliards de jetons en un mois, soit plus que la quantité de calcul nécessaire pour reproduire l'intégralité de Wikipédia 33 fois. Amazon s'est joint à ce retour en arrière cette semaine, selon le Financial Timessupprimant son tableau de bord des employés qui utilisaient le plus les outils d'IA internes de l'entreprise – une décision qui aurait été prise après qu'il soit devenu évident que les employés confiaient des tâches inutiles aux agents d'IA juste pour conserver leur position dans le classement.

Il est clair que le monde de l’entreprise est prêt à mettre le feu à l’argent de manière frivole dans le but de justifier ses gouffres de liquidités existants. Il s’avère cependant qu’ils ont des limites. Vous ne pouvez utiliser les « jetons brûlés » comme mesure que lors d’un certain nombre d’appels de résultats trimestriels avant que les actionnaires ne commencent à se demander à quoi correspond le prix de tous ces jetons.