Le prêt de puce d'inférence de General Compute ouvre la voie au financement

General Compute a obtenu une facilité de crédit de 400 millions de dollars de la société d'investissement Upper90 en utilisant des puces d'inférence SambaNova SN50 comme garantie, dans le cadre du premier grand prêt de puce d'inférence adossé à du silicium spécifique à l'inférence plutôt qu'à des GPU Nvidia. La startup AI inference neocloud, fondée par le PDG Finn Puklowski et le CTO Jason Goodison, a levé un tour de table de 15 millions de dollars en mai et tirera un montant initial de 100 millions de dollars d'Upper90, le reste étant disponible à mesure que la demande des clients augmente. L'entreprise propose deux modèles de service : des versions gérées de modèles de langage open source et une plateforme pour développeurs pour des déploiements personnalisés.

Ce prêt de puce d'inférence est important car Upper90 a été pionnier des prêts adossés à des GPU pendant le boom de l'IA générative, lorsque la rareté des Nvidia H100 et B200 faisait de ces puces des garanties prisées. En acceptant des puces SambaNova plutôt que du matériel Nvidia, l'entreprise valide un niveau de la pile de calcul IA qui a jusqu'à présent opéré dans l'ombre de l'infrastructure d'entraînement. General Compute exploite son cloud exclusivement sur des puces SambaNova SN50 pour les charges de travail d'inférence.

Pour les financiers, la question cruciale dans tout prêt adossé à des puces est la valeur de revente. Les GPU Nvidia ont fait leurs preuves à cet égard car les hyperscalers et les entreprises les achèteront à des prix proches du marché, quel que soit le vendeur. Les puces d'inférence de SambaNova, qui sont moins largement déployées, comportent une incertitude plus élevée car le marché secondaire des accélérateurs IA non Nvidia est plus restreint. En structurant ce prêt de puce d'inférence, Upper90 a conclu que les puces SN50 ont une valeur économique suffisante en soi pour couvrir la facilité si General Compute ne peut pas rembourser. Cette conclusion est importante pour l'ensemble de l'écosystème du matériel d'inférence car elle établit une évaluation plancher pour ces puces que d'autres prêteurs peuvent référencer dans de futures transactions.

La structure de la facilité est aussi révélatrice que le choix de la garantie. Upper90 ne s'est engagé qu'à 100 millions de dollars d'avance, les 300 millions restants étant conditionnés à la demande des clients. Cela signifie que l'entreprise a confiance dans la valeur de garantie du matériel mais souhaite que le déploiement de capital corresponde à la génération de revenus de General Compute. Pour les neoclouds d'inférence, dont les clients expérimentent encore les choix de modèles et les schémas de déploiement, cette flexibilité est importante. Une facilité entièrement tirée de 400 millions de dollars aurait comporté plus de risques des deux côtés, d'autant que le marché de l'inférence est encore en maturation et que les schémas d'engagement des clients ne sont pas encore établis.

Upper90 s'est forgé une réputation dans le secteur de l'IA en prêtant contre des GPU Nvidia pendant une période d'extrême rareté du matériel. Les H100 et leur successeur B200 n'étaient pas seulement des ressources de calcul mais des instruments financiers, avec des prix sur le marché secondaire qui en faisaient des garanties idéales. S'éloigner de ce modèle éprouvé pour soutenir le silicium de SambaNova est un pari calculé selon lequel le matériel d'inférence suivra une trajectoire similaire à mesure que les charges de travail IA passeront de l'entraînement au déploiement. L'entreprise parie que l'économie de l'exécution des modèles IA créera suffisamment de demande de matériel pour maintenir la liquidité des puces SN50, même si l'activité spécifique de General Compute ne réussit pas comme prévu.

Pourquoi le prêt de puce d'inférence est important pour l'infrastructure IA

General Compute cible les entreprises qui ont déjà choisi leurs modèles de base et qui ont maintenant besoin d'inférence à grande échelle, rentable et à faible latence. Le service de modèle géré et la plateforme développeur de l'entreprise se situent tous deux dans le niveau d'inférence, servant le côté opérationnel de l'IA plutôt que le côté construction. Si ces entreprises adoptent le matériel SambaNova, le modèle de prêt établi par Upper90 pourrait être reproduit pour d'autres startups axées sur l'inférence. Cela représente un changement structurel dans la façon dont l'infrastructure IA est financée, dépassant le modèle centré sur Nvidia qui a dominé la dette de risque et le prêt adossé à des actifs dans ce domaine.

Le contre-argument mérite attention. Un seul prêt ne remodèle pas le marché de l'infrastructure IA. Nvidia détient toujours l'écrasante majorité du marché des accélérateurs IA, et Upper90 pourrait facilement revenir aux prêts adossés à des GPU pour sa prochaine transaction. Les puces d'inférence servent un ensemble plus restreint de charges de travail que les accélérateurs IA polyvalents de Nvidia, ce qui limite le marché total adressable pour les garanties spécifiques à l'inférence. Une startup exécutant de l'inférence sur des GPU Nvidia peut déplacer les charges de travail entre l'entraînement et l'inférence selon les besoins. Une startup verrouillée sur le matériel SambaNova ne peut pas faire ce pivot. Ce sont des contraintes réelles que tout financier de puces d'inférence doit considérer.

Mais le précédent est important car il ouvre une voie de capital qui n'existait pas auparavant pour le matériel axé sur l'inférence. Les financiers prêtent contre des actifs qu'ils comprennent et peuvent reprendre. Les puces SambaNova sont désormais sur cette liste aux côtés des GPU Nvidia. La prochaine startup d'inférence avec une histoire de matériel différenciée a désormais une voie plus claire vers le financement par emprunt. Pour les fondateurs construisant des clouds d'inférence, cette transaction envoie un signal que la différenciation matérielle compte non seulement pour les revendications de performance mais aussi pour la capacité à lever des capitaux de croissance. Cela pourrait accélérer la diversité matérielle dans l'infrastructure IA en rendant financièrement viable la construction sur du silicium non Nvidia.

L'implication à long terme est un changement potentiel dans la dynamique concurrentielle. Si plusieurs prêts de puces d'inférence suivent celui-ci, la gamme de matériel considéré comme garantie de qualité investissement s'élargit. Cela faciliterait la tâche aux entreprises de matériel IA non Nvidia pour attirer à la fois des clients et les capitaux nécessaires au déploiement à grande échelle. SambaNova, Cerebras, Groq et d'autres fabricants de puces axés sur l'inférence pourraient bénéficier d'un écosystème de financement qui ne commence et ne se termine plus avec Nvidia. La transaction met également la pression sur d'autres prêteurs spécialisés dans l'infrastructure IA pour évaluer s'ils doivent élargir leurs propres cadres de garantie au-delà du matériel Nvidia.

Ce prêt de puce d'inférence signale que le financement de l'infrastructure IA se diversifie pour la première fois au-delà de l'écosystème Nvidia. En pariant sur le silicium SambaNova, Upper90 a validé le matériel d'inférence comme garantie valant de l'argent sérieux. Si cette transaction devient un modèle, les neoclouds axés sur l'inférence auront une nouvelle voie vers le capital de croissance, et l'emprise de Nvidia sur le financement du calcul IA pourrait faire face à son premier test sérieux.

Pourquoi cela importe

General Compute et Upper90 ont montré que la prochaine vague d'infrastructure IA peut être construite sur autre chose que des GPU et que les financiers sont prêts à soutenir ce pari avec du capital réel. Ce prêt de puce d'inférence est une diversification du financement de l'infrastructure IA qui pourrait remodeler la façon dont la prochaine génération de neoclouds lève des dettes. Pour les décideurs qui observent le marché du calcul IA, cette transaction est le premier signal concret que l'écosystème de financement commence à rattraper la diversité matérielle qui émerge déjà dans les charges de travail IA de production.

Related Articles

• Intel Gaudi 3 gagne du terrain avec un carnet de commandes de 500 millions de dollars et un déploiement sur IBM Cloud
• L'expansion de Sharon AI en Asie-Pacifique sécurisée par un contrat d'infrastructure cloud de 950 millions de dollars
• Le projet d'AI Gigafactory de l'UE s'enlise : les déficits de financement et les retards découragent les partenaires

✔Human Verified

Recherché et recoupé avec des sources primaires par la rédaction de Bytevyte.