bytevyte
bytevyte
Language
EN DE ES FR PT IT
ai-beats-it —

AWS integra le GPU NVIDIA Blackwell in SageMaker con le nuove istanze G7e

istanze AWS G7e

Amazon Web Services (AWS) ha introdotto la disponibilità generale delle sue AWS G7e instances sulla piattaforma SageMaker AI. Queste istanze, rese disponibili questa settimana, utilizzano le NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs per accelerare l'inferenza dell'IA generativa. Incorporando questo hardware avanzato, AWS offre un ambiente ad alte prestazioni per il deployment di modelli di machine learning complessi su larga scala.

Le specifiche tecniche delle AWS G7e instances offrono un salto sostanziale rispetto alla precedente generazione G6e. Ogni GPU dispone di 96 GB di memoria GDDR7, raddoppiando di fatto la capacità di memoria del suo predecessore. AWS ha dichiarato che questi miglioramenti offrono prestazioni fino a 2,3 volte superiori, consentendo un'elaborazione più efficiente di task di IA complessi. In particolare, una singola istanza ml.g7e.2xlarge a nodo singolo può ora ospitare un modello con 120 miliardi di parametri.

Vantaggi strategici delle AWS G7e Instances

Per le organizzazioni che gestiscono modelli di fondazione massicci, la scalabilità del nuovo hardware è un fattore critico. La configurazione più grande, la variante ml.g7e.48xlarge a 8 GPU, supporta modelli fino a 300 miliardi di parametri. Ciò consente alle imprese di eseguire applicazioni di IA altamente sofisticate su un singolo cluster, riducendo la complessità architetturale spesso associata all'inferenza distribuita.

L'integrazione delle NVIDIA Blackwell GPUs nell'ecosistema SageMaker fornisce un percorso semplificato per il deployment. Offrendo queste AWS G7e instances, l'azienda consente agli sviluppatori di sfruttare silicio ad alte prestazioni senza abbandonare i propri workflow di machine learning consolidati. Questa mossa rafforza la posizione competitiva di AWS nel mercato delle infrastrutture cloud, mentre le aziende cercano modi più convenienti per scalare le soluzioni di IA generativa.

Sebbene ci impegniamo per l'accuratezza, bytevyte può commettere errori. Si consiglia agli utenti di verificare tutte le informazioni in modo indipendente. Non accettiamo alcuna responsabilità per errori o omissioni.

✔Human Verified

Share