Si estende la collaborazione tra Nvidia e Oracle, con l’esecuzione di applicazioni AI strategiche di Nvidia sul nuovo Oracle Cloud Infrastructure (OCI) Supercluster. Nvidia ha scelto Oracle OCI come primo cloud hyperscaler per offrire Nvidia DGX Cloud, un servizio di supercomputing AI, su larghissimascala. Inoltre, Nvidia sta eseguendo su OCI anche Nvidia AI Foundations, i suoi nuovi servizi cloud di AI generativa, disponibili tramite DGX Cloud.
I servizi AI di Nvidia
Clay Magouyrk, Executive VP di Oracle Cloud Infrastructure OCI è la prima piattaforma a offrire un supercomputer AI su larga scala a migliaia di clienti in tutti i settori. Si tratta di una capacità fondamentale, dato che sempre più organizzazioni richiedono risorse di calcolo per i loro casi d’uso specifici di AI. Per supportare questa domanda, continuiamo a espandere la nostra collaborazione con Nvidia .
Manuvir Das, VP enterprise computing di Nvidia Le opportunità illimitate di innovazione guidata dall’intelligenza artificiale stanno contribuendo a trasformare ogni azienda. Grazie alla collaborazione di Nvidia con Oracle Cloud Infrastructure, oggi le straordinarie prestazioni di supercomputing della piattaforma di elaborazione accelerata di Nvidia sono alla portata di tutti.
Il nuovo supercluster OCI
Nvidia DGX Cloud e i servizi Nvidia AI Foundations che vengono eseguiti su di esso sfruttano l’esclusivo Supercluster di OCI. Esso comprende OCI Compute Bare Metal, un cluster RoCE a bassissima latenza basato su networking Nvidia e una scelta di storage HPC. È stato implementato e convalidato da Nvidia per supportare migliaia di istanze OCI Compute Bare Metal, in grado di elaborare in modo efficiente applicazioni in parallelo massivo. Il networking di OCI Supercluster può ora scalare fino a 4.096 istanze OCI Compute Bare Metal con 32.768 GPU A100. Inoltre, Nvidia ha annunciato che Oracle sta aggiungendo le DPU Nvidia BlueField-3 al suo stack di networking.
Servizi di intelligenza artificiale generativa per la creazione di modelli aziendali personalizzati
I servizi di creazione di modelli di Nvidia AI Foundations spaziano dal linguaggio alle immagini, dal video al 3D, fino alla biologia. Le aziende possono utilizzare il servizio linguistico Nvidia NeMo. Oltre ai servizi di immagini, video e 3D Nvidia Picasso. Così da creare applicazioni AI generative proprietarie. Specifiche per il proprio settore, per chat intelligenti e assistenza clienti, creazione di contenuti professionali, simulazione digitale e altro ancora. Per l’addestramento e l’inferenza di modelli di AI biologici, il servizio cloud Nvidia BioNeMo offre strumenti per personalizzare e distribuire rapidamente applicazioni di AI generativa.
L’infrastruttura cloud di Oracle scelta per i servizi AI di Nvidia
Su OCI, i modelli personalizzati costruiti con Nvidia AI Foundations e famiglie di modelli come GPT-3 si avvalgono di OCI Supercluster. Essa include networking RDMA (Remote Direct Memory Access) appositamente costruito per offrire prestazioni prossime alla velocità di linea con latenza di microsecondi. Inoltre eliminare i problemi di blocco per i carichi di lavoro dipendenti dall’RDMA.
