Novità nella gestione dati Dell Technologies: Dell AI Factory trasforma i data center con innovazioni per il raffreddamento avanzato, il calcolo ad alta densità e lo storage AI.
Arthur Lewis, presidente dell’Infrastructure Solutions Group di Dell Technologies
I data center odierni non riescono a stare al passo con le esigenze dell’AI. Inoltre richiedono innovazioni in termini di calcolo ad alta densità e raffreddamento a liquido con design modulari, flessibili ed efficienti. I nuovi sistemi Dell offrono alle aziende le prestazioni necessarie per essere sempre più competitive nel panorama dell’AI in rapida evoluzione.
Il futuro del calcolo accelerato con innovazioni per il raffreddamento
Dell Integrated Rack 7000 (IR7000) va incontro alle esigenze di elaborazione accelerata con una densità superiore. Oltre a una gestione dell’alimentazione più sostenibile e tecnologie di raffreddamento avanzate. Questo rack basato sugli standard OCP (Open Compute Project) è ideale per l’implementazione su larga scala e presenta un design per ambienti tecnologici eterogenei e multigenerazionali.
Quali le principali novità nella gestione dati
Dell IR7000 da 21 pollici è ideato per supportare la densità di CPU e GPU leader del settore.
Il rack è dotato di supporti più alti e larghi rispetto allo standard di mercato per l’inserimento nel rack di server in grado di ospitare le più recenti architetture di CPU e GPU. Progettato appositamente per il raffreddamento a liquido, in grado di raffreddare implementazioni fino a 480KW, ed è in grado di catturare quasi il 100% del calore generato.
Pensato per garantire una maggiore scelta e flessibilità, questo rack integrato offre il supporto per le reti Dell e per le reti standard.
Le installazioni sono semplici ed efficienti dal punto di vista energetico con i sistemi Dell Integrated Rack Scalable (IRSS). IRSS offre un’infrastruttura innovativa su scala rack ottimizzata per i workload AI, rendendo il processo di configurazione semplice ed efficiente con un sistema su scala rack plug-and-play completamente integrato.
Le piattaforme AI-ready progettate per Dell IR7000
Parte della Dell AI Factory con NVIDIA, Dell PowerEdge XE9712 offre un’accelerazione densa e ad alte prestazioni per il training LLM e l’inferenza in tempo reale di implementazioni AI su larga scala. Progettata per una densità di GPU leader del settore con NVIDIA GB200 NVL72, questa piattaforma collega fino a 36 CPU NVIDIA Grace con 72 GPU NVIDIA Blackwell in un design su scala rack. Il dominio NVLink a 72 GPU si comporta come una singola GPU per un’inferenza LLM in tempo reale fino a 30 volte più veloce di un trilione di parametri. Il raffreddamento a liquido di NVIDIA GB200 NVL72 è fino a 25 volte più efficiente dei sistemi con raffreddamento ad aria NVIDIA H100.
Dell AI Factory trasforma i data center, una novità nella gestione dati
Dell PowerEdge M7725 offre un’elaborazione densa ad alte prestazioni, ideale per ambienti di ricerca, government, fintech ed education. Progettato per essere distribuito nel rack IR7000, Dell PowerEdge M7725 offre maggiore elaborazione con una migliore gestione della manutenzione scalando tra 24K-27K core per rack, con 64 o 72 nodi a due socket, alimentati da CPU AMD EPYC di quinta generazione. Gli slot IO anteriori consentono una connettività ad alta velocità e forniscono una connettività perfetta per le applicazioni più esigenti. Il form factor del server, efficiente dal punto di vista energetico, consente implementazioni più sostenibili grazie al raffreddamento a liquido diretto (DLC) delle CPU e al raffreddamento ad aria tramite connessione rapida al rack integrato.
Innovazioni nello storage non strutturato e nella gestione dei dati per l’era dell’AI
Le innovazioni del portfolio storage in ambito dati non strutturati di Dell Technologies permettono di migliorare le prestazioni delle applicazioni AI e semplificano la gestione dei dati. Dell PowerScale, il primo storage Ethernet al mondo certificato per NVIDIA DGX SuperPOD, offre nuovi aggiornamenti. Essi potenziano le strategie di gestione dei dati, migliorano le prestazioni dei workload e offrono un maggiore supporto ai workload AI1:
Discovery dei dati migliorata: possibilità di disporre di data insight per un processo decisionale più rapido grazie ai metadati PowerScale e a Dell Data Lakehouse. Il sistema di acquisizione open-source di documenti di Dell per i servizi NVIDIA NeMo e i framework RAG è progettato per facilitare e migliorare i tempi di acquisizione dei dati e a ridurre i costi di calcolo e GPU nei diversi contesti di mercato.
Storage più denso: I clienti possono perfezionare i propri modelli di intelligenza artificiale addestrandoli su dataset più grandi grazie alle nuove unità da 61 TB che aumentano la capacità e l’efficienza riducendo al contempo l’ingombro dei data center della metà2.
Prestazioni AI migliorate: Le prestazioni dei workload AI risultano migliorate grazie alle funzionalità NVIDIA InfiniBand di front-end e al supporto delle schede Ethernet da 200 GbE che offrono un throughput fino al 63% più veloce.
Novità nella gestione dati
Con le novità apportate alla piattaforma di gestione dei dati Dell Data Lakehouse i clienti possono migliorare le operazioni grazie a nuove funzionalità di disaster recovery. Poi il rilevamento automatico degli schemi, le API di gestione complete e gli aggiornamenti full stack self-service. I clienti possono, inoltre, scalare rapidamente gli use case basati su meccanismi di intelligenza artificiale con i servizi di ottimizzazione per la catalogazione dei dati e i servizi di implementazione delle pipeline di dati.
Soluzioni Dell Generative AI con Intel
Nell’ambito Dell AI Factory, le soluzioni Dell Generative AI con Intel offrono piattaforme progettate e validate congiuntamente per un’implementazione dell’intelligenza artificiale senza discontinuità. Grazie agli acceleratori Dell PowerEdge XE9680 e Intel Gaudi 3 AI con storage, networking, servizi e uno stack software open-source di Dell, queste soluzioni preconfigurate, flessibili e ad alte prestazioni supportano una serie di use case GenAI. Tra cui la creazione di contenuti, gli assistenti digitali, la progettazione e la creazione di dati, la generazione di codice e altro ancora.
