Nei data center, la crescita dei carichi legati ad AI e High Performance Computing ha reso la gestione del calore un elemento critico quanto la potenza di calcolo stessa. Non basta semplicemente “raffreddare” un rack: serve orchestrare l’intero percorso del calore, dal raffreddamento del chip fino allo smaltimento o al riutilizzo del calore stesso, in un sistema coordinato che Vertiv definisce come Thermal Chain.
Con densità oramai anche oltre i 200 kilowatt, e la coesistenza di sistemi di raffreddamento a liquido e ad aria, le problematiche di ammodernamento tecnologico degli impianti di climatizzazione esistenti (retrofit) e le nuove tecnologie disponibili, indirizzano la sfida del raffreddamento chiedendo di ripensare anche come ridisegnare e riprogettare le infrastrutture. Ne parliamo con Massimiliano Maistro, Manager Thermal Product Strategy EMEA di Vertiv.
Thermal chain, “anatomia” del raffreddamento intelligente
Per spiegare un concetto tecnico come quello della Thermal Chain, Maistro sceglie un’analogia che ne rende immediatamente intuitiva la logica: “ È un po’ come osservare una rete energetica urbana, in cui l’energia viene raccolta, trasportata, distribuita e gestita in modo coordinato per servire l’intero sistema “, esordisce Maistro. Come una città moderna dipende da una rete di infrastrutture che collega produzione, distribuzione e utilizzo dell’energia, anche un data center ad alta densità richiede un percorso continuo e controllato che raccolga il calore dove viene generato e lo trasferisca verso sistemi di dissipazione o recupero.
Il parallelo prosegue analizzando componente per componente.
I chip rappresentano i punti in cui il calore viene generato, mentre il fluido termovettore svolge il ruolo della rete che lo trasporta da una parte all’altra dell’infrastruttura: “Abbiamo delle pompe di circolazione che, in un loop chiuso, fanno circolare un fluido termovettore per mantenere i chip alla temperatura operativa ottimale. Il loop è chiuso pertanto non c’è dispersione”, spiega Maistro. Il direct-to-chip cooling può essere visto come una rete di distribuzione che porta la capacità di raffreddamento direttamente dove serve, nel punto in cui il calore viene prodotto dai server ad alte prestazioni. Infine, i chiller, i dry cooler e i sistemi di recupero del calore rappresentano le infrastrutture finali della rete, quelle che dissipano l’energia termica nell’ambiente o la valorizzano reimmettendola in altri utilizzi, come per il riscaldamento di edifici e comunità locali.
Come avviene in una rete energetica urbana soggetta a variazioni della domanda nel corso della giornata, anche il consumo di potenza e il carico termico di un sistema IT variano nel tempo: il calore generato viene trasportato dal fluido vettore fino ai sistemi di smaltimento nell’ambiente, siano essi chiller, dry cooler o, sempre più spesso, impianti di recupero termico.
È proprio nella capacità di coordinare l’intero percorso, dalla generazione del calore fino al suo smaltimento o riutilizzo, che secondo Maistro risiede la sfida principale. “La Thermal Chain si qualifica in questo senso proprio come l’insieme di tutti i componenti necessari che vanno dalla raccolta del calore fino al trasporto e allo smaltimento o al recupero dello stesso”, chiarisce, aggiungendo un elemento che considera decisivo: “Non meno importante sarà quindi anche il sistema di controllo che coordina i vari elementi dell’impianto di raffreddamento, proprio come il centro operativo che supervisiona una rete energetica complessa per mantenerla efficiente nel tempo”.
I concetti smettono di essere metafora e diventano un tema di ingegneria di sistema. “Non si tratta più di dimensionare un singolo chiller o una singola unità di raffreddamento a liquido, ma di orchestrare l’intera catena come un sistema integrato, in cui ogni componente – dalla piastra a contatto con il chip fino all’infrastruttura esterna all’edificio – deve lavorare in sincronia con gli altri”, dettaglia il manager. È questa la ragione per cui, secondo Maistro, “la centralità della Thermal Chain cresce di pari passo con la densità computazionale”: più un data center concentra potenza in spazi ridotti, più la capacità di gestire il calore come sistema integrato, e non come somma di componenti isolati, diventa un fattore critico “per l’affidabilità e le prestazioni dell’intera infrastruttura, oggi che il carico dei sistemi IT non è più costante ma soggetto a variazioni sempre più rapide e marcate”.
Dal chip allo smaltimento del calore, le fasi di un processo virtuoso
“La Thermal Chain può essere descritta come l’insieme delle tecnologie che hanno un obiettivo comune: garantire che il sistema IT, e in particolare CPU e GPU, operino nelle condizioni termiche richieste” spiega Maistro.
È da qui che parte concretamente la catena. Nei sistemi moderni il fluido tecnico viene portato direttamente al chip per raccogliere il calore nel punto stesso in cui viene generato “e viene utilizzato direttamente al chip nei moderni sistemi per raccogliere il calore generato dall’elevata potenza elaborativa”. Qui parte la Thermal Chain. Da quel punto, il percorso procede attraversando la Secondary Fluid Network (SFN), la rete che porta il fluido dai rack fino alla Coolant Distribution Unit (CDU). Quest’ultima, spiega Maistro, “è l’elemento nodale tra il circuito secondario verso i server e il circuito primario, verso l’esterno dell’edificio”, il punto di scambio in cui il calore raccolto viene trasferito dal circuito interno a quello che lo porterà infine allo smaltimento tramite chiller. Il raffreddamento a liquido, tuttavia, non esaurisce il quadro. In parallelo alla CDU, convivono ancora oggi sistemi dedicati al raffreddamento dell’aria, necessari per mantenere l’ambiente attorno ai server entro i range di temperatura definiti da normative e standard di settore. “Non meno importante è quindi il raffreddamento ad aria, che comunque rimane presente anche nei moderni sistemi”, precisa Maistro, sottolineando come le due tecnologie lavorino fianco a fianco piuttosto che sostituirsi l’una all’altra.
Il quadro che emerge è quello di una catena in cui ogni fase – dalla raccolta del calore al chip, al trasporto attraverso la rete di fluido secondario, fino allo scambio nella CDU e allo smaltimento – dipende dal corretto funzionamento di quella precedente. “Non si parla affatto – insiste il manager – di componenti isolati pensati per funzionare in autonomia, ma di elementi di un unico sistema che deve restare coerente end-to-end”. È un’architettura che, proprio per la sua natura sequenziale, richiede un coordinamento stretto tra i sottosistemi di raffreddamento a liquido e ad aria, ciascuno chiamato a rispondere in tempo reale alle variazioni di carico generate dal sistema IT a monte.
Questa lettura per fasi, secondo Maistro, “rappresenta lo schema con cui Vertiv approccia ogni progetto, perché individuare con precisione dove passa il calore – dal cold plate al chip, lungo la rete di fluido secondario, fino alla CDU e all’esterno dell’edificio – permette di capire dove intervenire quando cambia il profilo di carico del sistema IT, senza dover ripensare l’intera infrastruttura ogni volta che una nuova generazione di chip entra in produzione”.
AI e Hpc, quando la densità riscrive le regole
Entriamo allora solo un poco più nel dettaglio di tutti i temi introdotti.
Se la Thermal Chain è un’architettura consolidata nei principi, la sua capacità di scalare è cambiata radicalmente negli ultimi anni. “La crescita dell’AI e dell’HPCsta trasformando la Thermal Chain da semplice infrastruttura di raffreddamento a sistema critico anche per l’erogazione della potenza computazionale”, osserva Maistro, descrivendo reti di distribuzione del cooling che, dal chip fino allo smaltimento, non sono più componenti a sé stanti ma elementi orchestrati da un sistema di supervisione capace di reggere variazioni di carico “sempre più repentine e sempre più massive sui cluster che vengono installati”.
I numeri raccontano l’entità del salto. “Fino a cinque-sei anni fa avevamo rack con densità attorno ai 10-15 kilowatt. Oggi utilizziamo densità anche oltre i 200 kilowatt e il trend è in esponenziale crescita“, quantifica il manager. Una progressione che, spiega, “porta a un ripensamento completo del modo in cui gli ingegneri disegnano la Thermal Chain, la installano e la operano”, non solo nella fase di progettazione ma lungo l’intero ciclo di vita di infrastrutture destinate a restare in funzione per decenni. È qui, aggiunge Maistro, che si apre uno dei nodi più delicati del settore, ovvero “il disallineamento tra i tempi di realizzazione di un’infrastruttura fisica e la velocità con cui evolvono i sistemi IT che quella infrastruttura deve supportare”.
Questa evoluzione non pesa solo sull’ingegneria: incide direttamente anche sulla sostenibilità del data center. Utilizzare fluido vettore liquido direttamente al chip, con una quota di raffreddamento liquido sempre più preponderante rispetto a quella ad aria, consente di alzare le temperature di lavoro all’interno del loop chiuso e di beneficiare in modo più ampio del free cooling. “Se lavoriamo a temperature più alte del fluido vettore direttamente al chip, quando condizioni ambientali lo consentono, possiamo beneficiare del free cooling, o comunque di uno smaltimento del calore a consumi energetici molto ridotti”, chiarisce Maistro.
A questo tema si affianca quello del recupero di calore, che il manager definisce ormai “un must a livello europeo”. Con un calore di ritorno che può arrivare a 45-50 gradi, diventa possibile destinarlo al district heating, distribuendolo a interi quartieri o piccoli abitati: una pratica già diffusa nel Nord Europa, ma che secondo Maistro “è un tema molto sentito oramai anche nel resto dell’Europa”. Cresce così, di pari passo con la densità computazionale, anche il ruolo della Thermal Chain come leva di efficienza energetica complessiva del data center, e non solo come infrastruttura di supporto al calcolo. Torna sullo sfondo, ancora, il tema del sistema di supervisione che tiene insieme l’intera catena. Che, rimane davvero centrale. Man mano che la densità sale e i carichi diventano più imprevedibili, non basta più che i singoli componenti – CDU, chiller, unità ad aria – siano performanti individualmente: devono essere letti e gestiti come un unico sistema, capace di redistribuire in tempo reale la capacità di raffreddamento dove il carico la richiede. È un cambio di paradigma che, ricorda Maistro, “riguarda tanto i nuovi progetti quanto le infrastrutture già operative, chiamate a gestire generazioni di chip sempre più esigenti senza che i cicli di rinnovo dell’edificio possano tenere lo stesso passo”.
Orchestrare la coesistenza di air cooling e liquid cooling
Affrontando nel dettaglio la coesistenza tra le due tecnologie di raffreddamento, Maistro parte da una distinzione che considera essenziale. “Bisogna innanzitutto fare attenzione al mercato che si decide di considerare”: da un lato vi sono i grandi data center strettamente legati ai workload AI, dall’altro le aziende enterprise che adottano l’intelligenza artificiale in sistemi di scala ridotta. Nel primo caso, chiarisce il manager, “non si parla più di air cooling o liquid cooling, ma la coesistenza diventa prioritaria all’interno dello stesso ecosistema Thermal Chain”.
Anche nei data center AI più avanzati, infatti, una parte dei componenti continuerà a essere raffreddata ad aria, per come è strutturato oggi un ambiente HPC. “È costituito da compute rack, ovvero la parte computazionale, e networking rack che invece sono a supporto”, spiega Maistro, paragonando questi ultimi “alle infrastrutture di distribuzione di una rete urbana, che coordinano e instradano il flusso delle informazioni tra le diverse componenti del sistema”: elementi che oggi restano prevalentemente raffreddati ad aria. Nei server HPC e AI, il liquid cooling viene invece impiegato per rimuovere la quota più consistente del carico termico, tipicamente generata da Cpu e Gpu, “attraverso elementi come cold plate, manifold, secondary fluid network fino ad arrivare alla cooling distribution unit”. Rimangono invece raffreddati ad aria i componenti meno critici o meno energivori, come le schede di memoria e archiviazione.
Da questa distinzione tecnica discende una regola progettuale precisa. “È fondamentale considerare fin dal primo giorno un approccio flessibile del design”, sostiene Maistro, che permetta di modificare nel tempo la percentuale di carico gestita dalle macchine ad aria e da quelle a liquido, man mano che la parte IT o HPC viene messa in servizio. La ragione è nei tempi diversi con cui evolvono le due componenti: “L’infrastruttura disegnata oggi deve durare almeno un decennio, se non di più, mentre la parte IT potrebbe subire dei cambiamenti nel corso di qualche anno”. Flessibilità, per Maistro, è dunque la parola chiave dell’approccio al data center.
Nei deployment enterprise più piccoli il quadro cambia scala ma non natura: qui coesistono sistemi ibridi di liquid e air cooling insieme a impianti ancora interamente raffreddati ad aria, spesso in contesti di brownfield in cui si tratta di rinnovare data center esistenti per accogliere carichi AI, seguendo il trend generale del mercato.
La sfida principale, in entrambi gli scenari, resta la stessa: “ Fare in modo che le due tecnologie non lavorino come sistemi paralleli e indipendenti, ma come parti di un’unica Thermal Chain capace di ridistribuire il carico termico in base a come evolve, nel tempo, il mix tra componenti raffreddati a liquido e componenti raffreddati ad aria”. È un equilibrio che si costruisce già in fase di progetto, non lo si corregge a posteriori, ed è proprio questa la ragione per cui l’approccio flessibile fin dal giorno uno diventa un requisito tanto per i grandi cluster AI quanto per i data center enterprise di dimensioni più contenute.
Progettare per la flessibilità, il ruolo di Vertiv
Gestire nello stesso data center rack ad altissima densità raffreddati a liquido e rack tradizionali raffreddati ad aria significa, lo abbiamo visto, ripensare l’approccio progettuale fin dalle prime fasi. Il principio guida resta quello della flessibilità già richiamato: un design capace di accogliere carichi misti e di far evolvere nel tempo il rapporto tra le due tecnologie, senza che ogni variazione dell’IT imponga di rimettere mano all’infrastruttura fisica. Su questo terreno, Vertiv si propone come partner a valore lungo l’intero ciclo del progetto, a partire da un vantaggio competitivo che il manager indica con chiarezza: “Collaborando con NVIDIA e con altri leader del settore dei semiconduttori, Vertiv è in prima linea nello sviluppo di prodotti e soluzioni Thermal Chain che supportano non solo le più recenti generazioni di chip ma anche quelle che verranno”. Per quanto riguarda il tema retrofit, l’azienda sviluppa quelli che Maistro definisce reference design: pacchetti di soluzione completa che comprendono “la componente di power train, fino a quella per la Thermal Chain, quindi di raffreddamento”, costruiti non sul singolo componente ma con l’obiettivo di aiutare il cliente ad adeguare un sito esistente ai vincoli di potenza e spazio disponibili, in linea con la capacità computazionale che si vuole installare.
Il time to market, in questo contesto, è diventato uno dei driver principali del mercato, tanto sul greenfield quanto sul brownfield, “perché il vantaggio per il cliente arriva solo nel momento in cui il sistema IT è attivo”. Per comprimere i tempi, Vertiv lavora su reference design pensati non solo per il breve periodo ma con un orizzonte di flessibilità a cinque-dieci anni, e affianca un intero pacchetto di servizio che comprende produzione, witness test nei propri laboratori e soluzioni integrate per accelerare il deployment in sito.
Due esempi concreti di questa filosofia sono Vertiv™ SmartRun, la spina dorsale che serve i rack sia per la parte di potenza sia per il thermal management, e Vertiv™ OneCore, il sistema che integra Vertiv SmartRun con tutti i componenti vitali del data center: dai chiller ai vasi di accumulo necessari a supportare la continuità del raffreddamento in caso di guasto, fino ai moduli di potenza. “Vertiv si propone quindi come un partner con cui un cliente può sviluppare e affidarsi per l’intera infrastruttura, dalla fase di design fino all’esecuzione e al service in sito”, sintetizza Maistro, distinguendo i grandi deployment a livello di megawatt, seguiti end-to-end, dagli interventi di retrofit, dove i reference design vengono spesso “adottati e implementati così come sono stati pensati e disegnati, adattandoli se necessario sul progetto specifico con il supporto dei consulenti del cliente”, velocizzando ulteriormente i tempi di consegna.
Resta, sullo sfondo di questo approccio, una domanda che guarda oltre il singolo progetto: se il carico per rack continuerà a crescere in modo esponenziale, come si potrà continuare a ospitarlo senza che gli spazi dedicati a chiller e dry cooler crescano nella stessa proporzione? È il tema su cui Vertiv sta indirizzando parte significativa dei propri investimenti in ricerca e sviluppo.
Meno spazio, più calcolo, le sfide dei prossimi dieci anni
Guardando ai prossimi cinque-dieci anni, Maistro non ha dubbi sulla direzione del mercato: “Il trend è verso un’esponenziale crescita del carico per il singolo rack, quindiavremo in spazi ridotti un carico estremamente elevato”. Una delle sfide su cui Vertiv sta investendo di più è proprio come ridurre lo spazio oggi occupato tipicamente i negli edifici europei, dai sistemi di smaltimento e recupero del calore: un lavoro che parte dai laboratori di ricerca e sviluppo interni e da un confronto stretto con i partner che progettano i chip di nuova generazione.
Un fattore chiave, in questo senso, è il range di temperatura ammesso al chip, che oggi “è molto ampio e va da 22 gradi fino a 45 gradi”: due estremi che guidano design completamente diversi, tra i quali Vertiv sta lavorando per offrire flessibilità. Il trend, osserva Maistro, è verso la tolleranza per le temperature più alte, “con tutto beneficio dell’infrastruttura thermal, ovvero si andrà a risparmiare molto nella potenza assorbita per raffreddare il data center”, liberando così potenza a favore della parte computazionale.
È qui che il manager individua un ulteriore passaggio chiave: “All’aumentare della temperatura, a parità di spazio in pianta, si potrà aumentare la componente computazionale o i sistemi IT che vengono installati”, perché si ridurrà il consumo elettrico dell’infrastruttura di raffreddamento a beneficio del fine ultimo per cui un data center viene costruito.
Per rendere l’idea, Maistro ricorre a un’analogia fotografica: “Una lente fissa genera immagini più nitide, ma richiede una certa distanza dal soggetto; una lente zoom permette di avvicinarsi o allontanarsi”. Il data center di oggi, spiega, “non si tende più a ‘dimensionare’ come una lente fissa, quanto piuttosto come uno zoom”, cercando le massime prestazioni pur nella gestione di un compromesso. È proprio in questa logica che si inserisce il Vertiv™ CoolLoop Trim Cooler , un chiller in grado di gestire temperature del fluido di mandata comprese tra 20 e 40 gradi senza cambiare l’hardware nel tempo: un’infrastruttura pensata per lavorare oggi su una temperatura più bassa e spostarsi, in futuro, verso valori più alti, senza richiedere una nuova installazione.
Su questo fronte si muovono anche le acquisizioni più recenti di Vertiv. L’ingresso di ThermoKey, specializzata in dry cooler e tecnologie di scambio termico, amplia il portfolio della Thermal Chain: “Il dry cooler assorbe meno potenza rispetto a un chiller: avremo allora comunque sempre bisogno di chiller nei data center, ma in un mix in linea con la crescita delle temperature al chip che permetterà infrastrutture molto più snelle a livello di efficienza energetica”. In parallelo, l’acquisizione di Strategic Thermal Labs in Nord America (un’azienda con cui Vertiv collaborava già da anni) rafforza le competenze su cold plate e tecnologie lato server-side.
Si parla di possibilità e tecnologie che possono essere sempre testate sul campo presso il Customer Experience Center di Tognana, in provincia di Padova, il principale centro EMEA per il Thermal Management, dove i clienti si susseguono quasi quotidianamente per assistere a witness test condotti in oltre sette laboratori: “Non si parla solo di verifiche di performance termica, ma anche di dimostrazioni di controllo e supervisione dell’intera Thermal Chain”.
Chiude il quadro un tema che Maistro vuole riportare al centro, considerato come la sostenibilità rappresenti, e non solo dal punto di vista regolatorio, una vera sfida e sempre più attuale: “E’ il recupero di calore a vantaggio delle comunità, al servizio di centri commerciali, infrastrutture sportive, uffici e zone residenziali, in un’ottica che richiede una collaborazione tra operatori e amministrazioni locali sulla possibilità di costruire data center pensati fin dall’origine per mettere a disposizione il calore dove può generare il maggior valore per il territorio e le comunità locali”. Un obiettivo che dipende anche dal contesto climatico in cui il data center opera. Serve pertanto una pianificazione intelligente anche sul territorio.
Per saperne di più scarica il whitepaper: Rising chip temperatures and the transformation of data center cooling
Leggi tutti gli approfondimenti della Room: La nuova frontiera dei data center AI
© RIPRODUZIONE RISERVATA
