Memory Godboxes και CXL: η λύση στην κρίση DRAM του AI

Η έλλειψη DRAM που συνδέεται με την ανάπτυξη AI υποδομών φέρνει ξανά στο προσκήνιο το Compute Express Link, γνωστότερο ως CXL. Το The Register περιγράφει την άνοδο των λεγόμενων «memory godboxes», δηλαδή συσκευών που μπορούν να φιλοξενούν μεγάλες ποσότητες μνήμης και να τις διαθέτουν σε πολλαπλούς servers ως κοινό pool, αντί κάθε σύστημα να βασίζεται αποκλειστικά στα δικά του DIMMs.

Το timing δεν είναι τυχαίο. Η TrendForce, σε εκτίμηση που μετέδωσε και το Reuters, αναθεώρησε προς τα πάνω την πρόβλεψή της για τις συμβατικές τιμές conventional DRAM στο πρώτο τρίμηνο του 2026, από 55% έως 60% σε 90% έως 95% σε τριμηνιαία βάση. Η αιτία είναι η επίμονη ζήτηση από AI και data center εφαρμογές, η οποία έχει δώσει στους προμηθευτές μνήμης μεγαλύτερη διαπραγματευτική ισχύ.

Η πίεση δεν περιορίζεται στην HBM που χρησιμοποιείται δίπλα σε AI accelerators. Τα σύγχρονα AI workloads χρειάζονται και μεγάλες ποσότητες συμβατικής DRAM, είτε για κλασικούς servers είτε για inference σενάρια όπου η μνήμη χρησιμοποιείται για KV cache και άλλα ενδιάμεσα δεδομένα. Σε multi-tenant περιβάλλοντα, η κακή αντιστοίχιση μεταξύ διαθέσιμης μνήμης και πραγματικής χρήσης οδηγεί σε σπατάλη χωρητικότητας, ένα από τα προβλήματα που το CXL επιχειρεί να περιορίσει.

Τι είναι το «memory godbox»

Ο όρος «memory godbox» δεν είναι επίσημη κατηγορία προϊόντος. Περιγράφει, όμως, μια συγκεκριμένη ιδέα: μια εξωτερική ή rack-scale συσκευή γεμάτη DRAM, η οποία συνδέεται μέσω CXL και επιτρέπει σε servers να αντλούν πρόσθετη μνήμη όταν τη χρειάζονται. Η μνήμη παραμένει byte-addressable, αλλά δεν είναι πλέον δεμένη αποκλειστικά με τα DIMM slots ενός μόνο συστήματος.

Το CXL βασίζεται στο φυσικό στρώμα του PCI Express και περιλαμβάνει τρία βασικά πρωτόκολλα: CXL.io για I/O, CXL.cache για cache coherency μεταξύ host και συσκευής και CXL.mem για πρόσβαση του host σε device-attached memory. Στην πράξη, αυτό επιτρέπει αρχιτεκτονικές όπου compute nodes, GPU nodes, memory nodes και storage nodes μπορούν να οργανωθούν πιο ευέλικτα μέσα στο ίδιο rack ή fabric.

Η λογική μοιάζει με την εξέλιξη που πέρασε το storage πριν από χρόνια. Η χωρητικότητα δεν χρειάζεται να βρίσκεται πάντα τοπικά στο μηχάνημα που τη χρησιμοποιεί. Με το CXL, η ίδια αρχή μεταφέρεται στη μνήμη, αλλά με πολύ αυστηρότερες απαιτήσεις σε latency, coherency και απομόνωση.

CXL 3.0: γιατί θεωρείται σημείο καμπής

Το CXL 3.0 εισάγει δυνατότητες fabric που ξεπερνούν τα απλούστερα tree-based σχήματα των προηγούμενων γενεών. Σύμφωνα με το CXL Consortium, η έκδοση 3.0 προσθέτει βελτιωμένο memory pooling και memory sharing, multi-level switching, peer-to-peer access και υποστήριξη για πιο σύνθετες τοπολογίες. Αυτό είναι το τεχνικό θεμέλιο πάνω στο οποίο μπορούν να στηθούν κοινές δεξαμενές μνήμης για περισσότερους από έναν hosts.

Η διαφορά ανάμεσα στο pooling και στο sharing είναι κρίσιμη. Στο pooling, τμήματα μνήμης μπορούν να εκχωρούνται δυναμικά σε διαφορετικούς hosts, αλλά κάθε τμήμα χρησιμοποιείται συνήθως από έναν host κάθε φορά. Στο sharing, πολλαπλοί hosts μπορούν να έχουν πρόσβαση στην ίδια περιοχή μνήμης, με τους απαραίτητους μηχανισμούς coherency.

Σε επίπεδο bandwidth, το The Register αναφέρει το παράδειγμα συστήματος με 64 CXL lanes ανά CPU, το οποίο θα μπορούσε θεωρητικά να προσθέτει έως 512 GB/s αμφίδρομου bandwidth. Αυτό δεν σημαίνει ότι κάθε εφαρμογή θα δει τέτοια ωφέλεια. Σημαίνει ότι το bandwidth, σε ορισμένες διαμορφώσεις, δεν είναι απαραίτητα το πρώτο εμπόδιο.

Το latency είναι πιο δύσκολο ζήτημα. Η CXL-attached μνήμη προσθέτει καθυστέρηση σε σχέση με την τοπική DRAM. Το The Register το τοποθετεί περίπου στην τάξη ενός NUMA hop, γύρω στα 170 έως 250 ns round trip, ανάλογα με την απόσταση της memory appliance από τον host CPU και την υλοποίηση. Για workloads με προβλέψιμη πρόσβαση στη μνήμη, αυτό μπορεί να είναι αποδεκτό. Για workloads με έντονα random access patterns, το κόστος μπορεί να είναι αισθητό.

Ασφάλεια και πρώτες εμπορικές κινήσεις

Η κοινή χρήση μνήμης μεταξύ πολλαπλών συστημάτων δημιουργεί και θέμα ασφάλειας. Το CXL 3.1 ενισχύει την αρχιτεκτονική ασφάλειας με δυνατότητες που σχετίζονται με confidential computing, Trusted Execution Environment Security Protocol και προστασία σε CXL.cache και CXL.mem συναλλαγές. Αυτά είναι απαραίτητα στοιχεία για περιβάλλοντα όπου η ίδια φυσική υποδομή εξυπηρετεί πολλούς tenants ή διαφορετικά workloads.

Στο εμπορικό σκέλος, η Astera Labs ανακοίνωσε τον Νοέμβριο του 2025 ότι οι Leo CXL Smart Memory Controllers επιτρέπουν σε πελάτες να αξιολογήσουν CXL memory expansion σε preview περιβάλλον των Microsoft Azure M-series virtual machines. Η διατύπωση έχει σημασία: πρόκειται για preview αξιολόγηση συγκεκριμένων workloads και όχι για γενικευμένη παραγωγική διάθεση σε όλο το Azure.

Η Astera Labs υποστηρίζει επίσης, με βάση demo στο OCP Global Summit 2025, ότι οι Leo CXL Smart Memory Controllers μπορούν να επιτρέψουν τριπλάσια concurrent LLM instances, υψηλότερο throughput και τριπλάσια χαμηλότερο latency σε συγκεκριμένο CXL σενάριο. Τα νούμερα αυτά πρέπει να διαβάζονται ως εταιρικό claim και όχι ως ανεξάρτητο benchmark.

Η δεύτερη χρήση της DDR4

Μία ακόμη πρακτική εφαρμογή του CXL είναι η επαναχρησιμοποίηση παλιότερης DDR4 ως πρόσθετης CXL-attached μνήμης σε νεότερα συστήματα. Η Marvell προωθεί αυτή τη λογική με τη σειρά Structera X, υποστηρίζοντας ότι τα data centers μπορούν να αξιοποιήσουν υπάρχουσες DDR4 μονάδες αντί να αγοράζουν αποκλειστικά νέα DDR5 DIMMs.

Αυτό δεν σημαίνει ότι η DDR4 «μετατρέπεται» σε DDR5. Η μνήμη παραμένει DDR4, αλλά εμφανίζεται στο σύστημα μέσω CXL ως πρόσθετο memory tier. Για hyperscalers που αποσύρουν μεγάλες ποσότητες DDR4 από παλιότερους servers, το οικονομικό κίνητρο είναι σαφές: η επαναχρησιμοποίηση υπάρχουσας μνήμης μειώνει την ανάγκη για νέα DRAM σε περίοδο αυξημένων τιμών.

Αγορά και προοπτική

Η Yole Group έχει εκτιμήσει ότι η αγορά CXL μπορεί να φτάσει περίπου τα 15 δισ. δολάρια έως το 2028, με τη DRAM πίσω από CXL να αποτελεί το μεγαλύτερο μέρος αυτής της αξίας. Η πρόβλεψη εξηγεί γιατί οι κατασκευαστές controllers, switch chips και memory expanders προσπαθούν να τοποθετηθούν νωρίς σε μια αγορά που ακόμη βρίσκεται σε φάση ωρίμανσης.

Το βασικό ερώτημα είναι αν το CXL θα ανακουφίσει την έλλειψη DRAM ή απλώς θα μετακινήσει τη ζήτηση σε νέο σημείο της αλυσίδας. Αν τα hyperscale AI workloads απορροφήσουν πρώτα τα CXL memory pools, οι enterprise πελάτες μπορεί να δουν τα οφέλη αργότερα ή σε υψηλότερο κόστος. Αντίθετα, σε περιβάλλοντα όπου η μνήμη μένει συχνά ανεκμετάλλευτη ανά server, το pooling μπορεί να βελτιώσει ουσιαστικά τη χρήση της υπάρχουσας χωρητικότητας.

Το CXL δεν καταργεί την ανάγκη για τοπική DRAM ούτε λύνει από μόνο του την έλλειψη wafer capacity. Δίνει, όμως, στα data centers έναν τρόπο να χειριστούν τη μνήμη πιο ευέλικτα, με καλύτερη κατανομή χωρητικότητας και πιθανή επαναχρησιμοποίηση παλαιότερων modules. Σε μια αγορά όπου η DRAM γίνεται ξανά στρατηγικός πόρος, αυτό αρκεί για να μετατρέψει το CXL από τεχνική υπόσχεση σε άμεσο θέμα υποδομής.

Πηγές

• The Register: Memory godboxes could offer relief from the RAMpocalypse
• Reuters: TrendForce sees chip prices surging 90% to 95% in Q1 from previous quarter
• TrendForce: Memory Price Outlook for 1Q26 Sharply Upgraded
• CXL Consortium: Compute Express Link 3.0 White Paper
• CXL Consortium: Introducing Compute Express Link 3.1
• Astera Labs: Leo CXL Smart Memory Controllers on Microsoft Azure M-series Virtual Machines
• Marvell: Sustainable Computing With CXL
• Yole Group: CXL technology unlocks memory performance