- Η NVIDIA εξετάζει δραστική μείωση της μνήμης HBM στο επερχόμενο Rubin Ultra GPU, πέφτωντας από το 1TB στα 192GB-256GB.
- Οι καθυστερήσεις στην παραγωγή HBM4E από προμηθευτές όπως η SK Hynix και η Samsung αναγκάζουν την εταιρεία σε ανασχεδιασμό για να μην χαθούν τα χρονοδιαγράμματα.
- Η εξέλιξη αυτή αποκαλύπτει τις τεράστιες πιέσεις στην εφοδιαστική αλυσίδα και προμηνύει διατήρηση των τιμών σε υψηλά επίπεδα.
Η καθοδική κίνηση της μνήμης
Όταν ο Jensen Huang ανέβηκε στη σκηνή για να παρουσιάσει την αρχιτεκτονική Rubin Ultra, οι υποσχέσεις για 1TB HBM4E μνήμης μοιάζονταν με διαστημική τεχνολογία που θα άλλαζε τα δεδομένα στο generative AI. Όπως επισημαίνει σχετικό ρεπορτάζ του Yahoo Finance, η πραγματικότητα των γραμμών παραγωγής έρχεται τώρα να προσγειώσει τα μεγαλεπήβολα σχέδια της εταιρείας στην ωμή πραγματικότητα. Οι δοκιμές που τρέχουν τελευταία δείχνουν δείγματα Rubin Ultra με χωρητικότητες που περιορίζονται στα 192GB ή 256GB, αριθμοί χαοτικά μακριά από το terabyte που ακούστηκε στα συνέδρια.
Δεν μιλάμε απλώς για έναν μικρό περιορισμό, αλλά για αλλαγή πλεύσης που περιλαμβάνει και τη χρήση παλαιότερων προδιαγραφών HBM4 αντί για το υποσχόμενο HBM4E σε ορισμένα SKU. Η μείωση των stacks μνήμης σημαίνει ότι το hardware που θα φτάσει στα data centers θα έχει εντελώς διαφορετικό memory bandwidth profile. Αν στήνεις υποδομές δικτύου και servers υψηλών επιδόσεων, αυτά ταψ νούμερα αλλάζουν εντελώς τα μεγέθη των μοντέλων που θα μπορείς να σηκώσεις τοπικά.
Ο στενός λαιμός και οι τιμές
Το πρόβλημα δεν εντοπίζεται στα σχέδια της ίδιας της NVIDIA, αλλά στους προμηθευτές πυριτίου και μνήμης που δεν μπορούν να ακολουθήσουν τον καλπάζοντα ρυθμό της αγοράς. Η αδυναμία μαζικής παραγωγής HBM4E σε αποδεκτές αποδόσεις (yields) δημιουργεί έναν τεράστιο «λαιμό μπουκαλιού» που επηρεάζει ολόκληρη την αλυσίδα, συμπεριλαμβανομένων των μονάδων SOCAMM στο Vera Rubin Superchip. Όταν ο μεγαλύτερος αγοραστής τεχνολογίας στον κόσμο αναγκάζεται να κάνειπίσω στις προδιαγραφές του για να σώσει τα χρονοδιαγράμματα παράδοσης, καταλαβαίνεις ότι η κρίση υλικών παραμένει βαθιά.
Αυτή η κατάσταση δίνει τεράστια διαπραγματευτική ισχύ στους λίγους κατασκευαστές που ελέγχουν την αγορά HBM. Οι τιμές όχι μόνο δεν πρόκειται να πέσουν, αλλά διατηρούνται σε δυσθεώρητα ύψη, μετακινώντας το κόστος απευθείας στους πελάτες που επενδύουν σε AI clusters. Στο TechNoid παρακολουθούμε στενά την αγορά και βλέπουμε παρόμοιες πιέσεις και σε άλλους τομείς, όπως στα σύγχρονα δίκτυα και τις υποδομές cloud που διψούν για αδιάκοπη ροή δεδομένων.
Τι σημαίνει αυτό για την αγορά
Η μείωση της μνήμης σε ναυαρχίδες GPUs επηρεάζει άμεσα το training τεράστιων γλωσσικών μοντέλων (LLMs) και την ταχύτητα απόκρισης σεναρίων real-time inference. Λιγότερη HBM σημαίνει πιο συχνό swapping δεδομένων από το αργότερο σύστημα κεντρικής μνήμης, κάτι που προσθέτει bottlenecks εκεί ακριβώς που δεν τα θέλεις. Οι εταιρείες που περίμεναν το Rubin Ultra ως το απόλυτο εργαλείο μονοπωλιακής ισχύος ίσως χρειαστεί να ξαναδούν τα αρχιτεκτονικά τους πλάνα.
Αντίστοιχες δυσκολίες αντιμετωπίζουν άλλωστε και άλλοι πάροχοι ψηφιακών υπηρεσιών, κάνοντας ακόμα πιο κρίσιμη την έξυπνη διαχείριση bandwidth και την αξιοποίηση εναλλακτικών λύσεων δικτύωσης. Η εξάρτηση από μεμονωμένους κολοσσούς υλικού αποδεικνύεται ξανά το μεγαλύτερο ρίσκο της σύγχρονης ψηφιακής οικονομίας.
Η άποψή μας στο TechNoid
Στο TechNoid θεωρούμε ότι η επικοινωνιακή στρατηγική της NVIDIA αρχίζει να συγκρούεται με τη φυσική του πυριτίου. Το μάρκετινγκ με τα εντυπωσιακά νούμερα στη σκηνή δουλεύει άψογα για τις μετοχές, αλλά η πραγματικότητα της εφοδιαστικής αλυσίδας τιμωρεί όσους τάζουν terabytes που δεν μπορούν να παραχθούν μαζικά. Αν η NVIDIA κυκλοφορήσει τελικά Rubin Ultra με 192GB αντί για 1TB, θα πρόκειται για μια τεράστια υποχώρηση που όμως είναι μονόδρομος για να μην μείνουν τα data centers άδεια. Στη θέση των αγοραστών, θα κρατούσαμε μικρό καλάθι και θα επενδύαμε στην optimizations του λογισμικού παρά στημονόδρομη αναμονή του «σωτήρα» hardware.
| Χαρακτηριστικό | Αρχική Υπόσχεση Huang | Νέα Σενάρια Δοκιμών |
|---|---|---|
| Χωρητικότητα HBM | 1 TB | 192GB – 256GB |
| Τεχνολογία Μνήμης | HBM4E | HBM4 / HBM4E |
| Stacks Μνήμης | 16 stacks | Μειωμένος αριθμός |
| Status Παραγωγής | Σε χρονοδιάγραμμα | Πίεση λόγω ελλείψεων |
Συχνές Ερωτήσεις για τη μείωση μνήμης στο NVIDIA Rubin Ultra
Γιατί η NVIDIA σκέφτεται να μειώσει τη μνήμη HBM στο Rubin Ultra;
Οι προμηθευτές μνήμης αδυνατούν να παράξουν επαρκείς ποσότητες HBM4E σύμφωνα με το αρχικό χρονοδιάγραμμα, αναγκάζοντας την NVIDIA σε ανασχεδιασμό για να αποφευχθούν οι καθυστερήσεις.
Πόση μνήμη θα έχει τελικά το Rubin Ultra σύμφωνα με τις δοκιμές;
Τα νέα δείγματα που δοκιμάζονται διαθέτουν χωρητικότητες από 192GB έως 256GB, πολύ χαμηλότερα από το 1TB που είχε αρχικά ανακοινωθεί.
Θα χρησιμοποιηθεί τελικά τεχνολογία HBM4 αντί για HBM4E;
Ναι, ορισμένες από τις εναλλακτικές διαμορφώσεις που δοκιμάζονται επιστρέφουν στην τεχνολογία HBM4 και χρησιμοποιούν λιγότερα memory stacks.
Πώς επηρεάζει αυτή η αλλαγή την αγορά των AI chips;
Δείχνει ότι η κρίση στην αλυσίδα παραγωγής μνήμης παραμένει ισχυρή, δίνοντας αυξημένη διαπραγματευτική δύναμη σε κατασκευαστές όπως η SK Hynix και η Samsung.
Ποιος είναι ο αντίκτυπος στα data centers;
Η λιγότερη HBM μνήμη επηρεάζει την ταχύτητα εκπαίδευσης και εκτέλεσης μεγάλων γλωσσικών μοντέλων, απαιτώντας πιο αποδοτική διαχείριση των πόρων.
Επηρεάζονται και άλλα προϊόντα της NVIDIA από την ίδια κρίση;
Ναι, αντίστοιχες μειώσεις χωρητικότητας παρατηρούνται σε μονάδες SOCAMM του Vera Rubin Superchip και σε RDIMM modules.
Πότε αναμένεται η επίσημη κυκλοφορία του Rubin Ultra;
Παρά τις αλλαγές στις προδιαγραφές μνήμης, ο στόχος της NVIDIA είναι να κρατήσει την παραγωγή εντός του προγραμματισμένου χρονοδιαγράμματος.
