Το ROCm είναι πρώτη προτεραιότητα της AMD

"Αν σκεφτείτε το χαρτοφυλάκιο προϊόντων που διαθέτει η AMD, είναι αναμφισβήτητα το ευρύτερο στον κλάδο όσον αφορά τους υπολογιστές AI", δήλωσε ο Vamsi Boppana, ανώτερος αντιπρόεδρος της ομάδας AI της AMD, στην εναρκτήρια ομιλία του στην πρόσφατη Σύνοδο Κορυφής AI Hardware Summit. Το χαρτοφυλάκιο hardware της AMD περιλαμβάνει CPUs και GPUs κατηγορίας data-center, καταναλωτικές GPUs, FPGAs και το Ryzen 7040, μια client CPU με NPU που έχει σχεδιαστεί για PCs. Το λογισμικό είναι το κλειδί για την απελευθέρωση των επιδόσεων αυτών των διαφορετικών πλατφορμών υλικού. Πώς όμως η AMD ανταγωνίζεται τις ισχυρές προσφορές των ανταγωνιστών της GPU, δεδομένου του πιο διαφορετικού υλικού της;

Οι στοίβες λογισμικού της AMD για κάθε κατηγορία προϊόντων είναι ξεχωριστές: Το ROCm (συντομογραφία για την πλατφόρμα Radeon Open Compute) στοχεύει στις σειρές GPU Instinct για κέντρα δεδομένων (και, σύντομα, στις καταναλωτικές GPU Radeon), το Vitis AI στοχεύει στις FPGA της και το ZenDNN στοχεύει στις συσκευές-πελάτες της.

Πόσο προχωρά η AMD με την ενοποίηση αυτών των πακέτων;

"Έχουμε τεράστια πελατειακή έλξη που έρχεται, και αυτό υπαγορεύει αρκετά από τα βραχυπρόθεσμα σχέδιά μας", δήλωσε ο Boppana στους EE Times σε συνέντευξη μετά την ομιλία του εδώ. "Το αεροπλάνο πετάει αυτή τη στιγμή, οπότε δεν μπορούμε να αποσυναρμολογήσουμε τον κινητήρα. Ωστόσο, κάνουμε οπωσδήποτε πράγματα σε θεμελιώδες επίπεδο για να γίνει περισσότερη ενοποίηση των εφαρμογών".

Ο Boppana δήλωσε ότι υπάρχει κάποια κοινή υποδομή και εργαλεία που διέπουν και τις τρεις στοίβες, συμπεριλαμβανομένης μιας συνεχιζόμενης προσπάθειας για την κατασκευή ενός κοινού quantizer.

Η ενοποίηση των λογισμικών θα ήταν χρήσιμη για τα ετερογενή συστήματα, δήλωσε ο Boppana, ειδικά όταν απαιτείται διαμερισματοποίηση. Επί του παρόντος, η στοίβα Vitis χειρίζεται στόχους CPU συν xDNA, αλλά συμφωνεί ότι θα είναι απαραίτητη τόσο η αυτόματη όσο και η καθοδηγούμενη από τον χρήστη κατάτμηση.

"Σε αυτό το σενάριο, πρέπει να είμαστε σε θέση να πάρουμε μια δήλωση προβλήματος και να κόψουμε το γράφημα, έτσι ώστε και τα δύο μέρη του γραφήματος να εκτελούνται σε [διαφορετικά μέρη του υλικού] και πρέπει να συνεργάζονται μεταξύ τους", είπε.

'Το ROCm έχει εξελιχθεί'

Το ROCm είναι λιγότερο ώριμο από τις προσφορές λογισμικού GPU των ανταγωνιστών, με την ώριμη στοίβα CUDA της Nvidia να θεωρείται συχνά μεγάλο μέρος του ανταγωνιστικού πλεονεκτήματος του ηγέτη της αγοράς.

Η AMD έχει καταστήσει το ROCm τη νούμερο 1 προτεραιότητα σε επίπεδο εταιρείας τον τελευταίο χρόνο, δήλωσε ο Boppana, δημιουργώντας έναν νέο οργανισμό που συγκέντρωσε στοιχεία από όλες τις συνεισφορές λογισμικού της εταιρείας.

"Έχουμε πολύ μεγαλύτερους πόρους που εργάζονται πραγματικά στο λογισμικό και [η διευθύνουσα σύμβουλος της AMD Lisa Su] ήταν πολύ σαφής ότι θέλει να δει σημαντικές και συνεχείς επενδύσεις στην πλευρά του λογισμικού", δήλωσε ο Boppana. "Έχουμε συμφωνήσει να παρέχουμε ανθρώπους εσωτερικά, έχουμε αποκτήσει τη Mipsology και επιδιώκουμε να αυξήσουμε το ταλέντο τόσο οργανικά όσο και ανόργανα".

Η AMD δημιούργησε επίσης πρόσφατα μια εσωτερική ομάδα μοντέλων τεχνητής νοημοσύνης για να αυξήσει την εμπειρία της χρησιμοποιώντας τη δική της στοίβα λογισμικού. "Θέλουμε έναν πολύ στενότερο βρόχο ανατροφοδότησης", δήλωσε ο Boppana.

Χρήση του ανοιχτού κώδικα για την πρόκληση της Nvidia

Η AMD έχει αγκαλιάσει το Triton της OpenAI, μια γλώσσα προγραμματισμού και έναν μεταγλωττιστή ανοιχτού κώδικα για GPU που υπόσχεται να προσφέρει μια εναλλακτική λύση ανοιχτού κώδικα στο CUDA της Nvidia για προγραμματιστές που θέλουν να γράψουν κώδικα υψηλού επιπέδου που αποδίδει βέλτιστα στο υλικό.

"Υπάρχουν διαφορετικές προσωπικότητες που προγραμματίζουν [τις GPU μας]", δήλωσε. "[Το Triton] είναι ένα επίπεδο αφαίρεσης με το οποίο οι άνθρωποι αισθάνονται άνετα. Είναι παραγωγικό. Και φτάνει στο υλικό με έναν αρκετά αποτελεσματικό, πειστικό τρόπο. Αλλά για άλλους πελάτες, αυτό δεν έχει σημασία- δεν χρειάζεται να αναπτύξουν νέους πυρήνες. Γι' αυτούς, μπορούμε να στείλουμε βιβλιοθήκες. Έτσι, είναι απλώς θέμα του ποιος θέλει να μας χρησιμοποιήσει".

Σε αντίθεση με την προσέγγιση της Nvidia με το CUDA, η οποία είναι ως επί το πλείστον ιδιόκτητη, το μεγαλύτερο μέρος της στοίβας ROCm της AMD είναι ανοιχτού κώδικα.

"Συνεργαζόμαστε με τα [AI frameworks] και τους ανθρώπους που γράφουν τις βιβλιοθήκες και λέμε: 'Αν έχετε έναν πυρήνα που θέλετε να φτιάξετε, μπορείτε να πάρετε κάτι που υπάρχει από εμάς, αλλά αν διαπιστώσετε ότι υπάρχει η δυνατότητα να βελτιστοποιήσετε τον πηγαίο κώδικα, [μπορείτε]'", είπε. "Τότε έχουμε πολύ περισσότερους ανθρώπους που είναι πρόθυμοι και ικανοί να συνεισφέρουν. Έτσι, αυτό είναι πολύ σημαντικό και πολύ ισχυρό για εμάς: Πιστεύουμε ότι είναι η σωστή στρατηγική κατεύθυνση που πρέπει να ακολουθήσουμε".

Τα δείγματα MI300 βρίσκονται σήμερα στους πελάτες, δήλωσε ο Boppana, και τόσο οι πελάτες όσο και η AMD έχουν έτοιμα και λειτουργούν τα φορτία εκπαίδευσης AI, με τη διαθεσιμότητα να έρχεται στο τέλος του τρέχοντος έτους. Το ROCm θα είναι ζωτικής σημασίας για την επιτυχία τόσο του MI300 όσο και του MI300X.

"Όντας ειλικρινείς, έχουμε μερικά σημεία για να αναπτυχθούμε", δήλωσε. "Το να επιτρέπουμε στην κοινότητα να συνεισφέρει [στο ROCm] μαζί μας, μας βοηθά να γεφυρώσουμε το χάσμα γρηγορότερα".