Linux Kernel: Επιτέλους έρχεται τεχνολογία που τα Windows έχουν εδώ και χρόνια

Το Linux ετοιμάζεται να κλείσει ένα σημαντικό κενό απόδοσης σε σχέση με άλλα desktop λειτουργικά. Μια νέα σειρά patches για τον kernel εισάγει το «Cache-Aware Scheduling», μια προσέγγιση scheduling που αξιοποιεί τη γνώση της τοπολογίας της τελευταίου επιπέδου cache (LLC, συνήθως L3) ώστε να μειώνει τις άσκοπες μετακινήσεις δεδομένων και να βελτιώνει τη locality. Σε ορισμένα σενάρια, οι αναφερόμενες βελτιώσεις φτάνουν μέχρι και 44% (ως μείωση χρόνου εκτέλεσης).

Τι είναι το Cache-Aware Scheduling και γιατί έχει σημασία

Το Cache-Aware Scheduling είναι μια τεχνική που επιτρέπει στο λειτουργικό να λαμβάνει υπόψη τη διάταξη της cache του επεξεργαστή και να κατανέμει εργασίες με τρόπο που αυξάνει τα cache hits και μειώνει τα cache misses. Στα Windows, ο scheduler εδώ και χρόνια αξιοποιεί πληροφορίες τοπολογίας (π.χ. NUMA, ομάδες πυρήνων, hints από firmware και drivers) για να βελτιώνει την τοποθέτηση εργασιών. Η νέα προσέγγιση στο Linux στοχεύει να δώσει αντίστοιχο πλεονέκτημα ειδικά σε συστήματα με πολλαπλά LLC domains.

Χαρακτηριστικό παράδειγμα “topology-aware” συμπεριφοράς στον χώρο των Windows είναι οι υβριδικές αρχιτεκτονικές και οι νεότερες πλατφόρμες, όπου το λειτουργικό, σε συνεργασία με μηχανισμούς του κατασκευαστή (π.χ. drivers), μπορεί να προτιμά συγκεκριμένους πυρήνες ή CCDs για συγκεκριμένα workloads. Σε επεξεργαστές AMD Ryzen X3D, για παράδειγμα, το ζητούμενο είναι να ευνοούνται τα workloads που ωφελούνται από μεγαλύτερη L3 (3D V-Cache) εκεί που υπάρχει το πλεονέκτημα.

Το πρόβλημα που έπρεπε να λυθεί στο Linux

Στα σύγχρονα συστήματα με πολλούς πυρήνες, κάθε ομάδα πυρήνων μοιράζεται συνήθως μια κοινή cache τελευταίου επιπέδου (Last Level Cache, LLC), κατά κανόνα την L3. Όταν threads της ίδιας εφαρμογής, που μοιράζονται δεδομένα, εκτελούνται σε διαφορετικά LLC domains, εμφανίζεται το φαινόμενο του «cache bouncing». Τα δεδομένα μετακινούνται συχνά μεταξύ διαφορετικών caches, αυξάνοντας καθυστερήσεις και σπαταλώντας bandwidth και κύκλους CPU.

Σε πλατφόρμες με πολλαπλά LLC domains (π.χ. multi-socket servers, chiplet αρχιτεκτονικές, ή επεξεργαστές με σαφή διαχωρισμό L3 ανά cluster), η «σωστή» τοποθέτηση εργασιών μπορεί να κάνει αισθητή διαφορά. Το Linux, σε ορισμένες περιπτώσεις, έχανε απόδοση επειδή ο scheduler δεν είχε έναν τόσο στοχευμένο μηχανισμό ομαδοποίησης tasks με βάση το κοινό working set.

Η λύση που προτείνεται για το Linux

Η νέα υλοποίηση βασίζεται σε πρόταση του Peter Zijlstra και αναπτύσσεται από τους Tim Chen και Chen Yu (Intel). Εισάγει έναν μηχανισμό που στοχεύει να κρατά threads που μοιράζονται δεδομένα στο ίδιο LLC domain, ώστε να μεγιστοποιούνται τα cache hits και να ελαχιστοποιούνται τα cache misses και το bouncing.

Στην πράξη, ο μηχανισμός:

• Αναγνωρίζει ποια threads ανήκουν στην ίδια διεργασία και είναι πιθανό να μοιράζονται δεδομένα.
• Προσπαθεί να τα τοποθετήσει στο ίδιο LLC domain, όταν αυτό είναι εφικτό και ωφέλιμο.
• Παρακολουθεί χρήση μνήμης και αριθμό ενεργών threads, ώστε να αποφεύγεται η υπερφόρτωση ενός cache domain.
• Εστιάζει κυρίως στην L3 (LLC). Η επέκταση της λογικής «πέρα από την LLC», προς τη DRAM ή καθαρά NUMA πολιτικές, δεν εμφανίζεται να δίνει αντίστοιχα οφέλη με τον ίδιο τρόπο σε αυτή τη φάση.

Ρυθμίσεις για προχωρημένους

Η λειτουργία εκθέτει παραμέτρους στο /sys/kernel/debug/sched/ (debugfs, άρα κυρίως για δοκιμές και tuning). Ενδεικτικά:

llc_aggr_tolerance: Η πιο κρίσιμη ρύθμιση, καθορίζει πόσο επιθετικά θα γίνεται η «συγκέντρωση» εργασιών. Με τιμή 0 η λειτουργία απενεργοποιείται. Με τιμή 100, η συγκέντρωση γίνεται πολύ πιο επιθετικά, ακόμη και όταν το αποτύπωμα μνήμης ή ο αριθμός threads είναι μεγάλος.

llc_overload_pct και llc_imb_pct: Όρια προστασίας ώστε να αποφεύγεται η υπερφόρτωση ενός LLC domain και να διατηρείται ισορροπία φορτίου.

llc_epoch_period: Καθορίζει τη συχνότητα παρακολούθησης/επανεκτίμησης (αναφέρεται προεπιλογή 10 ms).

Εντυπωσιακά αποτελέσματα στις μετρήσεις

Οι μετρήσεις που συνοδεύουν τη σειρά patches δείχνουν ότι η προσθήκη cache-aware λογικής μπορεί να φέρει ουσιαστικά οφέλη, ειδικά σε συστήματα με σαφώς διαχωρισμένα LLC domains και σε workloads με κοινό working set.

Intel Sapphire Rapids (2 sockets, 30 cores ανά socket):

• Σε hackbench (threads-pipe), αναφέρονται βελτιώσεις που σε επιλεγμένες διαμορφώσεις φτάνουν περίπου 30% ή και υψηλότερα σε 1-group σενάρια.
• Σε schbench, σε αρκετές διαμορφώσεις εμφανίζεται αισθητή βελτίωση σε wakeup latency (π.χ. τάξης ~30% και άνω σε συγκεκριμένα thread counts), αν και δεν είναι όλα τα metrics μονοσήμαντα θετικά σε κάθε περίπτωση.

AMD EPYC Genoa:

• Σε ChaCha20-xiangshan, με πιο επιθετικές ρυθμίσεις, αναφέρεται μείωση χρόνου εκτέλεσης έως περίπου 44%. Συγκεκριμένα, ο χρόνος εμφανίζεται να πέφτει από 50.868 ms σε 28.349 ms (δηλαδή περίπου από 50,9 δευτερόλεπτα σε 28,3 δευτερόλεπτα).

AMD EPYC Milan:

• Σε ορισμένα σενάρια δεν παρατηρούνται σημαντικές διαφορές με τις προεπιλεγμένες ρυθμίσεις, κάτι που υποδεικνύει ότι η αρχιτεκτονική και το workload καθορίζουν το πόσο έντονο θα είναι το όφελος.

Τεχνικές λεπτομέρειες

Το patch set περιγράφεται ως σειρά 19 patches και, μεταξύ άλλων, εισάγει χαρτογράφηση LLC index ανά CPU, ανάθεση «preferred LLC ID» σε επίπεδο διεργασίας, παρακολούθηση LLC-preferred tasks ανά runqueue, μετρητές για τα tasks που «προτιμούν» κάθε LLC σε ένα sched group, καθώς και έναν νέο τύπο migration, το migrate_llc_task, για cache-aware balancing.

Προοπτικές

Αυτή εμφανίζεται ως πέμπτη εκδοχή των patches, μετά από προηγούμενους RFC κύκλους. Οι συντάκτες αναφέρουν ότι έχουν ενσωματώσει σχόλια, έχουν διορθώσει bugs, και έχουν βελτιώσει τον κώδικα. Παρ’ όλα αυτά, η ενσωμάτωση στο mainline εξαρτάται από τη διαδικασία review και τις αποφάσεις των maintainers.

Μελλοντικές βελτιώσεις που έχουν αναφερθεί ως πιθανή κατεύθυνση περιλαμβάνουν πιο λεπτομερή έλεγχο ανά διεργασία (π.χ. μέσω prctl), ώστε διαφορετικά workloads να μπορούν να επιλέγουν διαφορετικό βαθμό “ομαδοποίησης”.

Συμπέρασμα

Το Cache-Aware Scheduling είναι μια σημαντική εξέλιξη για το Linux scheduling σε συστήματα με πολλαπλά LLC domains. Παρότι η γενική ιδέα της topology-aware τοποθέτησης εργασιών δεν είναι καινούργια στον χώρο των λειτουργικών, η συγκεκριμένη υλοποίηση στο Linux στοχεύει να μειώσει με πρακτικό τρόπο το cache bouncing και να βελτιώσει την απόδοση σε workloads που είναι ευαίσθητα στη locality.

Το πώς θα μεταφραστούν τα κέρδη σε «πραγματικά» workloads, και το πόσο συνεπές θα είναι το όφελος ανά αρχιτεκτονική, θα φανεί καθώς θα αυξάνονται οι δοκιμές και, εφόσον προχωρήσει, καθώς θα ωριμάζει η υλοποίηση. Προς το παρόν, πάντως, τα διαθέσιμα στοιχεία δείχνουν ότι πρόκειται για προσθήκη με ουσιαστικό τεχνικό ενδιαφέρον.

Πηγές

• Phoronix: Updated Intel Patches For Cache Aware Scheduling Net A 44% Win For AMD EPYC
• LWN.net: Cache aware scheduling (τεχνική ανάλυση και αποσπάσματα αποτελεσμάτων)
• Phoronix: Cache Aware Scheduling v2 (LKML review κύκλος)
• Phoronix: Intel's Cache Aware Scheduling Presentation At LPC 2025
• YouTube: Cache Aware Scheduling (παρουσίαση LPC)