Η ΕΕ βάζει στο στόχαστρο το «εθιστικό design» του TikTok, προκαταρκτικά ευρήματα DSA για infinite scroll, autoplay και ειδοποιήσεις

Η Ευρωπαϊκή Επιτροπή έκανε το πιο «καθαρό» βήμα μέχρι σήμερα απέναντι στον εθιστικό σχεδιασμό των social media, με προκαταρκτικά ευρήματα ότι το TikTok παραβιάζει τον Digital Services Act (DSA) επειδή δεν αξιολόγησε και δεν μετρίασε επαρκώς τους κινδύνους που δημιουργούν συγκεκριμένες επιλογές UX. Η Επιτροπή «δένει» άμεσα UI patterns όπως το infinite scrolling, το autoplay, οι ειδοποιήσεις και οι αλγόριθμοι προτάσεων με την έννοια του συστημικού κινδύνου, ειδικά για παιδιά και ευάλωτους χρήστες.

Η Επιτροπή υποστηρίζει ότι το TikTok δεν έκανε, ή δεν τεκμηρίωσε επαρκώς, μια ουσιαστική αξιολόγηση κινδύνων για το πώς ο σχεδιασμός του προϊόντος ενθαρρύνει την εμμονική χρήση. Στα στοιχεία που αναφέρει ως «εθιστικά χαρακτηριστικά» περιλαμβάνονται το ατελείωτο feed (infinite scroll), το autoplay, οι push notifications και το highly personalised recommender system (η μηχανή προτάσεων που «σπρώχνει» περιεχόμενο με βάση λεπτομερή προφίλ συμπεριφοράς).

Το βασικό σημείο είναι ότι, κατά την Επιτροπή, το TikTok δεν έδειξε πως τα έχει «δέσει» με επαρκείς δικλείδες ασφαλείας και με ουσιαστικά μέτρα μετριασμού, ειδικά για ανηλίκους. Η Κομισιόν αναφέρεται επίσης σε ενδείξεις εμμονικής χρήσης, όπως η έντονη νυχτερινή χρήση και η συχνότητα επαναλαμβανόμενου ανοίγματος της εφαρμογής.

Σε αυτό το στάδιο, η Επιτροπή δεν εκδίδει τελική εντολή αλλαγών, όμως περιγράφει καθαρά την κατεύθυνση που θεωρεί αναγκαία για ουσιαστικό μετριασμό του κινδύνου. Με βάση τη δημόσια περιγραφή της υπόθεσης, το «πακέτο» αλλαγών που συζητείται από αναλυτές και ρεπορτάζ κινείται γύρω από «σπασίματα» στη ροή του feed, δηλαδή φυσικά σημεία διακοπής αντί για ατελείωτο infinite scroll και αποτελεσματικότερα screen time breaks, ειδικά τη νύχτα, με περισσότερη «τριβή», ώστε να μην παρακάμπτονται με ένα tap. Επίσης συζητούνται και αλλαγές στον τρόπο που η μηχανή προτάσεων ανταμείβει την παρατεταμένη χρήση και την «εμμονή», ειδικά για ανηλίκους καθώς επίσης και περιορισμό των push notifications που λειτουργούν ως «γάντζος» επιστροφής.

Στην ουσία, το μήνυμα είναι ότι τα «εργαλεία ευεξίας» δεν αρκούν αν είναι εύκολα στην παράκαμψη. Η Επιτροπή δείχνει να θέλει design-level αλλαγές, όχι μόνο επιλογές σε ένα μενού.

Το TikTok απορρίπτει τις κατηγορίες και δηλώνει ότι η αποτύπωση της Επιτροπής είναι αβάσιμη, τονίζοντας ότι διαθέτει εργαλεία διαχείρισης χρόνου οθόνης και γονικού ελέγχου. Η διαφορά που υπάρχει μεταξύ της πλατφόρμας και της Ευρωπαϊκής Επιτροπής είναι στο κριτήριο που φαίνεται να χρησιμοποιεί η ΕΕ: δεν κρίνει απλώς αν «υπάρχουν εργαλεία», αλλά αν λειτουργούν ως πραγματικό "φρένο" στον εθισμό, όταν ο ίδιος ο βασικός σχεδιασμός του προϊόντος έχει ως σκοπό να μεγιστοποιεί τον χρόνο παραμονής.

Το TikTok δεν είναι η μόνη πλατφόρμα υπό πίεση. Η Επιτροπή έχει ανοίξει ήδη από τον Μάιο του 2024 επίσημες διαδικασίες κατά της Meta για Facebook και Instagram, με επίκεντρο την προστασία ανηλίκων και κινδύνους που σχετίζονται με αλγοριθμικά συστήματα και σχεδιαστικές επιλογές. Αν η υπόθεση TikTok καταλήξει σε τελική απόφαση που επιβεβαιώνει τη γραμμή των προκαταρκτικών ευρημάτων, είναι πιθανό να λειτουργήσει ως «πρότυπο» αξιολόγησης για αντίστοιχα μοτίβα σχεδιασμού σε άλλες πλατφόρμες, όπου infinite feeds, autoplay και push loops είναι κομμάτι του ίδιου playbook.

Ο Digital Services Act εφαρμόζεται πλήρως από 17 Φεβρουαρίου 2024 και απαιτεί από πλατφόρμες, ειδικά από τις Very Large Online Platforms (VLOPs), να αξιολογούν και να μετριάζουν συστημικούς κινδύνους που αφορούν παράνομο περιεχόμενο, θεμελιώδη δικαιώματα, δημόσια ασφάλεια, δημοκρατικές διαδικασίες και, κρίσιμα, αρνητικές επιπτώσεις στην υγεία και ευημερία, ιδιαίτερα των ανηλίκων.

Το ενδιαφέρον στην υπόθεση TikTok είναι ότι η Επιτροπή περιγράφει πιο «χειρουργικά» πώς μεταφράζεται ο κίνδυνος σε design patterns. Η Henna Virkkunen (Executive Vice-President για Tech Sovereignty, Security and Democracy) έχει δηλώσει ότι ο εθισμός στα social media μπορεί να έχει επιζήμιες επιπτώσεις στο αναπτυσσόμενο μυαλό παιδιών και εφήβων, θέση που εντάσσει το θέμα στη λογική «platform responsibility» που θέλει να επιβάλει ο DSA.

Η διαδικασία έχει πολλά στάδια. Αρχικά, το TikTok έχει δικαίωμα πρόσβασης στο υλικό της έρευνας και γραπτής απάντησης. Αν η Επιτροπή καταλήξει σε τελική απόφαση μη συμμόρφωσης, μπορεί να επιβάλει πρόστιμα έως 6% του παγκόσμιου ετήσιου κύκλου εργασιών και να απαιτήσει διορθωτικά μέτρα εντός προθεσμιών. Στην πράξη, τέτοιες υποθέσεις σπάνια κλείνουν γρήγορα, ειδικά όταν το ζητούμενο είναι αλλαγές στον «βασικό σχεδιασμό» και όχι μια απλή συμμόρφωση εγγράφων.

Αν η ΕΕ περάσει από τα προκαταρκτικά ευρήματα σε τελική απόφαση που υποχρεώνει αλλαγές σε infinite scroll, autoplay και recommender loops, το αποτέλεσμα μπορεί να ξεπεράσει την ευρωπαϊκή αγορά. Η λογική του «Brussels Effect» είναι ότι οι εταιρείες συχνά υιοθετούν ενιαία προϊόντα και πολιτικές παγκοσμίως, αντί να διατηρούν διαφορετικές εκδοχές ανά περιοχή. Από την άλλη, δεν είναι δεδομένο ότι αυτό θα συμβεί με τον DSA, γιατί αγγίζει τον ίδιο τον τρόπο που οι πλατφόρμες μεγιστοποιούν engagement και διαφημιστικό inventory, δηλαδή τον πυρήνα του επιχειρηματικού τους μοντέλου.

Σίγουρο είναι ότι η υπόθεση ανεβάζει το θερμόμετρο και εκτός Ευρώπης, καθώς το θέμα της «εθιστικότητας by design» συζητείται ήδη σε πολλαπλές δικαιοδοσίες, με διαφορετικές προσεγγίσεις και περιορισμούς για ανηλίκους. Η ΕΕ δείχνει ότι θέλει να μεταφέρει τη συζήτηση από την ηθική κριτική σε επιβάλλιμες υποχρεώσεις προϊόντος, με νομική βάση.

• The EU moves to kill infinite scrolling (POLITICO Europe)
• Commission preliminarily finds TikTok's addictive design in breach of the Digital Services Act (European Commission, Press Corner)
• Commission preliminarily finds TikTok's addictive design in breach of the Digital Services Act (European Commission, Digital Strategy)
• TikTok's 'addictive' design breaches EU law, Commission says (Euronews)
• TikTok's infinite scroll is too addictive, say EU regulators (The Verge)
• Digital Services Act, Commission opens formal proceedings against Meta (European Commission, Press Corner)
• EDRi welcomes EU preliminary findings on TikTok’s addictive platform design (EDRi)