Ένα νέο φωνητικό εργαλείο τεχνητής νοημοσύνης χρησιμοποιείται ήδη για την παραποίηση κλιπ ήχου διασημοτήτων

Πριν από λίγες ημέρες, η startup τεχνητής νοημοσύνης ομιλίας ElevenLabs κυκλοφόρησε μια έκδοση beta της πλατφόρμας της που δίνει στους χρήστες τη δύναμη να δημιουργούν εντελώς νέες συνθετικές φωνές για ήχο μετατροπής κειμένου σε ομιλία ή να κλωνοποιούν τη φωνή κάποιου. Λοιπόν, χρειάστηκαν μόνο λίγες μέρες για το Διαδίκτυο να αρχίσει να χρησιμοποιεί το τελευταίο για βλαβερούς σκοπούς. Η εταιρεία αποκάλυψε στο Twitter ότι βλέπει έναν «αυξανόμενο αριθμό περιπτώσεων κακής χρήσης κλωνοποίησης φωνής» και ότι σκέφτεται έναν τρόπο να αντιμετωπίσει το πρόβλημα «εφαρμόζοντας πρόσθετες δικλείδες ασφαλείας».

Ενώ η ElevenLabs δεν διευκρίνισε τι σημαίνει "περιπτώσεις κακής χρήσης", το Motherboard βρήκε αναρτήσεις στο 4chan με κλιπ που εμφανίζουν φωνές που ακούγονται σαν διασημότητες να διαβάζουν ή να λένε κάτι αμφισβητήσιμο. Ένα κλιπ, για παράδειγμα, φέρεται να περιείχε μια φωνή που έμοιαζε με την Emma Watson να διαβάζει ένα μέρος του Mein Kampf. Οι χρήστες δημοσίευσαν επίσης φωνητικά κλιπ με ομοφοβικά, τρανσφοβικά, βίαια και ρατσιστικά συναισθήματα. Δεν είναι απολύτως σαφές εάν όλα τα κλιπ χρησιμοποιούσαν την τεχνολογία της ElevenLab, αλλά μια ανάρτηση με μια ευρεία συλλογή αρχείων φωνής στο 4chan περιλάμβανε έναν σύνδεσμο προς την πλατφόρμα της.

Ίσως αυτή η εμφάνιση «deepfake» ηχητικών κλιπ δεν πρέπει να αποτελεί έκπληξη, καθώς πριν από μερικά χρόνια είχαμε δει να συμβαίνει ένα παρόμοιο φαινόμενο. Η πρόοδος στην τεχνητή νοημοσύνη και τη μηχανική μάθηση οδήγησε σε αύξηση των deepfake βίντεο, ειδικά της deepfake πορνογραφίας, όπου το υπάρχον πορνογραφικό υλικό αλλοιώνεται για να χρησιμοποιηθούν τα πρόσωπα των διασημοτήτων. Και, ναι, οι άνθρωποι χρησιμοποίησαν το πρόσωπο της Emma Watson για μερικά από αυτά τα βίντεο.

Η ElevenLabs συγκεντρώνει τώρα σχόλια σχετικά με το πώς να αποτρέψει τους χρήστες από την κατάχρηση της τεχνολογίας της. Προς το παρόν, οι τρέχουσες ιδέες του περιλαμβάνουν την προσθήκη περισσότερων επιπέδων στην επαλήθευση του λογαριασμού του για να ενεργοποιηθεί η κλωνοποίηση φωνής, όπως η απαίτηση από τους χρήστες να εισάγουν στοιχεία πληρωμής ή ένα αναγνωριστικό. Επίσης, εξετάζει το ενδεχόμενο να ζητήσει από τους χρήστες να επαληθεύουν την ιδιοκτησία πνευματικών δικαιωμάτων της φωνής που θέλουν να κλωνοποιήσουν, όπως να τους ζητήσει να υποβάλουν ένα δείγμα με κείμενο που ζητείται. Τέλος, η εταιρεία σκέφτεται να εγκαταλείψει εντελώς το εργαλείο Voice Lab και να ζητάει από τους χρήστες να υποβάλλουν αιτήματα φωνητικής κλωνοποίησης που πρέπει να επαληθευθούν με μη αυτόματο τρόπο.