WhatsApp Scam Alert: Η AI ελέγχει μόνο μηνύματα από αγνώστους, όχι από τις επαφές σας

Η Meta δημοσίευσε στις 12 Αυγούστου μια τεχνική περιγραφή του Scam Alert, μιας νέας λειτουργίας για το WhatsApp που στοχεύει να προειδοποιεί τους χρήστες πριν πέσουν θύματα απάτης μέσω μηνυμάτων. Η επεξεργασία γίνεται εξ ολοκλήρου στο τηλέφωνο του χρήστη: μόλις ενεργοποιηθεί, η εφαρμογή κατεβάζει ένα μικρό μοντέλο τεχνητής νοημοσύνης που αναλύει τα εισερχόμενα μηνύματα και τα συγκρίνει με μοτίβα από καταγεγραμμένες απάτες, δηλαδή αλυσίδες συνομιλιών και χαρακτηριστική διατύπωση γνωστών περιπτώσεων. Κανένα περιεχόμενο μηνύματος δεν φεύγει από τη συσκευή για αυτόν τον σκοπό, με αποτέλεσμα η κρυπτογράφηση από άκρο σε άκρο (end-to-end encryption), όπου μόνο ο αποστολέας και ο παραλήπτης βλέπουν το καθαρό κείμενο, να παραμένει άθικτη.

Μόνο ο παραλήπτης βλέπει την προειδοποίηση

Όταν το μοντέλο εντοπίσει πιθανή απόπειρα απάτης, εμφανίζεται μια ειδοποίηση απευθείας μέσα στη συνομιλία, ορατή μόνο στον παραλήπτη. Ο αποστολέας δεν λαμβάνει καμία ενημέρωση. Από εκεί, ο χρήστης μπορεί να αποκλείσει τον αποστολέα, να τον αναφέρει ή απλώς να συνεχίσει τη συνομιλία. Σύμφωνα με τη Meta, δεν στέλνεται τίποτα αυτόματα προς την εταιρεία· αυτό συμβαίνει μόνο εάν ο χρήστης πατήσει ενεργά «Αναφορά».

Ελέγχονται μόνο μηνύματα από μη αποθηκευμένους αποστολείς

Εδώ εντοπίζεται ο βασικός περιορισμός, όπως αναφέρει η ίδια η Meta στην περιγραφή της. Το μοντέλο ταξινομεί αποκλειστικά μηνύματα από αποστολείς που δεν είναι αποθηκευμένοι στις επαφές του χρήστη. Μηνύματα από πρόσωπα που βρίσκονται ήδη στο βιβλίο επαφών δεν ελέγχονται καθόλου. Αυτό σημαίνει ότι ακριβώς η κατηγορία απάτης που λειτουργεί καλύτερα μένει εκτός κάλυψης: αν ο λογαριασμός WhatsApp ενός φίλου ή συγγενή έχει παραβιαστεί, το μήνυμα απάτης προέρχεται από έναν πραγματικό, οικείο λογαριασμό, και το Scam Alert παραμένει σιωπηλό. Σύμφωνα με τη BetaNews, το μοντέλο εκπαιδεύτηκε να αναγνωρίζει, μεταξύ άλλων, ενδείξεις επείγοντος χαρακτήρα, αιτήματα οικονομικών στοιχείων και τεχνικές τύπου «pig butchering» (μακροχρόνιες απάτες επενδύσεων όπου το θύμα καλλιεργείται σταδιακά επί εβδομάδες πριν την τελική οικονομική εξαπάτηση). Ούτε η κλωνοποιημένη φωνή σε τηλεφωνική κλήση καλύπτεται, καθώς δεν περνάει καθόλου μέσα από το WhatsApp.

Μια επιλογή «εμπιστοσύνης» που μένει μόνιμη

Αν ο χρήστης θεωρήσει μια προειδοποίηση εσφαλμένη, μπορεί να σημειώσει τη συνομιλία ως αξιόπιστη. Η προειδοποίηση τότε εξαφανίζεται μόνιμα για τον συγκεκριμένο αποστολέα. Η ευκολία αυτή είναι ταυτόχρονα και το αδύναμο σημείο: πρόκειται ακριβώς για το είδος απόφασης που παίρνει κανείς υπό πίεση, αφού ένας έμπειρος απατεώνας έχει ήδη οικοδομήσει τη συνομιλία. Όποιος επιλέξει αυτή τη σήμανση μπορεί προαιρετικά να υποβάλει και τα τελευταία πέντε μηνύματα που έλαβε προς τη WhatsApp.

Επαληθευσιμότητα ως σχεδιαστική αρχή

Στο θέμα της διαφάνειας, η Meta προχωράει πέρα από τα συνηθισμένα. Κάθε έκδοση του μοντέλου καταγράφεται σε δημόσιο μητρώο μαζί με το checksum της πριν αναρτηθεί, με την υπογραφή να προέρχεται από την Cloudflare· η ίδια η Meta δεν κατέχει το κλειδί που απαιτείται για αυτή τη διαδικασία. Τα βάρη του μοντέλου δημοσιεύονται ώστε ερευνητές να μπορούν να επαληθεύσουν ότι πράγματι εντοπίζει μόνο απάτες. Ο χρήστης μπορεί να βρει σχετικό αρχείο καταγραφής στη διαδρομή «Λογαριασμός» > «Αίτημα πληροφοριών» > «Δραστηριότητα Scam Alert», όπου φαίνεται ποια μηνύματα ελέγχθηκαν και ποια έκδοση του μοντέλου έτρεχε τη στιγμή εκείνη. Στατιστικά στοιχεία για το πόσο συχνά εκδόθηκαν προειδοποιήσεις και πώς αντέδρασαν οι χρήστες επεξεργάζονται σε απομονωμένα υπολογιστικά περιβάλλοντα· πριν φτάσουν στη Meta, τα δεδομένα συγκεντρώνονται και αποκρύπτονται ώστε να μην είναι δυνατή η εξαγωγή συμπερασμάτων για μεμονωμένους χρήστες.

Δεν είναι ακόμη διαθέσιμο

Το Scam Alert τρέχει προς το παρόν ως τμήμα περιορισμένου beta, παράλληλα με το πρόγραμμα bug bounty (πρόγραμμα ανταμοιβής για ερευνητές που εντοπίζουν ευπάθειες) της Meta. Η εταιρεία δεν έχει ανακοινώσει ημερομηνία για την πλήρη κυκλοφορία ούτε τις χώρες όπου θα είναι διαθέσιμο. Μέχρι τότε ισχύει ο παλιός κανόνας: αν λάβετε αίτημα για χρήματα ή ειδοποίηση για δήθεν νέο αριθμό τηλεφώνου, επικοινωνήστε με το πρόσωπο μέσω δεύτερου καναλιού, κατά προτίμηση καλώντας τον παλιό αριθμό. Η λειτουργία δείχνει προς ποια κατεύθυνση κινούνται οι μεγάλες πλατφόρμες μηνυμάτων στο θέμα της τοπικής επεξεργασίας δεδομένων με τεχνητή νοημοσύνη, χωρίς όμως να καλύπτει το πιο επικίνδυνο σενάριο, αυτό της παραβίασης λογαριασμού γνωστής επαφής.

Πηγές

• WhatsApp Scam Alert: The AI only checks strangers, not your contacts
• How We’re Building Scam Alert on WhatsApp With End-to-End Encryption and Verifiability Guarantees - Engineering at Meta
• WhatsApp Scam Alert flags scams without breaking encryption