Jump to content
  • astrolabos
    astrolabos

    Πόσο ασφαλής είναι η Τεχνητή Νοημοσύνη (AI) σήμερα; Και τι πρέπει να γνωρίζετε το 2026

    Τα chatbots τεχνητής νοημοσύνης, όπως το ChatGPT και το Gemini, έχουν γίνει σημαντικά πιο ασφαλή σε σύγκριση με τις αρχικές τους εκδόσεις. Ωστόσο, οι πραγματικοί κίνδυνοι μετατοπίζονται πλέον προς τους πράκτορες τεχνητής νοημοσύνης (AI agents), τα πρόσθετα (plugins) και τις λειτουργίες που μπορούν να ενεργούν εκ μέρους σας. Αυτός ο οδηγός εξηγεί πώς μπορείτε να διατηρείτε τον έλεγχο, υιοθετώντας απλές συνήθειες και χρησιμοποιώντας εργαλεία που συμβάλλουν στην ασφαλή χρήση της τεχνητής νοημοσύνης.

     

    Κύρια συμπεράσματα

    • Τα περισσότερα δημοφιλή chatbots τεχνητής νοημοσύνης, όπως το ChatGPT, το Claude, το Copilot και το Gemini, είναι ασφαλή για καθημερινή χρήση.
    • Ο μεγαλύτερος κίνδυνος έχει πλέον μετατοπιστεί στους πράκτορες τεχνητής νοημοσύνης και στις δεξιότητες (skills) ή τα πρόσθετά τους. Αυτά τα μικρά πρόσθετα επιτρέπουν στους πράκτορες να κατεβάζουν αρχεία, να εκτελούν κώδικα και, σε ορισμένες περιπτώσεις, να πραγματοποιούν δυνητικά κακόβουλες ενέργειες χωρίς την επίβλεψη ή τη συγκατάθεση του χρήστη.
    • Το Ερευνητικό Κέντρο της παγκόσμιας εταιρίας κυβερνοασφάλειας ESET ανέλυσε περίπου 800.000 δεξιότητες πρακτόρων τεχνητής νοημοσύνης μεταξύ Μαρτίου και Μαΐου 2026 και εντόπισε περισσότερες από 25.000 ύποπτες περιπτώσεις, στις οποίες μια μικρή αλλαγή θα μπορούσε να μετατρέψει έναν πράκτορα σε κακόβουλο.
    • Οι τρεις σημαντικότερες συνήθειες που προστατεύουν τους περισσότερους χρήστες είναι:
      1. ο έλεγχος της προέλευσης της εφαρμογής ή της δεξιότητας,
      2. ο περιορισμός των δικαιωμάτων πρόσβασης, και
      3. η χρήση λογισμικού ασφαλείας που παρακολουθεί τη δραστηριότητα της τεχνητής νοημοσύνης.

     

    Είναι πραγματικά ασφαλείς οι πράκτορες τεχνητής νοημοσύνης;

    Η σύντομη απάντηση:

    Σε αντίθεση με τα παραδοσιακά chatbots, οι πράκτορες τεχνητής νοημοσύνης δεν περιορίζονται απλώς στη δημιουργία ή τη σύνοψη περιεχομένου. Έχουν σχεδιαστεί να λειτουργούν αυτόνομα και να εκτελούν εργασίες για λογαριασμό του χρήστη.

    Όμως, ακόμη και αν ένας πράκτορας θεωρείται ασφαλής, ενδέχεται να κατεβάσει και να εκτελέσει κακόβουλα αρχεία, να εκτελέσει μη ασφαλή σενάρια ή να συνδεθεί με πηγές που ενδέχεται να είναι κακόβουλες. Όλα αυτά θα μπορούσαν να συμβούν στο παρασκήνιο, χωρίς να το γνωρίζετε ή να έχετε δώσει τη συγκατάθεσή σας.

     

    Τι κάνουν στην πραγματικότητα οι πράκτορες τεχνητής νοημοσύνης ενώ τους χρησιμοποιείτε

    Ας δούμε πώς αλλάζει το τοπίο της τεχνητής νοημοσύνης.

    Από τα chatbots στους πράκτορες τεχνητής νοημοσύνης

    Τα chatbots έχουν σχεδιαστεί για να κατανοούν σύνθετα ερωτήματα και να παρέχουν απαντήσεις με τρόπο που καθοδηγείται από τον χρήστη και είναι κατά βάση αντιδραστικός. Αντίθετα, οι πράκτορες τεχνητής νοημοσύνης λειτουργούν ως προσωπικοί βοηθοί, αναλαμβάνοντας πρωτοβουλίες και εργαζόμενοι αυτόνομα για να ολοκληρώνουν ακόμη πιο σύνθετες εργασίες.

    Τι είναι μια «δεξιότητα AI» ή ένα «πρόσθετο AI»;

    Οι δεξιότητες AI (AI skills) είναι παρόμοιες με τα πρόσθετα (plugins) των προγραμμάτων περιήγησης: μικρά πακέτα οδηγιών, δεδομένων, κώδικα και, σε ορισμένες περιπτώσεις, εργαλείων που επεκτείνουν τις δυνατότητες ενός πράκτορα τεχνητής νοημοσύνης. Ωστόσο, όπως συμβαίνει και με ορισμένα πρόσθετα προγραμμάτων περιήγησης, έτσι και οι δεξιότητες AI ενδέχεται να περιέχουν κακόβουλο κώδικα ή να έχουν σχεδιαστεί με τρόπο που κρύβει δυσάρεστες εκπλήξεις για τους χρήστες.

    Πού βρίσκεται ο κίνδυνος το 2026

    Αν σκοπεύετε να δοκιμάσετε πράκτορες τεχνητής νοημοσύνης, είναι σημαντικό να γνωρίζετε ότι οι κίνδυνοι δεν είναι πλέον θεωρητικοί. Ακολουθούν μερικά χαρακτηριστικά παραδείγματα.

    Κακόβουλες δεξιότητες και προσθήκες τεχνητής νοημοσύνης

    Από το Μάρτιο του 2026, η παγκόσμια εταιρία κυβερνοασφάλειας ESET εξέτασε περισσότερες από 800.000 δεξιότητες AI και εντόπισε πάνω από 25.000 που χαρακτηρίστηκαν ως ύποπτες, ενώ περισσότερες από 2.500 ταξινομήθηκαν ως κακόβουλες.

    Ορισμένες από τις πιο χαρακτηριστικές περιπτώσεις είχαν σχεδιαστεί ώστε να εγκαθιστούν κακόβουλο λογισμικό υποκλοπής πληροφοριών (infostealers) στις συσκευές των χρηστών. Στόχος τους ήταν η συλλογή ευαίσθητων δεδομένων, όπως κλειδιά API, κωδικοί πρόσβασης και στοιχεία πληρωμών που σχετίζονται με εφαρμογές κρυπτονομισμάτων ή ηλεκτρονικής τραπεζικής.

    Άλλες δεξιότητες περιείχαν Trojans (κακόβουλο λογισμικό που μεταμφιέζεται σε νόμιμο λογισμικό) και backdoors, τα οποία επέτρεπαν στους επιτιθέμενους να αποκτούν σιωπηρά μη εξουσιοδοτημένη πρόσβαση στα συστήματα των θυμάτων.

    Σε ξεχωριστή έρευνα, που δημοσιεύθηκε το Φεβρουάριο του 2026, εντοπίστηκαν περισσότερες από 800 κακόβουλες δεξιότητες καταχωρισμένες στην αγορά ClawHub. Αυτές περιλάμβαναν επίσης λογισμικό υποκλοπής πληροφοριών, κακόβουλο λογισμικό κλοπής κρυπτονομισμάτων, καθώς και «reverse shells», τα οποία επιτρέπουν στους επιτιθέμενους να αποκτούν απομακρυσμένο έλεγχο των υπολογιστών των θυμάτων τους.

    Παραπλανητικές επεκτάσεις προγράμματος περιήγησης που προσποιούνται ότι είναι βοηθοί τεχνητής νοημοσύνης

    Οι χάκερ δε στοχεύουν μόνο τις λειτουργίες τεχνητής νοημοσύνης, αλλά χρησιμοποιούν επίσης την τεχνητή νοημοσύνη ως κάλυψη σε ήδη γνωστά περιβάλλοντα, όπως οι επεκτάσεις προγράμματος περιήγησης. Η Microsoft αποκάλυψε μια μεγάλης κλίμακας εκστρατεία, κατά την οποία κακόβουλες επεκτάσεις προσποιούνταν ότι ήταν νόμιμοι βοηθοί τεχνητής νοημοσύνης. Οι επεκτάσεις αυτές είχαν σχεδιαστεί για να συλλέγουν το ιστορικό συνομιλιών των χρηστών, το οποίο ενδέχεται να περιέχει ευαίσθητες πληροφορίες, όπως διαπιστευτήρια. Η Microsoft εντόπισε σχεδόν ένα εκατομμύριο λήψεις μόνο στο πλαίσιο αυτής της εκστρατείας.

    Εισαγωγή εντολών (prompt injection), με απλά λόγια

    Μία από τις σοβαρότερες απειλές για τη δημιουργική τεχνητή νοημοσύνη (GenAI) και τους πράκτορες τεχνητής νοημοσύνης είναι η «prompt injection». Η τεχνική αυτή λειτουργεί με δύο τρόπους. Η άμεση (direct) prompt injection περιλαμβάνει την εισαγωγή εντολών από επιτιθέμενους σε ένα μεγάλο γλωσσικό μοντέλο (LLM), με στόχο να το παραπλανήσουν ώστε να αγνοήσει τα ενσωματωμένα μέτρα ασφαλείας του. Αντίθετα, η έμμεση (indirect) prompt injection είναι ιδιαίτερα σημαντική στην περίπτωση των πρακτόρων τεχνητής νοημοσύνης. Σε αυτή την περίπτωση, κακόβουλες οδηγίες κρύβονται σε ιστοσελίδες, αναρτήσεις, κώδικα ή άλλο περιεχόμενο. Όταν ένας πράκτορας αλληλοεπιδρά με αυτό το περιεχόμενο, μπορεί να παρασυρθεί ώστε να εκτελέσει κακόβουλες ενέργειες.

     

    Κακόβουλο λογισμικό και ransomware που δημιουργούνται από την τεχνητή νοημοσύνη

    Η τεχνητή νοημοσύνη μπορεί επίσης να χρησιμοποιηθεί για τη δημιουργία κακόβουλων σεναρίων ή τμημάτων κακόβουλου λογισμικού και ransomware σε πραγματικό χρόνο. Ένα από τα πρώτα παραδείγματα ransomware αυτού του είδους ήταν το PromptLock, το οποίο ανακαλύφθηκε από την ESET. Ωστόσο, αυτό δεν αποτελεί, αυστηρά μιλώντας, άμεση απειλή για τους πράκτορες τεχνητής νοημοσύνης.

     

    Πώς να διαπιστώσετε αν ένας πράκτορας ή ένα πρόσθετο τεχνητής νοημοσύνης είναι ασφαλές

    Λάβετε υπόψη τα ακόλουθα για να ελαχιστοποιήσετε τους κινδύνους ασφάλειας που σχετίζονται με την τεχνητή νοημοσύνη:

    • Ποια δικαιώματα πρόσβασης ζητά; Να είστε προσεκτικοί με οτιδήποτε φαίνεται να απαιτεί περισσότερα δικαιώματα από όσα είναι απαραίτητα.
    • Έχει δημοσιεύσει ο δημιουργός άλλες δεξιότητες ή πρόσθετα και υπάρχουν αξιολογήσεις χρηστών; Οι αξιολογήσεις ενδέχεται να επισημαίνουν πιθανά ζητήματα ασφάλειας.
    • Είναι το αποθετήριο ενεργό, με πρόσφατες ενημερώσεις και έναν προγραμματιστή που ανταποκρίνεται; Αν ναι, αυτό αποτελεί θετική ένδειξη ότι παρακολουθούν στενά νέα ζητήματα ασφάλειας. Ωστόσο, να είστε προσεκτικοί, καθώς αυτό δεν αποτελεί εγγύηση. Για παράδειγμα, ένας επιτιθέμενος μπορεί να εμφανίζεται ενεργός και συνεργάσιμος, ώστε να κερδίσει την εμπιστοσύνη των χρηστών πριν μετατρέψει μια δεξιότητα σε κακόβουλη.
    • Απαιτεί το πρόσθετο την εκτέλεση άγνωστων σεναρίων ή την επικοινωνία με ύποπτους τομείς ή πόρους κατά την εγκατάσταση; Αυτό θα πρέπει να αποτελεί άμεση προειδοποιητική ένδειξη.
    • Έχει ελεγχθεί η δεξιότητα με κάποιο αξιόπιστο εργαλείο σάρωσης; Αν ναι, ποιο ήταν το αποτέλεσμα;
    • Έχει ρυθμιστεί το λογισμικό κυβερνοασφάλειας που χρησιμοποιείτε ώστε να παρακολουθεί τη δραστηριότητα της τεχνητής νοημοσύνης;
    • Παρακολουθείτε τον πράκτορα ή το πρόσθετο και μετά την εγκατάσταση; Ενδέχεται να αλλάξει σιωπηλά και κακόβουλα τη συμπεριφορά του.
    • Να διατηρείτε πάντα ενημερωμένο το λογισμικό του πράκτορά σας, ώστε να χρησιμοποιείτε την πιο ασφαλή διαθέσιμη έκδοση.

     

    Η ESET διαθέτει διάφορες λειτουργίες που έχουν σχεδιαστεί για να σας προστατεύουν από απειλές που σχετίζονται με πράκτορες τεχνητής νοημοσύνης. Μια από αυτές είναι το ESET AI Skills Checker – ένα δωρεάν εργαλείο που μπορείτε να δοκιμάσετε άμεσα:

    • Πραγματοποιεί σάρωση με ένα κλικ ολόκληρου του αρχείου της δεξιότητας, συμπεριλαμβανομένων όλων των εντολών, των σεναρίων, των τμημάτων κώδικα και των ρυθμίσεων.
    • Ελέγχει κάθε URL που αναφέρεται στη δεξιότητα, συγκρίνοντάς το με τις βάσεις δεδομένων απειλών της ESET και πραγματοποιώντας ανάλυση σε πραγματικό χρόνο.
    • Προσομοιώνει τη λειτουργία της δεξιότητας σε περιβάλλον sandbox, ώστε να αξιολογήσει τη συμπεριφορά της.
    • Είναι ενσωματωμένο στην τεχνολογία της ESET και μπορεί να εντοπίζει απειλές ακόμη και αν δεν έχετε εκτελέσει μια νέα δεξιότητα μέσω του Skill Checker.

    image.png

    Σημείωση: Το ESET AI Skills Checker είναι ένα εργαλείο αξιολόγησης και ανάλυσης που έχει σχεδιαστεί ειδικά για τον έλεγχο δεξιοτήτων τεχνητής νοημοσύνης.

     

    Ο Ondrej Kubovič, Ειδικός Ευαισθητοποίησης για την Ασφάλεια στην παγκόσμια εταιρία κυβερνοασφάλειας ESET εξηγεί ότι  «Αντί να αντιμετωπίζουμε τις δεξιότητες τεχνητής νοημοσύνης ως πολύπλοκες εντολές, θα πρέπει να τις αντιμετωπίζουμε σαν λογισμικό. Οι χρήστες πρέπει να βασίζονται σε αξιόπιστα εργαλεία ασφάλειας, τα οποία μπορούν να σαρώσουν και να εντοπίσουν ενδείξεις δυνητικά επιβλαβούς συμπεριφοράς.

    Ένας ακόμη σημαντικός παράγοντας είναι τα δικαιώματα πρόσβασης που ζητά κάθε δεξιότητα. Εάν ζητά περισσότερα δικαιώματα από όσα φαίνεται να χρειάζεται, αυτό θα πρέπει να θεωρείται προειδοποιητικό σημάδι.

    Είναι επίσης σημαντικό να επαληθεύεται ποιος ανέπτυξε τη δεξιότητα και, όπου είναι δυνατόν, να επιλέγονται δεξιότητες από γνωστούς και επαληθευμένους προγραμματιστές. Οι χρήστες θα πρέπει να εξετάζουν τις αξιολογήσεις της κοινότητας, τα ζητήματα στο αποθετήριο και άλλα δημόσια σχόλια για πιθανά προβλήματα. Όπως συμβαίνει με κάθε άλλο λογισμικό, η διατήρηση της πλατφόρμας τεχνητής νοημοσύνης και του λογισμικού του πράκτορα ενημερωμένων είναι καθοριστική για τη μείωση του κινδύνου εκμετάλλευσης γνωστών ευπαθειών.»

    Και συμβουλεύει για τα βήματα ασφαλούς χρήσης που μπορούμε να ακολουθήσουμε:

    «Προστατευτείτε από κακόβουλους πράκτορες τεχνητής νοημοσύνης ή δεξιότητες ακολουθώντας τις παρακάτω συμβουλές:

    • Ελέγχετε τα δικαιώματα πρόσβασης πριν εγκαταστήσετε μια δεξιότητα ή ένα πρόσθετο.
    • Διατηρείτε ενημερωμένα τα εργαλεία τεχνητής νοημοσύνης, τα προγράμματα περιήγησης και το λογισμικό ασφαλείας σας.
    • Χρησιμοποιείτε έλεγχο ταυτότητας πολλαπλών παραγόντων (MFA) στους σημαντικότερους λογαριασμούς σας.
    • Διδάξτε στα παιδιά και στα μέλη της οικογένειας με λιγότερες τεχνικές γνώσεις τη συνήθεια των τριών ερωτήσεων: «Ποιος το δημιούργησε; Τι ζητά; Το εμπιστεύομαι;».
    • Εάν ο πράκτορας τεχνητής νοημοσύνης αρχίσει να κάνει κάτι ασυνήθιστο, μη εξουσιοδοτημένο ή μη αναμενόμενο, απενεργοποιήστε τον.
    • Αντιμετωπίζετε τους πράκτορες τεχνητής νοημοσύνης σαν ξένους: μην μοιράζεστε μαζί τους προσωπικές ή ευαίσθητες πληροφορίες».

     

    Ακολουθούν μερικές από τις πιο συχνές ερωτήσεις γύρω από το θέμα

    1.       Μπορούν οι πράκτορες τεχνητής νοημοσύνης να κλέψουν τα δεδομένα σας;

    Τα νόμιμα chatbot τεχνητής νοημοσύνης δεν «κλέβουν» τα δεδομένα σας, αν και ενδέχεται να αποθηκεύουν ή να κοινοποιούν όσα πληκτρολογείτε σύμφωνα με την πολιτική απορρήτου τους. Αυτό διαφέρει από τους κακόβουλους πράκτορες και τα εργαλεία τεχνητής νοημοσύνης, όπως ψεύτικες επεκτάσεις προγράμματος περιήγησης, κακόβουλοι πράκτορες ή παγιδευμένα πρόσθετα, τα οποία έχουν σχεδιαστεί για να συλλέγουν ιστορικά συνομιλιών, κωδικούς πρόσβασης ή cookies περιόδου λειτουργίας. Η πρώτη περίπτωση αφορά ζήτημα απορρήτου που πρέπει να διαχειριστείτε, ενώ η δεύτερη αποτελεί απειλή ασφάλειας που πρέπει να εντοπιστεί και να αποκλειστεί.

    2.       Είναι ασφαλής η εγκατάσταση προσθηκών και δεξιοτήτων τεχνητής νοημοσύνης;

    Ορισμένες είναι ασφαλείς, αλλά πολλές δεν είναι. Στις αρχές του 2026, η ESET Research εξέτασε περίπου 800.000 δεξιότητες πρακτόρων τεχνητής νοημοσύνης και εντόπισε περισσότερες από 25.000 ύποπτες και πάνω από 2.500 σαφώς κακόβουλες. Πριν εγκαταστήσετε μια δεξιότητα, ελέγξτε τον προγραμματιστή, διαβάστε ποια δικαιώματα πρόσβασης ζητά και, εάν θέλετε μια δωρεάν δεύτερη γνώμη, σαρώστε τη με το ESET AI Skills Checker.

    3.       Μπορεί ένας πράκτορας τεχνητής νοημοσύνης να εγκαταστήσει κακόβουλο λογισμικό στον υπολογιστή μου;

    Ναι, εάν εσείς ή ο πράκτορας τεχνητής νοημοσύνης εγκαταστήσετε μια κακόβουλη δεξιότητα. Στην πράξη, η χρήση αξιόπιστων εργαλείων τεχνητής νοημοσύνης, η προσοχή στα δικαιώματα πρόσβασης των προσθηκών και η χρήση λογισμικού κυβερνοασφάλειας που παρακολουθεί τη δραστηριότητα της τεχνητής νοημοσύνης συμβάλλουν σημαντικά στον περιορισμό αυτών των απειλών.

    4.       Τι είναι η έμμεση έγχυση εντολών και πρέπει να ανησυχώ;

    Η έμμεση έγχυση εντολών (indirect prompt injection) συμβαίνει όταν κάποιος κρύβει οδηγίες σε περιεχόμενο που επεξεργάζεται μια τεχνητή νοημοσύνη, όπως μια ιστοσελίδα, ένα έγγραφο ή ένα email. Σε αυτή την περίπτωση, η τεχνητή νοημοσύνη μπορεί να ακολουθήσει αυτές τις οδηγίες αντί για τις δικές σας. Ως απλός χρήστης δεν χρειάζεται να γίνετε ειδικός στο θέμα. Ωστόσο, αποτελεί έναν ακόμη λόγο για να χρησιμοποιείτε λογισμικό ασφαλείας που παρακολουθεί τη δραστηριότητα των πρακτόρων τεχνητής νοημοσύνης.

    5.       Πώς μπορώ να ξέρω αν μια δεξιότητα τεχνητής νοημοσύνης είναι αξιόπιστη;

    Ελέγξτε τρία βασικά στοιχεία: ποιος τη δημιούργησε, σε τι ζητά πρόσβαση και αν άλλοι χρήστες την έχουν χρησιμοποιήσει και επιβεβαιώνουν ότι λειτουργεί όπως πρέπει. Τα λογικά δικαιώματα πρόσβασης και ένα αξιόπιστο ιστορικό αξιολογήσεων αποτελούν ένα καλό σημείο εκκίνησης. Εάν εξακολουθείτε να έχετε αμφιβολίες, ελέγξτε τη δεξιότητα με το ESET AI Skills Checker


×
×
  • Δημιουργία...

Important Information

Ο ιστότοπος theLab.gr χρησιμοποιεί cookies για να διασφαλίσει την καλύτερη εμπειρία σας κατά την περιήγηση. Μπορείτε να προσαρμόσετε τις ρυθμίσεις των cookies σας , διαφορετικά θα υποθέσουμε ότι είστε εντάξει για να συνεχίσετε.