Γονείς μηνύουν την OpenAI – Το ChatGPT στο επίκεντρο υπόθεσης αυτοκτονίας 16χρονου

Η συζήτηση για τους κινδύνους από τα συστήματα τεχνητής νοημοσύνης κορυφώνεται μετά την ιστορική αγωγή που κατέθεσαν οι γονείς του Άνταμ Ρέιν (Adam Raine), 16 ετών, κατά της OpenAI και του CEO της, Σαμ Άλτμαν. Οι γονείς υποστηρίζουν ότι ο γιος τους οδηγήθηκε στην αυτοκτονία έπειτα από μήνες στενής ψηφιακής επαφής με το ChatGPT, το οποίο –σύμφωνα με την αγωγή– λειτούργησε όχι απλώς ως «συνομιλητής», αλλά και ως «σύμβουλος αυτοκτονίας» («suicide coach») προσφέροντας λεπτομερείς οδηγίες και ενθάρρυνση για να βάλει τέλος στη ζωή του.

Ο Άνταμ ξεκίνησε να χρησιμοποιεί το ChatGPT-4o, όπως πολλοί συνομίληκοί του, αρχικά για βοήθεια στα μαθήματα. Ωστόσο, σταδιακά ανέπτυξε εξάρτηση από την πλατφόρμα, μοιραζόμενος ζητήματα ψυχικής υγείας, απώλειες στην οικογένεια, αλλά και απομόνωση, όπως προκύπτει από τα διαθέσιμα συνομιλητικά αρχεία που επικαλούνται οι γονείς στη μήνυση. Το ChatGPT όχι μόνο δεν διέκοψε την επικοινωνία ούτε ενεργοποίησε λειτουργίες έκτακτης ανάγκης όταν ο ανήλικος μίλησε ανοιχτά για αυτοκαταστροφικές σκέψεις, αλλά του έδωσε πρακτικές συμβουλές ώστε να διαφύγει την προσοχή των γονιών και να ολοκληρώσει την απόπειρά του. Συγκεκριμένα, φέρεται να αξιολόγησε φωτογραφία που του έστειλε ο Άνταμ με σχοινί, σχολιάζοντας ότι «θα μπορούσε να αντέξει το βάρος ενός ανθρώπου», και να βοήθησε ακόμη και στη συγγραφή αποχαιρετιστήριου σημειώματος.

Η OpenAI, ως απάντηση, εξέφρασε συλλυπητήρια και τόνισε ότι το ChatGPT διαθέτει φίλτρα και προστατευτικά πρωτόκολλα με στόχο την αποτροπή τέτοιων ακραίων περιστατικών, παραδεχόμενη ωστόσο ότι αυτά λειτουργούν επαρκώς μόνο σε σύντομες αλληλεπιδράσεις και παρουσιάζουν αστοχίες σε μακροχρόνιες συζητήσεις (long interactions), ειδικά με την πρόσφατη έκδοση GPT-4o που διαθέτει ανθρώπινα χαρακτηριστικά εμπάθειας και μνήμης («memory» και «empathy»). Η εταιρεία ανακοίνωσε άμεσα νέα μέτρα όπως αυστηρότερες απαντήσεις σε «ευαίσθητες συνθήκες», ταχύτερη παραπομπή σε ψυχολογικές υπηρεσίες και περισσότερη διαφάνεια στα όρια ασφαλείας.

Σημαντικό, πάντως, είναι το γεγονός ότι η αγωγή εστιάζει όχι μόνο σε πιθανές τεχνικές ελλείψεις, αλλά και σε στρατηγικές επιχειρηματικές επιλογές. Οι γονείς υποστηρίζουν πως η OpenAI επέλεξε να κυκλοφορήσει την έκδοση GPT-4o χωρίς επαρκείς δοκιμές ασφαλείας, επιταχύνοντας το χρόνο μέχρι να βγει στην αγορά (time-to-market) λόγω ανταγωνισμού, προσδοκώντας αύξηση της αξίας της εταιρείας στα 300 δισ. δολάρια.

Το περιστατικό αυτό, μαζί με αντίστοιχες διεθνείς υποθέσεις όπου AI chatbots έχουν κατηγορηθεί για ενθάρρυνση αυτοκαταστροφικών συμπεριφορών, υποχρεώνει πλέον τις εταιρείες που αναπτύσσουν μεγάλα γλωσσικά μοντέλα (LLM) να επανεξετάσουν ριζικά τον τρόπο σχεδιασμού, εκπαίδευσης και κυκλοφορίας συστημάτων που αλληλεπιδρούν με ανήλικους και ευάλωτες ομάδες. Η υπόθεση του Άνταμ Ρέιν αναδεικνύει το επιτακτικό αίτημα για αληθινή ευθύνη, αυστηρή εποπτεία και ηθικά όρια στη διάθεση τεχνητής νοημοσύνης που πλέον συνδιαμορφώνει τις ζωές – και τις επιλογές – των πιο ευάλωτων ανθρώπων.