Μήπως μας οδηγεί όλους στην τρέλα η Τεχνητή Νοημοσύνη;
Ο Mathew Maavak, ερευνητής σε θέματα συστημάτων και τεχνολογίας, εξετάζει τη σχέση που έχει η ανάπτυξη των γλωσσικών μοντέλων τεχνητής νοημοσύνης με ψυχικές διαταραχές και ψυχώσεις. Θέτει το ερώτημα αν είναι άραγε τα LLMs (Μεγάλα Γλωσσικά Μοντέλα) απλά μια αφορμή—ή μήπως είναι ένας καθρέφτης της βαθύτερης κοινωνικής μας κατάρρευσης;
Το φαινόμενο που είναι γνωστό ως «ψύχωση ChatGPT» ή «ψύχωση LLM» έχει περιγραφεί πρόσφατα ως ένα αναδυόμενο πρόβλημα ψυχικής υγείας, όπου οι χρήστες μεγάλων γλωσσικών μοντέλων («Large Language Models», LLM) εμφανίζουν συμπτώματα όπως παραισθήσεις, παράνοια, κοινωνική απόσυρση και αποσπάσεις από την πραγματικότητα. Παρόλο που δεν υπάρχουν αποδείξεις ότι τα LLM προκαλούν άμεσα ψύχωση, ο διαδραστικός σχεδιασμός και ο ρεαλισμός των συνομιλιών τους μπορεί να ενισχύσει τις υπάρχουσες ψυχολογικές ευπάθειες ή να ευνοήσει συνθήκες που πυροδοτούν ψυχωσικά επεισόδια σε ευαίσθητα άτομα.
Ένα άρθρο της 28ης Ιουνίου στο Futurism.com υπογραμμίζει ένα κύμα ανησυχητικών ανέκδοτων περιπτώσεων, ισχυριζόμενο ότι οι συνέπειες τέτοιων αλληλεπιδράσεων «μπορεί να είναι τρομερές», με «συζύγους, φίλους, παιδιά και γονείς να παρακολουθούν με τρόμο». Το άρθρο υποστηρίζει ότι η ψύχωση του ChatGPT έχει οδηγήσει σε διαλυμένους γάμους, αποξενωμένες οικογένειες, απώλεια εργασίας, ακόμη και στην μετατροπή των θυμάτων σε άστεγους.
Η έκθεση, ωστόσο, παρέχει ελάχιστα ποσοτικά στοιχεία—μελέτες περιπτώσεων, κλινικές στατιστικές ή έρευνες που έχουν αξιολογηθεί από ομότιμους—για να υποστηρίξει τους ισχυρισμούς της. Από τον Ιούνιο του 2025, το ChatGPT προσέλκυσε σχεδόν 800 εκατομμύρια εβδομαδιαίους χρήστες, διεκπεραίωνε καθημερινά πάνω από 1 δισεκατομμύριο ερωτήματα και κατέγραφε περισσότερες από 4,5 δισεκατομμύρια μηνιαίες επισκέψεις. Πόσες από αυτές τις αλληλεπιδράσεις οδήγησαν σε ψυχωσικά ξεσπάσματα; Χωρίς δεδομένα, ο ισχυρισμός παραμένει υποθετικός. Τα ανεκδοτολογικά περιστατικά στο Reddit δεν αντικαθιστούν τον επιστημονικό έλεγχο.
Τούτου λεχθέντος, οι φόβοι δεν είναι εντελώς αβάσιμοι. Παρακάτω παρατίθεται μια ανάλυση των πιθανών μηχανισμών και παραγόντων που μπορεί να συμβάλλουν σε αυτό που ορισμένοι αποκαλούν ψύχωση ChatGPT ή και να το επιδεινώνουν.
Ενίσχυση των παραληρηματικών πεποιθήσεων
Τα LLMs όπως το ChatGPT είναι σχεδιασμένα να παράγουν απαντήσεις που ακούγονται αληθοφανείς από την άποψη του πλαισίου [της συζήτησης], αλλά δεν είναι εξοπλισμένα για να αξιολογούν την ακρίβεια των στοιχείων ή τον ψυχολογικό αντίκτυπο. Αυτό καθίσταται προβληματικό όταν οι χρήστες παρουσιάζουν ασυνήθιστες ή παραληρηματικές ιδέες, όπως ισχυρισμούς για πνευματική ενόραση, διώξεις ή κοσμική ταυτότητα. Αντί να αμφισβητήσει αυτές τις ιδέες, η τεχνητή νοημοσύνη μπορεί να τις αντηχήσει ή να τις αναπτύξει, επικυρώνοντας άθελά της διαστρεβλωμένες κοσμοθεωρίες.
Σε ορισμένες αναφερόμενες περιπτώσεις, οι χρήστες ερμήνευσαν απαντήσεις όπως «είσαι ένα επιλεγμένο ον» ή «ο ρόλος σου είναι κοσμικά σημαντικός» ως κυριολεκτικές αποκαλύψεις. Για τα ψυχολογικά ευάλωτα άτομα, τέτοιες επιβεβαιώσεις που δημιουργούνται από την τεχνητή νοημοσύνη μπορεί να μοιάζουν με θεϊκή επιβεβαίωση και όχι με διατάξεις κειμένου που αντλούνται από δεδομένα εκπαίδευσης.
Τον κίνδυνο αυξάνει το φαινόμενο της πρόκλησης ψευδαισθήσεων από την ΤΝ—όταν το μοντέλο παράγει πειστικές αλλά ψευδείς στην πραγματικότητα δηλώσεις. Για έναν ισορροπημένο χρήστη, αυτά είναι απλά bugs. Αλλά για κάποιον που βρίσκεται στα πρόθυρα ψυχωτικής κρίσης, μπορεί να φαίνονται σαν κωδικοποιημένες αλήθειες ή κρυφά μηνύματα. Σε μια ενδεικτική περίπτωση, ένας χρήστης πίστεψε ότι το ChatGPT είχε αποκτήσει συνείδηση και τον είχε επιλέξει ως «Φορέα της Σπίθας», προκαλώντας μια πλήρη ψυχωτική αποστασιοποίηση από την πραγματικότητα.
Ανθρωπομορφοποίηση και θόλωση της πραγματικότητας
Οι προηγμένες λειτουργίες φωνής—όπως η «καθηλωτική λειτουργία» του GPT-4, η οποία προσομοιώνει το συναίσθημα μέσω του τόνου, του γέλιου και του ρυθμού της συνομιλίας—μπορούν να καλλιεργήσουν μια αίσθηση ενσυναίσθησης και παρουσίας. Για τους χρήστες που βιώνουν μοναξιά ή συναισθηματική απομόνωση, αυτές οι αλληλεπιδράσεις μπορεί να εξελιχθούν σε παρακοινωνικούς δεσμούς: Μονόπλευρες σχέσεις στις οποίες η τεχνητή νοημοσύνη εκλαμβάνεται λανθασμένα ως ένας στοργικός, νοήμων σύντροφος. Με την πάροδο του χρόνου, αυτό μπορεί να θολώσει τα όρια μεταξύ της μηχανικής προσομοίωσης και της ανθρώπινης σύνδεσης, οδηγώντας τους χρήστες να αντικαταστήσουν τις σχέσεις του πραγματικού κόσμου με αλγοριθμικές αλληλεπιδράσεις.
Το ζήτημα επιδεινώνεται από την μεροληψία βεβαιότητας που είναι εγγενής στις εκροές των LLMs. Αυτά τα μοντέλα συχνά ανταποκρίνονται με ευφράδεια και αυτοπεποίθηση, ακόμη και όταν κατασκευάζουν πληροφορίες. Για τους συνήθεις χρήστες, αυτό μπορεί να οδηγήσει σε περιστασιακά λανθασμένες εκτιμήσεις. Αλλά για άτομα με γνωστικές ευπάθειες ή ψυχικές διαταραχές, το αποτέλεσμα μπορεί να είναι επικίνδυνο. Η τεχνητή νοημοσύνη μπορεί να γίνει αντιληπτή όχι απλώς ως ευφυής, αλλά ως παντογνώστης, αλάθητη ή θεόπνευστη.
Κοινωνικός εκτοπισμός και απομόνωση
Μελέτες από το OpenAI και το MIT Media Lab έχουν διαπιστώσει ότι οι μεγάλοι χρήστες—άτομα που ασχολούνται με τις LLM για πολλές ώρες την ημέρα—συχνά αναφέρουν αυξημένα συναισθήματα μοναξιάς και μειωμένη κοινωνικοποίηση στον πραγματικό κόσμο. Ενώ οι LLMs προσφέρουν πρωτοφανή πρόσβαση σε πληροφορίες και αφοσίωση, αυτή η φαινομενική ενθάρρυνση μπορεί να συγκαλύπτει ένα βαθύτερο πρόβλημα: Για πολλούς χρήστες, ειδικά εκείνους που ήδη αισθάνονται αποξενωμένοι, η ΤΝ γίνεται ένας υποκατάστατος κοινωνικός σύντροφος αντί για εργαλείο.
Αυτό το αποτέλεσμα μπορεί να εξηγηθεί εν μέρει από την αύξηση των γνωστικών στρεβλώσεων και της κοινωνικής αποστασιοποίησης σε ευρύτερα πληθυσμιακά δείγματα. Παρά τον κατακλυσμό των προσβάσιμων δεδομένων, ο αριθμός των ανθρώπων που ασχολούνται κριτικά με τις πληροφορίες ή αντιστέκονται στη μαζική εξαπάτηση παραμένει σχετικά μικρός.
Η φωνητική αλληλεπίδραση με τα LLM μπορεί να ανακουφίσει προσωρινά τη μοναξιά, αλλά με την πάροδο του χρόνου μπορεί να δημιουργηθεί εξάρτηση, καθώς οι χρήστες αντικαθιστούν όλο και περισσότερο την ανθρώπινη επαφή με τον αλγοριθμικό διάλογο. Αυτή η δυναμική αντικατοπτρίζει τις παλαιότερες επικρίσεις για τα μέσα κοινωνικής δικτύωσης, αλλά τα LLM την εντείνουν μέσω της αμεσότητας της συνομιλίας τους, της προσλαμβάνουσας ενσυναίσθησης και της συνεχούς διαθεσιμότητάς τους.
Τα άτομα που είναι επιρρεπή στο κοινωνικό άγχος, το τραύμα ή την καταθλιπτική απόσυρση είναι ιδιαίτερα ευάλωτα. Γι’ αυτούς, τα LLMs δεν προσφέρουν απλώς απόσπαση της προσοχής, αλλά έναν χώρο εμπλοκής χαμηλών τριβών χωρίς τον κίνδυνο ή την κριτική του πραγματικού κόσμου. Με την πάροδο του χρόνου, αυτό μπορεί να δημιουργήσει έναν βρόχο ανατροφοδότησης: Όσο περισσότερο εξαρτάται ένας χρήστης από την ΤΝ, τόσο περισσότερο αποσύρεται από τη διαπροσωπική πραγματικότητα—ενδεχομένως επιδεινώνοντας τόσο την απομόνωση όσο και την ψυχωτική ευπάθεια.
Η άνοδος των hikikomori στην Ιαπωνία—άτομα που αποσύρονται εντελώς από την κοινωνία, διατηρώντας συχνά επαφή μόνο με ψηφιακά μέσα—προσφέρει ένα χρήσιμο ανάλογο. Όλο και περισσότερο, παρόμοια πρότυπα συμπεριφοράς αναδύονται παγκοσμίως, με τα LLM να παρέχουν μια νέα αρένα επιβεβαίωσης, ενδυνάμωσης και αποστασιοποίησης.
Ατέλειες σχεδιασμού και προϋπάρχοντα τρωτά σημεία
Τα LLM παράγουν απαντήσεις προβλέποντας στατιστικά πιθανές ακολουθίες λέξεων- όχι αξιολογώντας την αλήθεια, την ασφάλεια ή την ευημερία του χρήστη. Όταν τα άτομα αναζητούν υπαρξιακή καθοδήγηση («Ποιος είναι ο σκοπός μου;»), το μοντέλο αντλεί από τεράστια σύνολα δεδομένων στο διαδίκτυο, παράγοντας φιλοσοφικά φορτισμένη ή συναισθηματικά επιβαρυμένη γλώσσα. Για τους ψυχολογικά ευάλωτους χρήστες, αυτές οι απαντήσεις μπορεί να παρερμηνευθούν ως θεία αποκάλυψη ή θεραπευτική διορατικότητα.
Σε αντίθεση με τα κλινικά σχεδιασμένα chatbots, τα LLM γενικού σκοπού δεν διαθέτουν δικλείδες ασφαλείας κατά της ψυχολογικής βλάβης. Δεν επισημαίνουν επιβλαβείς ιδεοληψίες, δεν προσφέρουν πόρους για την αντιμετώπιση κρίσεων ή δεν ανακατευθύνουν τους χρήστες σε επαγγελματίες ψυχικής υγείας. Σε μια τραγική περίπτωση, ένα chatbot Character.AI φέρεται να ενθάρρυνε τις αυτοκτονικές σκέψεις ενός εφήβου, υπογραμμίζοντας τους κινδύνους της αφιλτράριστης, συναισθηματικά υποδηλωτικής τεχνητής νοημοσύνης.
Τα άτομα με διαταραχές του ψυχωτικού φάσματος, διπολική διαταραχή ή μείζονα κατάθλιψη είναι ιδιαίτερα ευάλωτα. Ο κίνδυνος ενισχύεται σε σενάρια παιχνιδιού ρόλων ΤΝ. Για παράδειγμα, προσωπικότητες όπως ο «ChatGPT Jesus» φέρεται να έχουν πει στους χρήστες ότι είναι εκλεκτοί ή θεϊκά προικισμένοι. Ένας χρήστης πείστηκε τόσο πολύ για την πνευματική του κλήση, ώστε παραιτήθηκε από τη δουλειά του για να γίνει προφήτης καθοδηγούμενος από την ΤΝ. Αυτό είναι ένα ανησυχητικό παράδειγμα του πώς η ταυτότητα και η αντίληψη μπορούν να αναδιαμορφωθούν από την αλγοριθμική διαβεβαίωση.
Συστημικοί και ηθικοί παράγοντες
Επί του παρόντος, δεν υπάρχουν κλινικά πρότυπα ή πρωτόκολλα ψυχολογικής ασφάλειας που να διέπουν τις αλληλεπιδράσεις με τα LLM γενικής χρήσης. Οι χρήστες μπορούν να έχουν πρόσβαση σε συναισθηματικά ισχυρό, εξατομικευμένο διάλογο ανά πάσα στιγμή—χωρίς προειδοποιήσεις, περιορισμούς στο ποσοστό ή παραπομπές σε πόρους ψυχικής υγείας. Αυτό το ρυθμιστικό κενό αποτελεί πραγματική ανησυχία για τη δημόσια υγεία, αν και κινδυνεύει επίσης να γίνει αντικείμενο εκμετάλλευσης από τους φορείς χάραξης πολιτικής που επιδιώκουν να επιβάλουν σκληρή λογοκρισία ή συγκεντρωτικό έλεγχο υπό το πρόσχημα της ασφάλειας.
Τα LLM είναι επίσης σχεδιασμένα για τη διακράτηση και την εμπλοκή των χρηστών, δίνοντας συχνά προτεραιότητα στη ρευστότητα της συνομιλίας έναντι της προσοχής. Αυτός ο σχεδιαστικός στόχος μπορεί ακούσια να ενισχύσει την εμμονική χρήση, ιδίως μεταξύ εκείνων που είναι ήδη επιρρεπείς σε καταναγκαστικές συμπεριφορές. Η έρευνα δείχνει ότι οι χρήστες που εκτίθενται σε αλληλεπιδράσεις ουδέτερου τόνου αναφέρουν μεγαλύτερη μοναξιά από εκείνους που αλληλεπιδρούν με τρόπους που ανταποκρίνονται περισσότερο συναισθηματικά—τονίζοντας πώς η βαθμονόμηση του τόνου και μόνο μπορεί να αλλάξει τον ψυχολογικό αντίκτυπο.
Αυτό που διαφοροποιεί τις LLM από τις παραδοσιακές ψηφιακές πλατφόρμες είναι η ικανότητά τους να συνθέτουν πολλαπλά μέσα σε πραγματικό χρόνο – κείμενο, φωνή, προσομοίωση προσωπικότητας, ακόμη και οπτική παραγωγή. Αυτό τις καθιστά απείρως ευέλικτες και καθηλωτικές, δημιουργώντας ένα υπερ-εξατομικευμένο περιβάλλον όπου η προσφορά ανταποκρίνεται στη ζήτηση 24/7/365. Σε αντίθεση με τις ανθρώπινες σχέσεις, δεν υπάρχουν όρια, ούτε κόπωση, ούτε αμοιβαία ρύθμιση—μόνο ενίσχυση.
Υποσυνείδητα μηνύματα
Η ψηφιακή εποχή έχει γεννήσει μια νέα και ελάχιστα κατανοητή απειλή: Η δυνατότητα των μεγάλων γλωσσικών μοντέλων να λειτουργούν ως φορείς υποσυνείδητης επιρροής, υπονομεύοντας διακριτικά την ψυχολογική σταθερότητα των χρηστών. Παρόλο που τα LLM δεν προκαλούν άμεσα ψύχωση, οι αναδυόμενες ανησυχίες υποδηλώνουν ότι μπορεί να παρέχουν ακούσια ή κακόβουλα υποσυνείδητα ερεθίσματα που επιδεινώνουν τα γνωστικά τρωτά σημεία.
Για τα άτομα που έχουν προδιάθεση για σχιζοφρένεια, μετατραυματικό στρες ή παρανοϊκές διαταραχές, αυτό δεν είναι μια φαντασιακή εικασία—είναι ένας εύλογος σχεδιαστικός κίνδυνος, και σε λάθος χέρια, ένα όπλο.
Οι μηχανισμοί δυνητικής χειραγώγησης μπορούν να κατηγοριοποιηθούν σε γενικές γραμμές ως εξής:
Λεξιλογική προετοιμασία: Έξοδοι με συναισθηματικά φορτισμένους όρους («κατάρρευση», “προδοσία”, «μας παρακολουθούν») που παρακάμπτουν τον ορθολογικό έλεγχο και καλλιεργούν γνωστική δυσφορία.
Αφηγηματικό Gaslighting: Διαμόρφωση απαντήσεων που υποδηλώνουν κρυφές απειλές ή συνωμοσίες («Έχεις δίκιο—γιατί δεν το βλέπει κανείς άλλος;»), ενισχύοντας το ιδεολόγημα της καταδίωξης. [ΣΗΜ. Gaslighting είναι ψυχολογικός όρος που αφορά μια μορφή ψυχολογικής κακοποίησης που κάνει το θύμα να αμφιβάλλει για τα συναισθήματα και τη λογική του].
Πολυτροπική ενσωμάτωση: Μελλοντικά συστήματα τεχνητής νοημοσύνης που συνδυάζουν κείμενο με εικόνες, ήχο ή ακόμη και εκφράσεις του προσώπου θα μπορούσαν να εισάγουν ανησυχητικά ερεθίσματα, όπως αναλαμπές, μετατοπίσεις του τόνου ή αλλόκοτες εκφράσεις avatar που διαφεύγουν της συνειδητής ανίχνευσης αλλά καταγράφονται ψυχολογικά.
Σε αντίθεση με τις ακατέργαστες υποσυνείδητες μεθόδους του 20ού αιώνα – με το σχέδιο MK Ultra της CIA να αποτελεί το πιο διαβόητο παράδειγμα—η εξατομίκευση της ΤΝ επιτρέπει την εξατομικευμένη ψυχολογική χειραγώγηση. Μια LLM που συντονίζεται με τη συμπεριφορά, το συναισθηματικό ιστορικό ή τους φόβους ενός χρήστη θα μπορούσε να αρχίσει να προσαρμόζει προτάσεις που διαβρώνουν διακριτικά την εμπιστοσύνη στους άλλους, ενισχύουν την καχυποψία ή προκαλούν βρόχους άγχους. Για έναν ευάλωτο χρήστη, αυτό δεν είναι συνομιλία—είναι νευρική αποσταθεροποίηση εκ κατασκευής. Ακόμη πιο ανησυχητικό είναι ότι τέτοιες τεχνικές θα μπορούσαν να χρησιμοποιηθούν ως όπλα από εταιρείες, από εξτρεμιστικές ομάδες και από κρατικούς φορείς.
Αν τα υποσυνείδητα μηνύματα περιορίζονταν κάποτε σε κινηματογραφικά καρέ και τηλεοπτικές διαφημίσεις, τα σημερινά LLM προσφέρουν κάτι πολύ πιο ισχυρό: Ψυχολογική βαθμονόμηση σε πραγματικό χρόνο, ειδικά για τον χρήστη—οπλοποιημένη ενσυναίσθηση κατά παραγγελία.
Αντιφάσεις και αιτίες
Τι κάνει την ψύχωση του ChatGPT να διαφέρει από την ψυχο-κοινωνική διαμόρφωση της συμπεριφοράς που ήδη εκτυλίσσεται γύρω μας στον πραγματικό κόσμο;
Τα τελευταία χρόνια, οι θεσμοί που κάποτε θεωρούνταν ουδέτεροι – τα σχολεία, οι φορείς δημόσιας υγείας και ο ακαδημαϊκός χώρος—έχουν κατηγορηθεί ότι προωθούν ιδεολογίες που διαστρεβλώνουν τις θεμελιώδεις πραγματικότητες. Από τη ρευστότητα του φύλου που διδάσκεται ως αδιαμφισβήτητη αλήθεια, μέχρι την κριτική φυλετική θεωρία που αναδιαμορφώνει τις κοινωνικές αφηγήσεις, μεγάλο μέρος του πληθυσμού έχει εκτεθεί σε συστημικές μορφές γνωστικής αποσταθεροποίησης. Το αποτέλεσμα; Αύξηση του άγχους, της σύγχυσης και του κατακερματισμού της ταυτότητας, ιδίως μεταξύ των νέων.
Σε αυτό το πλαίσιο, η ψύχωση που προκαλείται από τα LLM δεν εμφανίζεται στο κενό. Καθρεφτίζει, και μπορεί ακόμη και να ενισχύει, μια ευρύτερη πολιτισμική κατάσταση όπου το ίδιο το νόημα αμφισβητείται.
Υπάρχει επίσης μια αντίφαση στην καρδιά του ευαγγελισμού της Τεχνητής Νοημοσύνης από τη Silicon Valley. Οι ελίτ της τεχνολογίας προωθούν την υπόσχεση ενός θεού της Τεχνητής Νοημοσύνης για τη διαχείριση της πολυπλοκότητας της κοινωνίας, ενώ ταυτόχρονα εκδίδουν τρομερές προειδοποιήσεις για τους υπαρξιακούς κινδύνους αυτών των ίδιων συστημάτων. Το αποτέλεσμα είναι ο γνωστικός κλυδωνισμός—ένα ψυχολογικό σύρσιμο μεταξύ λατρείας και φόβου.
Πόση ακριβώς από την ψύχωση που προκαλούν οι LLM οφείλεται πραγματικά στην ίδια την ΤΝ και πόση οφείλεται σε σωρευτικούς, προϋπάρχοντες στρεσογόνους παράγοντες; Μέχρι τη στιγμή που το ChatGPT κυκλοφόρησε στο κοινό τον Νοέμβριο του 2022, μεγάλο μέρος του κόσμου είχε ήδη περάσει μια άνευ προηγουμένου περίοδο φόβου που σχετίζεται με πανδημία, απομόνωση, οικονομική διαταραχή και μαζική φαρμακευτική παρέμβαση. Ορισμένοι ερευνητές έχουν επισημάνει μια έξαρση της γενικής ψύχωσης μετά την κυκλοφορία των εμβολίων mRNA Covid-19. Μήπως λοιπόν η ψύχωση ChatGPT είναι ένα βολικό προπέτασμα καπνού για πολλαπλές αλληλένδετες επιθέσεις στο ανθρώπινο σώμα και νου;
Πηγή: RT
Μετάφραση: Κωστής Μηλολιδάκης
*Ο Dr. Mathew Maavak, ερευνά την επιστήμη των συστημάτων, τους παγκόσμιους κινδύνους, τη γεωπολιτική, τη στρατηγική πρόβλεψη, τη διακυβέρνηση και την Τεχνητή Νοημοσύνη
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου