Μέσα στις πολλές συζητήσεις σχετικά με την ταχεία ανάπτυξη της λεγόμενης τεχνητής νοημοσύνης, υπάρχει μια σχετικά ασαφής αψιμαχία που επικεντρώνεται στην επιλογή της λέξης «παραισθήσεις»…
Οικειοποιούμενοι μια λέξη που χρησιμοποιείται συνήθως στην ψυχολογία και τις διάφορες μορφές μυστικισμού, οι ενισχυτές της τεχνητής νοημοσύνης (AI), ενώ αναγνωρίζουν το σφάλμα των μηχανών τους, τροφοδοτούν ταυτόχρονα την πιο αγαπημένη μυθολογία του κλάδου: ότι χτίζοντας αυτά τα μεγάλα γλωσσικά μοντέλα και εκπαιδεύοντάς τα σε οτιδήποτε Εμείς οι άνθρωποι έχουμε γράψει, πει και αναπαραστήσει οπτικά, θα μπορούν να «γεννήσουν» μια ισχυρή νοημοσύνη που θα πυροδοτήσει ένα εξελικτικό άλμα για το είδος μας…
Η γενετική τεχνητή νοημοσύνη θα δώσει τέλος στη φτώχεια, μας λένε. Θα θεραπεύσει όλες τις ασθένειες. Θα λύσει το πρόβλημα της κλιματικής αλλαγής. Θα κάνει τις δουλειές μας πιο ουσιαστικές και συναρπαστικές. Θα απελευθερώσει στιγμές αναψυχής και περισυλλογής, βοηθώντας μας να ανακτήσουμε την ανθρωπιά που χάσαμε από την όψιμη καπιταλιστική μηχανοποίηση. Θα τελειώσει η μοναξιά. Θα κάνει τις κυβερνήσεις μας ορθολογικές και ανταποκρινόμενες (στις ανάγκες μας). Αυτές, φοβάμαι, είναι οι πραγματικές παραισθήσεις της τεχνητής νοημοσύνης και τις ακούμε όλοι σε «βρόχο» από τότε που κυκλοφόρησε το Chat GPT στα τέλη του περασμένου έτους.
Υπάρχει ένας κόσμος στον οποίο η γενετική τεχνητή νοημοσύνη, ως ισχυρό εργαλείο πρόβλεψης έρευνας και εκτέλεσης κουραστικών εργασιών ρουτίνας, θα μπορούσε πράγματι να δημιουργηθεί προς όφελος της ανθρωπότητας, των άλλων ειδών ζωής και του κοινού μας σπιτιού. Αλλά για να συμβεί αυτό, αυτές οι τεχνολογίες θα πρέπει να αναπτυχθούν μέσα σε μια πολύ διαφορετική οικονομική και κοινωνική τάξη από τη δική μας, που θα είχε ως σκοπό την κάλυψη των ανθρώπινων αναγκών και την προστασία των πλανητικών συστημάτων που υποστηρίζουν τη ζωή, αλλά το τρέχον σύστημά μας δεν είναι μια τέτοια περίπτωση. Αντίθετα, είναι φτιαγμένο για να μεγιστοποιήσει την εξαγωγή πλούτου και κέρδους –τόσο από την εκμετάλλευση του ίδιου του ανθρώπου όσο και από τον φυσικό κόσμο– μια πραγματικότητα που μας έφερε σε αυτό που θα μπορούσαμε να το θεωρήσουμε ως το «τεχνο-νεκρο» στάδιο του καπιταλισμού. Σε αυτήν την πραγματικότητα της υπερσυγκεντρωμένης δύναμης και πλούτου, η τεχνητή νοημοσύνη – μακριά από το να ανταποκρίνεται σε όλες αυτές τις ουτοπικές ψευδαισθήσεις – είναι πολύ πιο πιθανό να γίνει ένα τρομακτικό εργαλείο περαιτέρω εκποίησης και λεηλασίας…
…βλέπουμε τις πλουσιότερες εταιρείες στην ιστορία (Microsoft, Apple, Google, Meta, Amazon…) να δεσμεύουν μονομερώς το σύνολο της ανθρώπινης γνώσης που υπάρχει σε ψηφιακή μορφή και να την περικλείουν σε ιδιόκτητα προϊόντα...
Το θέμα των πνευματικών δικαιωμάτων εν προκειμένω είναι καίριο.
Γιατί, για παράδειγμα, θα πρέπει να επιτρέπεται σε μια κερδοσκοπική εταιρεία να τροφοδοτεί με πίνακες, σχέδια και φωτογραφίες καλλιτεχνών που βρίσκονται εν ζωή, ένα πρόγραμμα όπως το Stable Diffusion ή το Dall-E 2, τα οποία στη συνέχεια τα χρησιμοποιεί για να δημιουργήσει εκδόσεις doppelganger αυτών των καλλιτεχνών, που αποφέρουν οφέλη σε όλους εκτός από τους ίδιους τους καλλιτέχνες;
Η ζωγράφος και εικονογράφος Molly Crabapple βοηθά στην ηγεσία ενός κινήματος καλλιτεχνών που αμφισβητούν αυτήν την κλοπή. «Οι γεννήτριες τέχνης τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστια σύνολα δεδομένων, που περιέχουν εκατομμύρια-εκατομμύρια εικόνες που προστατεύονται από πνευματικά δικαιώματα, που έχουν συλλεχθεί χωρίς να το γνωρίζει ο δημιουργός τους, χωρίς συναίνεση και αποζημίωση. Αυτή είναι ουσιαστικά η μεγαλύτερη ληστεία της τέχνης στην ιστορία, που διαπράττεται από αξιοσέβαστες, φαινομενικά, εταιρικές οντότητες που υποστηρίζονται από επιχειρηματικά κεφάλαια της Silicon Valley. Είναι ληστεία «στο φως της ημέρας», αναφέρει (η Molly Crabapple) σε μια νέα ανοιχτή επιστολή της.
Το κόλπο, φυσικά, είναι ότι η Silicon Valley αποκαλεί συνήθως την κλοπή "διαταραχή" - και έτσι πολύ συχνά ξεφεύγει. Γνωρίζουμε αυτή την κίνηση: προχωρήστε σε παράνομη περιοχή, ισχυριστείτε ότι οι παλιοί κανόνες δεν ισχύουν για τη νέα σας τεχνολογία, ουρλιάξτε ότι ο κανονισμός θα βοηθήσει μόνο την Κίνα ... Όταν όλοι ξεπεράσουμε την καινοτομία αυτών των νέων παιχνιδιών και αρχίσουμε να κάνουμε απολογισμό των κοινωνικών, πολιτικών και οικονομικών συντριμμιών, η τεχνολογία είναι ήδη τόσο πανταχού παρούσα που τα δικαστήρια και οι υπεύθυνοι χάραξης πολιτικής σηκώνουν τα χέρια ψηλά.
Το είδαμε με τη σάρωση βιβλίων και τέχνης από την Google. Με τον διαστημικό αποικισμό του Μασκ. Με την επίθεση της Uber στη βιομηχανία ταξί. Με την επίθεση της Airbnb στην αγορά των ενοικίων. Με την ακολασία του Facebook στα δεδομένα μας. Μη ζητάς άδεια, αρέσκονται να λένε οι «διαταράκτες», ζήτα συγνώμη…
Στο The Age of Surveillance Capitalism, η Shoshana Zuboff περιγράφει σχολαστικά πώς οι χάρτες Street View της Google ξεπέρασαν τους κανόνες απορρήτου, στέλνοντας τα αυτοκίνητά της με κάμερα έξω για να φωτογραφίσουν τους δημόσιους δρόμους και το εξωτερικό των σπιτιών μας. Όταν κυκλοφόρησαν οι αγωγές για την υπεράσπιση των δικαιωμάτων απορρήτου, το Street View ήταν ήδη τόσο πανταχού παρόν στις συσκευές μας (…) που λίγα δικαστήρια εκτός Γερμανίας ήταν πρόθυμα να παρέμβουν.
Τώρα το ίδιο που συνέβη στο εξωτερικό των σπιτιών μας συμβαίνει με τα λόγια μας, τις εικόνες μας, τα τραγούδια μας, ολόκληρη την ψηφιακή μας ζωή. Όλα κατασχέθηκαν επί του παρόντος και χρησιμοποιούνται για την εκπαίδευση των μηχανών για την προσομοίωση της σκέψης και της δημιουργικότητας. Αυτές οι εταιρείες πρέπει να γνωρίζουν ότι εμπλέκονται σε κλοπές… απλώς ελπίζουν για άλλη μια φορά ότι η κλίμακα της ληστείας είναι ήδη τόσο μεγάλη και εκτυλίσσεται με τέτοια ταχύτητα που τα δικαστήρια και οι υπεύθυνοι χάραξης πολιτικής θα σηκώσουν και πάλι τα χέρια τους ψηλά μπροστά στο υποτιθέμενο αναπόφευκτο...
Μέχρι τώρα, οι περισσότεροι από εμάς έχουμε ακούσει για την έρευνα που ζητούσε από ερευνητές και προγραμματιστές τεχνητής νοημοσύνης να εκτιμήσουν την πιθανότητα τα προηγμένα συστήματα τεχνητής νοημοσύνης να προκαλέσουν την «εξαφάνιση του ανθρώπου ή παρόμοια μόνιμη και σοβαρή αποδυνάμωση του ανθρώπινου είδους»….
Πώς μπορεί κανείς λογικά να πάει στη δουλειά και να προωθήσει εργαλεία που εγκυμονούν τέτοιους υπαρξιακούς κινδύνους; Συχνά, η δικαιολογία που δίνεται είναι ότι αυτά τα συστήματα έχουν τεράστιες πιθανές θετικές πλευρές – εκτός από το ότι αυτά τα πλεονεκτήματα είναι, ως επί το πλείστον, «ψευδαισθήσεις». Ας δούμε μερικές απ’ αυτές, τις πιο σημαντικές.
Ψευδαίσθηση #1: Η τεχνητή νοημοσύνη θα λύσει την κλιματική κρίση
…Το ακούσαμε αυτό από όλους, από το Παγκόσμιο Οικονομικό Φόρουμ μέχρι το Συμβούλιο Εξωτερικών Σχέσεων μέχρι το Boston Consulting Group…
Σύμφωνα με αυτή τη λογική, η αποτυχία να «λυθούν» μεγάλα προβλήματα όπως η κλιματική αλλαγή οφείλεται σε έλλειμμα ευφυΐας. Αλλά τι παραπάνω θα πουν οι μηχανές από τα βαριά διδακτορικά και τα βραβεία Νόμπελ, που λένε στις κυβερνήσεις μας εδώ και δεκαετίες ότι για να βγούμε από αυτό το χάος πρέπει να μειώσουν τις εκπομπές αερίων;….
Ο λόγος που αγνοήθηκε αυτή η συμβουλή δεν οφείλεται σε πρόβλημα κατανόησης ή επειδή κατά κάποιον τρόπο χρειαζόμαστε μηχανές για να κάνουν τη σκέψη αυτή για εμάς. Οφείλεται στο ότι αν κάνουμε αυτό που απαιτεί από εμάς η κλιματική κρίση, θα δεσμεύονταν τρισεκατομμύρια δολάρια περιουσιακών στοιχείων ορυκτών καυσίμων, θα αμφισβητούνταν το μοντέλο ανάπτυξης που βασίζεται στην κατανάλωση… Η κλιματική κρίση δεν είναι, στην πραγματικότητα, ένα μυστήριο ή ένας γρίφος που δεν έχουμε ακόμη λύσει λόγω ανεπαρκών δεδομένων. Ξέρουμε τι θα χρειαζόταν, αλλά δεν είναι μια γρήγορη λύση – είναι μια αλλαγή παραδείγματος […]
Όσο μας πλημμυρίζουν με ψεύτικες απομιμήσεις και κλώνους διαφόρων ειδών, τόσο περισσότερο έχουμε την αίσθηση ότι βυθιζόμαστε σε μία ενημερωτική κινούμενη άμμο. Ο Geoffrey Hinton, «ο νονός της τεχνητής νοημοσύνης»…, το κατάλαβε καλά, όταν παραιτούμενος από την Google, είπε στους New York Times για τον κίνδυνο οι άνθρωποι «να μη μπορούν πλέον να γνωρίζουν τι είναι αλήθεια».
…όταν δεν έχουμε εμπιστοσύνη σε όλα όσα διαβάζουμε και βλέπουμε στα μίντια, τότε γινόμαστε ακόμη λιγότερο εξοπλισμένοι για να λύσουμε πιεστικά συλλογικά προβλήματα. Η κρίση εμπιστοσύνης προϋπήρχε του ChatGPT, φυσικά, αλλά δεν υπάρχει αμφιβολία ότι ο πολλαπλασιασμός των deep fakes θα συνοδεύεται από μια εκθετική αύξηση στις ήδη ακμάζουσες κουλτούρες συνωμοσίας…
Ψευδαίσθηση #2: Η τεχνητή νοημοσύνη θα προσφέρει σοφή διακυβέρνηση
Αυτή η ψευδαίσθηση αφορά στο εγγύς μέλλον κατά το οποίο οι πολιτικοί και οι γραφειοκράτες, βασιζόμενοι στην τεράστια συγκεντρωτική δύναμη των συστημάτων τεχνητής νοημοσύνης, θα είναι σε θέση «να δουν πρότυπα ανάγκης και να αναπτύξουν προγράμματα βασισμένα σε στοιχεία» που έχουν μεγαλύτερα οφέλη για τους ψηφοφόρους τους. Αυτός ο ισχυρισμός προέρχεται από ένα έγγραφο που δημοσιεύτηκε από το ίδρυμα του Boston Consulting Group, αλλά επαναλαμβάνεται σε πολλά κέντρα σκέψης και συμβούλους διαχείρισης. Και είναι ενδεικτικό ότι αυτές οι συγκεκριμένες εταιρείες –προσλαμβάνονται από κυβερνήσεις και πολυεθνικές για να προσδιορίσουν την εξοικονόμηση κόστους, που συχνά καταλήγει στην απόλυση μεγάλου αριθμού εργαζομένων…
…αλλά ο λόγος που οι πολιτικοί επιβάλλουν σκληρές και
αναποτελεσματικές πολιτικές είναι ότι υποφέρουν από έλλειψη αποδεικτικών
στοιχείων; …Δεν κατανοούν το ανθρώπινο κόστος της λιμοκτονίας, της
δημόσιας υγειονομικής περίθαλψης εν μέσω πανδημιών ή της αποτυχίας να
επενδύσουν σε μη εμπορεύσιμες κατοικίες όταν οι σκηνές (αστέγων)
γεμίζουν τα αστικά μας πάρκα ή της έγκρισης νέων υποδομών ορυκτών
καυσίμων ενώ οι θερμοκρασίες ανεβαίνουν στα ύψη; Χρειάζονται την τεχνητή
νοημοσύνη για να τους κάνει «εξυπνότερους…;
Ψευδαίσθηση #3:…
Ερωτηθείς εάν ανησυχεί για το ChatGPT, ο Άλτμαν είπε ότι ανησυχεί, αλλά πρόσθεσε: «Ελπίζουμε ότι όλα θα πάνε καλά». Για τους συναδέλφους του CEOs στον τομέα της τεχνολογίας - αυτούς που ανταγωνίζονται για να βγουν βιαστικά τα ανταγωνιστικά chatbots τους - είπε: «Νομίζω ότι οι καλοί άγγελοι θα κερδίσουν».
Οι καλοί άγγελοι όμως απολύθηκαν από την Google επειδή δημοσίευσαν επικριτικά έγγραφα σχετικά με την τεχνητή νοημοσύνη… (πιο πρόσφατα ο Hinton). Αυτό συμβαίνει επειδή, σε αντίθεση με τις ψευδαισθήσεις των ανθρώπων που επωφελούνται περισσότερο από την τεχνητή νοημοσύνη, η Google δεν λαμβάνει αποφάσεις με βάση το καλύτερο για τον κόσμο – λαμβάνει αποφάσεις με βάση το καλύτερο για τους μετόχους της Alphabet, που δεν θέλουν να χάσουν…
Ψευδαίσθηση # 4 : Η τεχνητή νοημοσύνη θα μας απελευθερώσει από την αγγαρεία
Αν οι παραισθήσεις της Silicon Valley φαίνονται εύλογες σε πολλούς, υπάρχει ένας απλός λόγος για αυτό. Το Generative AI βρίσκεται επί του παρόντος σε αυτό που θα μπορούσαμε να θεωρήσουμε ως το στάδιο του «ψευδούς σοσιαλισμού». Ο χρυσός κανόνας της Silicon Valley ζητά: Πρώτον, τη δημιουργία ενός ελκυστικού προϊόντος (μια μηχανή αναζήτησης, ένα εργαλείο χαρτογράφησης, ένα κοινωνικό δίκτυο, μια πλατφόρμα βίντεο, μια κοινή χρήση διαδρομής…). Το οποίο αρχικά θα δοθεί δωρεάν ή σχεδόν δωρεάν για μερικά χρόνια… («Παίξτε με τα bots», μας λένε, «δείτε τι διασκεδαστικά πράγματα μπορείτε να δημιουργήσετε!»). Θα το περιβάλλουν με πολύ ωραία λόγια και στόχους, όπως η δημιουργία μιας «πλατείας της πόλης» ή ενός «κοινού ανταλλαγής πληροφοριών» ή για τις «διασυνδέσεις μεταξύ ανθρώπων», όλα αυτά περιβάλλονται συγχρόνως με ωραία λόγια για την ελευθερία και τη δημοκρατία (και να μην είστε «τοξικοί»). Κι ενώ οι άνθρωποι γαντζώνονται από αυτά τα δωρεάν εργαλεία και οι εταιρείες που ανταγωνίζονται το προϊόν σας κηρύσσουν πτώχευση, εσείς εισαγάγετε στοχευμένες διαφημίσεις, συνεχή επιτήρηση, αστυνομικές συμβάσεις, πωλήσεις δεδομένων μαύρου κουτιού και κλιμακούμενες συνδρομές[…]
Η τεχνητή νοημοσύνη δεν θα είναι το τέλος της απασχόλησης, μας λένε, μόνο η «βαρετή δουλειά » θα τελειώσει! Τα chatbot θα κάνουν όλες τις εργασίες τις εργασίες ρουτίνας, ενώ οι άνθρωποι απλώς θα τα επιβλέπουν (σ.σ. η διάκριση της εργασίας σε άχθος και δημιουργία από την Χ. Άρεντ ισχύει!)…
Επικαλούνται το όραμα αριστερών (όπως του γαμπρού του Καρλ Μαρξ, Πολ Λαφάργκ, ο οποίος έγραψε το μανιφέστο με τίτλο The Right To Be Lazy -Το δικαίωμα στην τεμπελιά). Αλλά αν το να κερδίζουμε χρήματα δεν είναι πλέον επιτακτική ανάγκη για τη ζωή, τότε πρέπει να υπάρχουν άλλοι τρόποι για να καλύψουμε τις ανάγκες μας για στέγη και διατροφή. Ένας κόσμος χωρίς άθλιες θέσεις εργασίας σημαίνει ότι το ενοίκιο πρέπει να είναι δωρεάν, η υγειονομική περίθαλψη πρέπει να είναι δωρεάν και κάθε άτομο πρέπει να έχει αναφαίρετα οικονομικά δικαιώματα. Και ξαφνικά δεν μιλάμε καθόλου για τεχνητή νοημοσύνη – μιλάμε για σοσιαλισμό.
…Ζούμε (όμως) στον καπιταλισμό, και σε αυτό το σύστημα έχουμε μια πλημμυρίδα με τεχνολογίες που μπορούν να εκτελέσουν την εργασία αμέτρητων εργαζομένων, οι οποίοι θα είναι ξαφνικά ελεύθεροι (σ.σ. δηλαδή άνεργοι) για να γίνουν φιλόσοφοι και καλλιτέχνες!
Σύμφωνα με τον Hinton, αφαιρούν μεν «την βαρετή δουλειά» αλλά «μπορεί να αφαιρέσουν περισσότερα από αυτό».
«Η τέχνη της γενετικής τεχνητής νοημοσύνης είναι βαμπιρική, διασκεδάζει με έργα τέχνης προηγούμενων γενεών, ακόμη και όταν απορροφά τη ζωή από ζωντανούς καλλιτέχνες». Αλλά υπάρχουν τρόποι να αντισταθούμε: μπορούμε να αρνηθούμε να χρησιμοποιήσουμε αυτά τα προϊόντα και να οργανωθούμε για να απαιτήσουμε από τους εργοδότες και τις κυβερνήσεις μας να τα απορρίψουν επίσης…
…ο στόχος τους... Ήταν πάντα το κέρδος από τη μαζική εξαθλίωση, η οποία, στον καπιταλισμό, είναι η κραυγαλέα και λογική συνέπεια της αντικατάστασης των ανθρώπινων λειτουργιών με bots.
- Η Naomi Klein είναι αρθρογράφος και συγγραφέας του Guardian των ΗΠΑ. Είναι η συγγραφέας των μπεστ σέλερ των No Logo και The Shock Doctrine και καθηγήτρια Climate Justice και συνδιευθύντρια του Centre for Climate Justice στο Πανεπιστήμιο της Βρετανικής Κολομβίας
- Σκίτσο Alex
- https://www.theguardian.com/commentisfree/2023/may/08/ai-machines-hallucinating-naomi-klein (αποσπάσματα) απόδοση από ΓΧΠ
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου