Η Τεχνητή Νοημοσύνη μπορεί να σας σκοτώσει — αλλά όχι όπως νομίζετε

 

του Ανδρέα Κοσιάρη

 
Οι παράλογοι φόβοι για την Τεχνητή Νοημοσύνη εφορμώνται από τις υπερπαραγωγές του Χόλιγουντ και την εμφανίζουν ως μία ψηφιακή υπερδύναμη που θα αφανίσει την ανθρωπότητα. Στην πραγματικότητα, και σίγουρα προς το παρόν, η Τεχνητή Νοημοσύνη μπορεί να σας σκοτώσει με έναν πολύ πιο πεζό τρόπο — με ψεύτικα βιβλία.

Στους μήνες που ακολούθησαν την εμφάνιση των συστημάτων Τεχνητής Νοημοσύνης, χιλιάδες βιβλία γραμμένα από αυτά τα μεγάλα γλωσσικά μοντέλα εμφανίστηκαν προς πώληση σε διαδικτυακά βιβλιοπωλεία όπως αυτό της Amazon. Κάποια ήταν προφανείς απάτες — συγγραφείς κατήγγειλαν πως ηλεκτρονικά βιβλία με παραλλαγμένο το δικό τους όνομα και τους τίτλους βιβλίων τους πωλούνται κατά συρροή στις ηλεκτρονικές πλατφόρμες.

Και αυτές οι πλατφόρμες, όπως η Amazon, που στον τομέα των ηλεκτρονικών βιβλίων αντιπροσωπεύει ένα θεόρατο 67% της αγοράς, δεν έκαναν τίποτα για να τα σταματήσουν. Οι συγγραφείς θα έπρεπε να βρουν ένα-ένα τα ψεύτικα βιβλία που αφορούν παραλλαγές δικών τους τίτλων και να τα αναφέρουν στην εταιρεία ώστε αυτή να προβεί καθυστερημένα στην αφαίρεσή τους από την πλατφόρμα. Σήμερα, αν κανείς μπει να ψάξει για ένα βιβλίο στην πλατφόρμα βιβλιοκριτικής Goodreads, ιδιοκτησίας της Amazon, είναι πολύ πιθανό τα πρώτα αποτελέσματα στην αναζήτηση να είναι τεχνητές παραλλαγές του βιβλίου που ψάχνει.

Όμως η τελευταία «μόδα» των βιβλίων γραμμένων από συστήματα Τεχνητής Νοημοσύνης, αντιπροσωπεύει έναν μεγαλύτερο κίνδυνο από την παραβίαση πνευματικών δικαιωμάτων. Εσχάτως τα ηλεκτρονικά βιβλιοπωλεία έχουν γεμίσει με βιβλία-οδηγούς για τη συλλογή μανιταριών και φυτών προς βρώση. Βιβλία που δεν είναι γραμμένα από ειδικούς στον τομέα, αλλά από μεγάλα γλωσσικά μοντέλα — που, όπως έχουμε δει, έχουν μια ακαταμάχητη τάση να «εφευρίσκουν» ψέματα.

Τα περιστατικά ανάγκασαν τη Μυκολογική Εταιρεία της Νέας Υόρκης να δημοσιεύσει προειδοποίηση στα μέσα κοινωνικής δικτύωσης: «Παρακαλούμε να αγοράζετε μονάχα βιβλία γνωστών συγγραφέων και συλλεκτών, μπορεί στην κυριολεξία να είναι ζήτημα ζωής ή θανάτου». Και οι μυκολόγοι δεν υπερβάλλουν με αυτό το «στην κυριολεξία».

Η αναζήτηση και συλλογή μανιταριών μπορεί να είναι ένα επικίνδυνο χόμπι ακόμα και υπό τις καλύτερες συνθήκες. Από τα περίπου 100.000 γνωστά είδη μανιταριών, περίπου 100 προκαλούν τη συντριπτική πλειοψηφία των δηλητηριάσεων σε ανθρώπους — και από αυτά τα 100, περίπου 20 είναι αυτά που μπορούν να προκαλέσουν σχετικά άμεσο θάνατο. Αν και οι αριθμοί τους είναι σχετικά μικροί, εντούτοις προκαλούν έναν αρκετά μεγάλο αριθμό δηλητηριάσεων (7428 ανά έτος στις ΗΠΑ την περίοδο 1999-2016, εκ των οποίων περίπου 3 ανά έτος είναι θανατηφόρες).

Η συντριπτική πλειοψηφία αυτών των δηλητηριάσεων συμβαίνει διότι πολλά από τα δηλητηριώδη μανιτάρια μοιάζουν πολύ με συγγενικά εδώδιμα είδη. Οι μυκολόγοι προτείνουν να μην συλλέγει κανείς παρά μόνο μια χούφτα είδη τα οποία γνωρίζει καλά και μπορεί να αναγνωρίσει εύκολα, ακόμα και με ένα βιβλίο γραμμένο από ειδικό, με λεπτομερείς περιγραφές και καλή φωτογραφική αποτύπωση ανά χείρας.

Όμως τα «ψεύτικα» βιβλία συλλογής μανιταριών δεν περιέχουν ούτε αυτή την ελάχιστη εγγύηση γνώσης. Με φανταστικούς συγγραφείς, δημιουργημένους για να μοιάζουν με ειδικούς (πολλά ψεύτικα ονόματα έχουν τον τίτλο «Δρ.») και περιεχόμενο γεμάτο ανακρίβειες και μοτίβα ψεύδους που αποτελούν χαρακτηριστικό γνώρισμα των κειμένων που παράγονται από μοντέλα Τεχνητής Νοημοσύνης, τα βιβλία αυτά πωλούνται συχνότατα σε αρχάριους μανιταροσυλλέκτες που δεν έχουν τη γνώση να ξεχωρίσουν ένα ψεύτικο από ένα αληθινό βιβλίο.

Τίτλοι όπως «Ο Απόλυτος Οδηγός Συλλογής Μανιταριών» και «Βιβλίο Συνταγών Άγριων Μανιταριών» πωλούνταν στο βιβλιοπωλείο της Amazon. Αφαιρέθηκαν μονάχα αφότου δημοσιογράφοι του τεχνολογικού ιστότοπου 404media απευθύνθηκαν στην εταιρεία για εξηγήσεις. «Επενδύουμε σημαντικό χρόνο και πόρους για να διασφαλίσουμε την τήρηση των οδηγιών μας και αφαιρούμε βιβλία που δεν υπακούν σε αυτές τις οδηγίες. Δεσμευόμαστε να παρέχουμε μια ασφαλή εμπειρία αγοράς και ανάγνωσης για τους πελάτες μας και παίρνουμε τέτοια ζητήματα στα σοβαρά», είπε στην απάντησή της η εκπρόσωπος της εταιρείας.

Στην πραγματικότητα όμως είναι ελάχιστα τα προληπτικά βήματα εταιρειών όπως η Amazon στο ζήτημα των ψεύτικων βιβλίων. Επαφίεται στους συγγραφείς, τους αναγνώστες, τους δημοσιογράφους και ανήσυχους ειδικούς να καταγγείλουν στην Amazon τέτοια βιβλία — ακόμα και τότε, η εταιρεία μπορεί να κωλυσιεργήσει παραδειγματικά, όπως ένιωσε στο πετσί της η συγγραφέας Τζέιν Φρίντμαν. Η Amazon αρνήθηκε για αρκετό καιρό να αφαιρέσει από το κατάστημά της βιβλία που παράλλασσαν το όνομά της διότι, όπως λέει η ίδια ότι της απάντησε η Amazon, «δεν είχε κατοχυρώσει εμπορικά το όνομά της».

Οι δυνητικά θανατηφόρες «συμβουλές» της Τεχνητής Νοημοσύνης, όμως, δεν εξαντλούνται σε οδηγούς συλλογής μανιταριών. Πρόσφατα, ένα Νεοζηλανδικό σουπερμάρκετ λάνσαρε μια εφαρμογή ΤΝ η οποία πρότεινε συνταγές στους χρήστες της ανάλογα με τα υλικά που είχαν διαθέσιμα. Κανείς όμως δεν σκέφτηκε να εγγράψει έναν «κόφτη» στο λογισμικό της εφαρμογής, που να αποκλείει τη χρήση επικίνδυνων για την υγεία υλικών. Έτσι, οι χρήστες ανακάλυψαν πως αν εισάγεις στην εφαρμογή επικίνδυνες ουσίες όπως χλωρίνη, εκείνη θα σου προτείνει συνταγές με χλωρίνη.

Πολύ μακριά από τα Χολιγουντιανά κλισέ του Terminator, η Τεχνητή Νοημοσύνη είναι εδώ και μπορεί να σκοτώσει. Δεν θα το κάνει με υπερόπλα, αλλά με έναν εξαιρετικά βαρετό τρόπο — με βιβλία συλλογής μανιταριών και συνταγές για αέριο χλωρίου.

ΠΗΓΗ