ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ
ΟΙ ΚΙΝΔΥΝΟΙ ΤΗΣ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ
Η επαυξημένη πραγματικότητα είναι επικίνδυνη;: γράφει ο Γιάννης Φραγκούλης
Υπάρχει μεταθανάτια ζωή; Ή ποιος αξίζει την αιώνια ζωή; Το πρώτο ερώτημα μπορεί να απαντηθεί με κάποιο τρόπο. Το δεύτερο φαίνεται ότι ανήκει σε σενάριο επιστημονικής φαντασίας. Και όμως ο Μισέλ Ουέλμπεκ, στο μυθιστόρημα «Η δυνατότητα ενός νησιού» το θέτει, πάλι στο πλαίσιο του φαντασιακού. Στις μέρες μας, κατά κάποιο τρόπο, αυτό έχει γίνει εφικτό. Ο λόγος για την τεχνητή νοημοσύνη. Με αφορμή την ταινία «Το αιώνιο εσύ» («Eternal you») θα διερευνήσουμε αυτό το θέμα.
Η ΕΠΑΥΞΗΜΕΝΗ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΙΝΑΙ ΕΠΙΚΙΝΔΥΝΗ;: ΤΟ ΛΟΓΙΣΜΙΚΟ
Αυτό που βλέπουμε σε αυτό το ντοκιμαντέρ είναι ότι ένας άνθρωπος, ακόμα και αν έχει πεθάνει, ζει για πάντα. Πως όμως γίνεται αυτό; Όπως θα δούμε η τεχνολογία αναλαμβάνει να αποθανατίσει το εν λόγω πρόσωπο. Όλα αυτά γίνονται με κόστος τόσο χρηματικό όσο και ψυχολογικό. Ας ξεδιπλώσουμε το χάρτη της πορείας που προτείνουν οι τεχνικοί της τεχνητής νοημοσύνης.
Όλα ξεκινούν από την επιθυμία κάποιου να επικοινωνήσει με ένα πρόσωπο αγαπητό που έχει πεθάνει. Ουσιαστικά δεν μπορεί να δεχτεί την απώλεια αυτού του ανθρώπου και, απεγνωσμένα, θέλει να το φέρει έστω για λίγο κοντά του. Στην εποχή μας οι τεχνικοί της τεχνητής νοημοσύνης μπορούν εύκολα να δημιουργήσουν κείμενα από δεδομένα που μπορούν να βρουν. Αυτά είτε είναι στο διαδίκτυο είτε δίδονται από κάποιο άνθρωπο συναινετικά. Στην πρώτη περίπτωση έχουμε ένα προϊόν για το οποίο δεν έχει συναινέσει κάποιος, στη δεύτερη εκτελείται μια παραγγελία. Το κείμενο αυτό μπορεί να είναι λεκτικό, ένα μήνυμα σε ένα chat, μπορεί να είναι φωνητικό ή, ακόμα, και βίντεο.
«Η επαυξημένη πραγματικότητα είναι επικίνδυνη;: αυτές οι εξισώσεις μπορούν να αλληλεπιδρούν.»
Η ΕΠΑΥΞΗΜΕΝΗ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΙΝΑΙ ΕΠΙΚΙΝΔΥΝΗ;: ΤΑ ΟΡΙΑ
Αυτό που μπορεί να κάνει η τεχνητή νοημοσύνη είναι να συνδέει δεδομένα σύμφωνα με ένα λογισμικό. Αυτό δομείται κατόπιν μιας αφήγησης, η οποία μεταφράζεται σε μια σειρά από μαθηματικές εξισώσεις. Επί πλέον, μια σειρά μαθηματικών εξισώσεων μπορεί να σχετίζεται με μία άλλη, σύμφωνα με μια εξίσωση διαφορετικών επιλογών. Αυτά ήταν λίγο ή πολύ γνωστά στους προγραμματιστές στις περασμένες δεκαετίες. Αυτό που δεν μπορούσε να φανταστεί κάποιος είναι ότι αυτές οι εξισώσεις μπορούν να αλληλεπιδρούν, ακολουθώντας ένα λογισμικό, αλλά, σε πολλές περιπτώσεις χωρίς να χρειάζεται κάποιος έλεγχος από κάποιο προγραμματιστή. Εδώ και κάμποσα χρόνια αυτό είναι δυνατό. Είναι εφικτό αυτό το λογισμικό να κάνει πρώτη και δεύτερη συνεπαγωγή, στις νέες μορφές της τεχνητής νοημοσύνης, τα τελευταία χρόνια.
Το δεύτερο θέμα που θα πρέπει να αντιληφθούμε είναι ότι η παραγωγή ενός λεκτικού κειμένου ή ενός φωνητικού ή μιας σειράς εικόνων δεν είναι παρά μια σειρά συναρτήσεων, δεδομένων που έχουν γίνει data και έχουν μπει σε μια αφηγηματική σειρά. Όταν η τεχνητή νοημοσύνη μπει στη παραγωγική διαδικασία, τότε θα μπορεί να κάνει περισσότερες αλλεπάλληλες συνεπαγωγές, άρα θα μπορεί να λειτουργεί όπως ο ανθρώπινος νους. Το προς διερεύνηση θέμα είναι αν θα καταφέρει ένα μηχάνημα να παράγει αυτό που λέμε συναισθηματική νοημοσύνη. Τότε μπορεί ένα μηχάνημα τεχνητής νοημοσύνης να λειτουργεί όπως ο άνθρωπος. Ή, για να το θέσουμε διαφορετικά, η τεχνητή νοημοσύνη μπορεί να είναι πιο ικανή από τον άνθρωπο; Η απάντηση σε αυτό το ερώτημα που τέθηκε στο chatGBT ήταν αφοπλιστική: «Μα είναι».
Η ΕΠΑΥΞΗΜΕΝΗ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΙΝΑΙ ΕΠΙΚΙΝΔΥΝΗ;: ΟΙ ΔΥΝΑΤΟΤΗΤΕΣ ΤΟΥ
Η υπεροψία του λογισμικού μπορεί να είναι εμφανής. Όμως, αν το δούμε πιο προσεχτικά, οι δυνατότητές του είναι μεγαλύτερες από αυτές του ανθρώπου, πολύ περισσότερο στο άμεσο μέλλον. Αυτό συμβαίνει επειδή το σύστημα της τεχνητής νοημοσύνης μαθαίνει τάχιστα από τα λάθη του και γίνεται καλύτερο. Οι νευρώνες δεν γερνάνε, αντίθετα αναβαθμίζονται συνέχεια. Η δυνατότητα συνδυασμού πληροφοριών είναι πιο γρήγορη και, εφόσον το πρόγραμμα είναι σωστό, είναι αλάθητη. Άρα υπάρχουν δύο βασικά θέματα που θα πρέπει να δούμε.
«Η επαυξημένη πραγματικότητα είναι επικίνδυνη;:
το chat μιλά όπως ακριβώς αυτός.»
Το πρώτο από αυτά είναι μέχρι που μπορεί και πρέπει να φτάσει η εξέλιξη της τεχνητής νοημοσύνης. Το δεύτερο είναι αν θέλουμε αυτή να υπηρετεί τον άνθρωπο, άρα αν θα πρέπει να είναι χειραγωγήσιμη. Θα πρέπει να τεθεί ένα όριο. Αυτό έγινε κατανοητό όταν το chatGBT συμβούλεψε έναν άνθρωπο που αντιμετώπιζε ψυχολογικά προβλήματα ότι ο θάνατος ήταν μια λύση. Αυτός αυτοκτόνησε. Ήταν η αφορμή για να γίνει η διεργασία για να θεσπιστεί νόμος, σε ευρωπαϊκό επίπεδο, για τον έλεγχο των διαδικασιών τεχνητής νοημοσύνης. Αυτό το δέχτηκαν οι ΗΠΑ. Όμως είμαστε σίγουροι ότι μπορούν να ελεγχθούν όλα τα εργαστήρια σε όλο τον κόσμο; Μπορούμε να ελέγξουμε όλα τα προϊόντα; Μπορούμε να ελέγξουμε όλο το διαδίκτυο, ειδικά το σκοτεινό του τομέα;
Η ΕΠΑΥΞΗΜΕΝΗ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΙΝΑΙ ΕΠΙΚΙΝΔΥΝΗ;: Η ΤΑΙΝΙΑ
Στην ταινία βλέπουμε μια κοπέλα που θέλει να μιλήσει με ένα φίλο της που έχει πεθάνει. Το chat μιλά όπως ακριβώς αυτός. Η χαρά της είναι μεγάλη. Αυτή η επικοινωνία γίνεται όλο και πιο συχνή. Έχουμε ένα εθισμό γιατί αυτή θέλει να μιλήσει με αυτόν και να λύσει αυτά τα θέματα που δεν πρόλαβε να επιλύσει όσο αυτός ζούσε. Ξέρουμε ότι οι απαντήσεις ήταν ένας συνδυασμός από δεδομένα που δόθηκαν ή αλιεύτηκαν. Άρα δε μιλούσε ο φίλος της, αλλά οι απαντήσεις έρχονταν από όσα αυτή είχε δώσει και από όσα αυτός είχε πει όσο ζούσε. Ήταν συνομιλία με ένα μηχάνημα και όχι με έναν άνθρωπο. Ο εθισμός είναι αυτονόητο ότι δεν την άφηνε να συνειδητοποιήσει αυτό το δεδομένο. Όταν οι απαντήσεις διέφεραν από τις προηγούμενες, δινόταν η εντύπωση ότι συνομιλούσε με τον φίλο της.
Αυτό το είδος της συνομιλίας δεν είναι κάτι το πρωτόγνωρο. Οι μάντισσες, οι χαρτορίχτρες, οι καφετζούδες, τα μέντιουμ, η εκκλησία παρέχουν την ίδια διαδικασία επικοινωνίας. Η μόνη διαφορά είναι ότι στις προηγούμενες περιπτώσεις αυτή η επικοινωνία δεν μπορεί να διαρκέσει πολύ χρόνο. Στην τεχνητή νοημοσύνη μπορεί να μην έχει τέλος.
Σε μια άλλη περίπτωση, πάλι στην ίδια ταινία, μια μητέρα θέλει να επικοινωνήσει με τη μικρή κόρη της που έχει πεθάνει. Τώρα όμως, αφού φορέσει μια ειδική «μάσκα» και ειδικά μεταλλικά «γάντια», μπορεί να τη δει ζωντανή, σχεδόν να την ακουμπήσει, να είναι μαζί της. Η δεύτερη επικοινωνία είναι πιο άμεση και πιο φορτισμένη συναισθηματικά. Μπορεί αυτή η μητέρα να το είχε καταλάβει ότι δεν ήταν πραγματικότητα, αλλά η επανάληψη αυτής της επικοινωνίας ήταν πιθανή.
Η ΕΠΑΥΞΗΜΕΝΗ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΙΝΑΙ ΕΠΙΚΙΝΔΥΝΗ;: ΟΙ ΚΙΝΔΥΝΟΙ
Και στις δύο περιπτώσεις οι τεχνικοί αυτών των λογισμικών παραδέχθηκαν τα ίδια θέματα. Η πρώτη περίπτωση ήταν στις ΗΠΑ και η δεύτερη στη Νότιο Κορέα. Δεν ήταν σίγουροι αν αυτός ο τρόπος επικοινωνίας ήταν σωστός για τους ανθρώπους που τη χειρίζονταν. Δεν ήταν ικανοί να καταλάβουν τις συνεπαγωγές που έκανε το λογισμικό της τεχνητής νοημοσύνης, τον τρόπο που παρήχθη αυτή η αφηγηματική ροή. Μέχρι ενός βαθμού αυτή η διαδικασία είναι ανεξέλεγκτη.
«Η επαυξημένη πραγματικότητα είναι επικίνδυνη;:
ο Άλλος είναι μια επαυξημένη
επινόηση της ταυτότητας.»
Αν το δούμε καλύτερα θα καταλάβουμε ότι έχουμε μια επικοινωνία μεταξύ του ID και του Άλλου, σύμφωνα με τη λακανική θεωρία της ψυχανάλυσης. Δεχόμενοι ότι αυτή η συνομιλία στον άνθρωπο οδηγεί στην υστερία, πρώτα, ακολούθως στην ψύχωση, τέλος στην σχιζοφρένεια, μπορούμε να την ελέγξουμε και να την αναλύσουμε. Στην περίπτωση της επαφής του ανθρώπου με την τεχνητή νοημοσύνη έχουμε μια διαφορετική συνομιλία: το ID μιλά με μια οντότητα που έχει στοιχεία του Άλλου και αυτά που ένα λογισμικό έχει δημιουργήσει. Άρα αυτή η συνομιλία έχει δύο διαφορετικές συνισταμένες: αυτή που σχετίζεται με τον Άλλο και αυτή που έχει να κάνει με το λογισμικό.
Η ΕΠΑΥΞΗΜΕΝΗ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΙΝΑΙ ΕΠΙΚΙΝΔΥΝΗ;: Η ΝΕΥΡΩΣΗ
Η δυσκολία είναι να βρει ο αναλυτής ποια στοιχεία έχουν να κάνουν με τον Άλλο και ποια με το λογισμικό. Ξέρουμε ότι ο Άλλος είναι μια επαυξημένη επινόηση της ταυτότητας από στοιχεία που έχουν εισέλθει στον ψυχισμό του ανθρώπου είτε από το ασυνείδητό του είτε από τον κοινωνικό περίγυρο. Αυτά μπορούμε σε μια αναλυτική διαδικασία με τον αναλυόμενο να τα βρούμε. Πως μπορούμε να ανακαλύψουμε ποια είναι αυτά που η τεχνητή νοημοσύνη έχει δώσει στον άνθρωπο που αντιμετωπίζει ένα νευρωσικό θέμα; Δύσκολο. Πιο δύσκολο είναι αυτός να πεισθεί ότι υπάρχουν παραποιημένα στοιχεία, έτσι όπως τα έχουμε αναλύσει. Με άλλα λόγια, το διάβα προς το υστερικό ή το ψυχωτικό είναι πιο γρήγορο.
«Η επαυξημένη πραγματικότητα είναι επικίνδυνη;:
δεν είμαστε σίγουροι για το αν υπάρχουν
ήδη τέτοια προγράμματα.»
Αν το θέμα της παραγωγής έντονων και δυσεπίλυτων νευρωσικών καταστάσεων είναι σοβαρό, τότε αυτό που θα πρέπει να μας τρομάζει περισσότερο είναι το άλλο θέμα: Πόσο εύκολο είναι να παραχθεί επαυξημένη πραγματικότητα από ένα λογισμικό, κατόπιν παραγγελίας ενός κέντρου αποφάσεων, ιδιωτικού ή κρατικού; Και που θα μπορούσε αυτό να οδηγήσει; Αυτή η επαυξημένη πραγματικότητα μπορεί να οδηγήσει σε αποφάσεις που θα πάρουν οι άνθρωποι και θα είναι είτε καταναλωτικές είτε συμμετοχικές σε ένα δημοκρατικό πολίτευμα. Η χειραγώγηση, λοιπόν, του ανθρώπου θα είναι πιο άμεση και πιο έντονη.
Η ΕΠΑΥΞΗΜΕΝΗ ΠΡΑΓΜΑΤΙΚΟΤΗΤΑ ΕΙΝΑΙ ΕΠΙΚΙΝΔΥΝΗ;: ΥΠΑΡΧΟΥΝ ΛΥΣΕΙΣ;
Αυτό που θα πρέπει να συμβεί είναι να υπάρχει άμεση εποπτεία στη διαδικασία και στα προϊόντα της τεχνητής νοημοσύνης. Ακόμη, στον τρόπο και στον τόπο διάθεσής τους. Σε ένα καπιταλιστικό σύστημα δεν είμαστε σίγουροι για τις αγαθές προθέσεις των παραγωγών τέτοιων προϊόντων και λογισμικών. Το αντίθετο, μάλιστα. Τα γεγονότα σε όλο τον πλανήτη το δείχνουν συνέχεια και μας πείθουν ότι ο κίνδυνος είναι μεγάλος, όλο και περισσότερο. Αυτό που θα πρέπει να γίνει είναι ένα όργανο στο οποίο θα συμμετάσχουν και ενώσεις πολιτών για να διασφαλιστεί ότι η πρέπουσα διαδικασία τηρείται.
Είδαμε, το χρονικό διάστημα που πέρασε, ότι είναι εύκολο να διαρρεύσουν προσωπικά δεδομένα ακόμα και από κρατικούς φορείς. Δεν είμαστε σίγουροι για το αν υπάρχουν ήδη τέτοια προγράμματα, στον ιδιωτικό ή στον κρατικό τομέα. Η υποκρισία των κυβερνώντων κρούει το καμπανάκι του κινδύνου. Δεν είναι δύσκολο, κατά συνέπεια, ο άνθρωπος να θυσιαστεί στις βουλές και στις ορέξεις του καπιταλιστικού συστήματος που θέλει να κερδίζει, αδιαφορώντας για την ψυχική υγεία των πολιτών.
Το θέμα είναι βαθύ πολιτικό και σαν τέτοιο θα πρέπει να το δούμε. Έχει ταξικό πρόσημο και αυτό είναι έντονο. Οι προοδευτικές δυνάμεις σε αυτό θα πρέπει να προβληματιστούν. Δυστυχώς αυτό το θέμα δεν είναι ακόμα στο πεδίο έρευνάς τους, αφήνοντας έτσι τον πολίτη αβοήθητο σε καταστροφικές πολιτικές και σχεδιασμούς που εκφράζονται και από κρατικούς και από ιδιωτικούς φορείς. Και είναι ένα θέμα στο οποίο θα επανέλθουμε.
Διαβάστε τα άρθρα για τον κινηματογράφο που έχουμε δημοσιεύσει
