ΒΑΣΙΚΑ ΣΤΟΙΧΕΙΑ
– Το metaverse θα φέρει επανάσταση στον κόσμο, τόσο με καλό όσο και με κακό τρόπο.
– Μια ιδιαίτερα ανησυχητική χρήση του metaverse θα είναι η δυνατότητα τρίτων να παρακολουθούν τις εκφράσεις και τα ζωτικά σας σημεία, προσαρμόζοντας τις αλληλεπιδράσεις τους μαζί σας σε πραγματικό χρόνο για να βελτιστοποιήσουν τον αντίκτυπο. Αυτό θα μπορούσε να συμβεί για καλοπροαίρετους λόγους, όπως το να σας πουλήσουν ένα αυτοκίνητο, ή για κακόβουλους λόγους, όπως το να προσπαθούν να σας πείσουν να δεχτείτε παραπληροφόρηση.
– Με αυτόν τον τρόπο, η προηγμένη τεχνολογία μέσα στο metaverse θα αμφισβητήσει την ίδια μας την έννοια της ελεύθερης βούλησης. Το Συμβούλιο Ανθρωπίνων Δικαιωμάτων των Ηνωμένων Εθνών ενέκρινε πρόσφατα σχέδιο ψηφίσματος με τίτλο Νευροτεχνολογία και ανθρώπινα δικαιώματα. Στόχος του είναι η προστασία της ανθρωπότητας από συσκευές που μπορούν να “καταγράφουν, να παρεμβαίνουν ή να τροποποιούν την εγκεφαλική δραστηριότητα” Για να περιγράψει τους κινδύνους, το ψήφισμα χρησιμοποιεί ευφημιστικές φράσεις όπως η γνωστική μηχανική, η πνευματική ιδιωτικότητα και η γνωστική ελευθερία, αλλά αυτό για το οποίο πραγματικά μιλάμε είναι ο έλεγχος του νου.
Επικροτώ τον ΟΗΕ που ασχολήθηκε με το θέμα του ελέγχου του νου, αλλά η νευροτεχνολογία δεν είναι η μεγαλύτερη απειλή μας σε αυτό το μέτωπο. Αυτό συμβαίνει επειδή περιλαμβάνει εξελιγμένο υλικό που κυμαίνεται από “εμφυτεύματα εγκεφάλου” έως φορητές συσκευές που μπορούν να ανιχνεύουν και να μεταδίδουν σήματα μέσω του κρανίου. Ναι, αυτές οι τεχνολογίες θα μπορούσαν να είναι πολύ επικίνδυνες, αλλά είναι απίθανο να αναπτυχθούν σε κλίμακα σύντομα. Επιπλέον, τα άτομα που θα υποβληθούν σε εμφυτεύματα ή εγκεφαλική διέγερση θα το κάνουν πιθανότατα με συγκατάθεση μετά από ενημέρωση. Από την άλλη πλευρά, υπάρχει μια αναδυόμενη κατηγορία προϊόντων και τεχνολογιών που θα μπορούσαν να απειλήσουν τις γνωστικές μας ελευθερίες σε μεγάλους πληθυσμούς, χωρίς να απαιτούν τίποτα περισσότερο από υλικό και λογισμικό καταναλωτικής ποιότητας από αξιόπιστες εταιρείες. Αυτά τα φαινομενικά αθώα συστήματα, τα οποία θα προωθηθούν στην αγορά για ένα ευρύ φάσμα θετικών εφαρμογών από την ψυχαγωγία έως την εκπαίδευση, απευθυνόμενα τόσο σε παιδιά όσο και σε ενήλικες, θα μπορούσαν να χρησιμοποιηθούν επικίνδυνα και να καταχραστούν χωρίς τη γνώση ή τη συγκατάθεσή μας.
Μιλάω για το metaverse. Για να εξηγήσω το γιατί, θα ήθελα πρώτα να παρουσιάσω μια έννοια της μηχανικής που με βοηθά να σκέφτομαι αντικειμενικά σχετικά με τους πιθανούς κινδύνους των διαδραστικών συστημάτων. Η έννοια είναι ο έλεγχος ανατροφοδότησης και προέρχεται από έναν τεχνικό κλάδο που ονομάζεται θεωρία ελέγχου.
Συστήματα ελέγχου
Η θεωρία ελέγχου είναι απλώς η ονομασία που δίνουν οι μηχανικοί και οι επιστήμονες στην επίσημη μέθοδο που χρησιμοποιείται για τον επηρεασμό της συμπεριφοράς ενός συστήματος. Αυτό το σύστημα θα μπορούσε να είναι οτιδήποτε αλληλεπιδρά με τον κόσμο. Σκεφτείτε ένα φτηνό φωτιστικό νυκτός με αισθητήρα. Όταν σκοτεινιάζει έξω, ανάβει ο νυχτερινός φωτισμός. Όταν ξημερώσει ξανά, το φως της νύχτας σβήνει. Αυτό είναι ένα σύστημα ελέγχου.
Τώρα, σκεφτείτε ένα ελαφρώς πιο σύνθετο παράδειγμα: τον θερμοστάτη στο σπίτι σας. Σε αντίθεση με ένα νυχτερινό φως με δύο μόνο καταστάσεις (“αναμμένο” ή “σβηστό”), το σπίτι σας μπορεί να έχει διάφορες θερμοκρασίες. Ορίζετε έναν στόχο και αν το σπίτι σας πέσει κάτω από αυτόν τον στόχο, ενεργοποιείται η θέρμανση. Αν το σπίτι σας ζεσταθεί πολύ, απενεργοποιείται. Όταν λειτουργεί σωστά, ο θερμοστάτης σας διατηρεί το σπίτι σας κοντά στο στόχο που έχετε θέσει. Αυτός είναι ο έλεγχος ανατροφοδότησης. Αυτή η απλή έννοια αναπαρίσταται γενικά σε μια τυποποιημένη μορφή που ονομάζεται διάγραμμα συστήματος ελέγχου.
Το διάγραμμα έχει τρία βασικά πλαίσια με τις ενδείξεις σύστημα, αισθητήρας και ελεγκτής. Στο παράδειγμα της θέρμανσης, το σπίτι σας θα ήταν το σύστημα, ένα θερμόμετρο θα ήταν ο αισθητήρας και ο θερμοστάτης θα ήταν ο ελεγκτής. Ένα σήμα εισόδου που ονομάζεται αναφορά είναι η θερμοκρασία που έχετε ορίσει ως στόχο. Ο στόχος συγκρίνεται με την πραγματική θερμοκρασία του σπιτιού σας (δηλαδή τη μετρούμενη έξοδο). Η διαφορά μεταξύ του στόχου και της μετρούμενης θερμοκρασίας τροφοδοτείται στον θερμοστάτη, ο οποίος καθορίζει τι πρέπει να κάνει η θέρμανση του σπιτιού. Εάν το σπίτι είναι πολύ κρύο, ενεργοποιείται η θέρμανσή του. Εάν είναι πολύ ζεστό, ο θερμαντήρας του απενεργοποιείται.
Φυσικά, τα συστήματα ελέγχου μπορούν να εξελιχθούν, επιτρέποντας στα αεροπλάνα να πετούν με αυτόματο πιλότο, στα αυτοκίνητα να πλοηγούνται αυτόνομα στην κυκλοφορία και στα ρομποτικά οχήματα να προσεδαφίζονται στον Άρη.
Στο metaverse, εσείς είστε το σύστημα που ελέγχεται
Με αυτό το υπόβαθρο, ας επιστρέψουμε στο metaverse, το οποίο αφορά σε μεγάλο βαθμό τον μετασχηματισμό του τρόπου με τον οποίο εμείς οι άνθρωποι αλληλοεπιδρούμε με τον ψηφιακό κόσμο. Στη σημερινή κοινωνία, καταναλώνουμε ως επί το πλείστον “επίπεδα μέσα ενημέρωσης” που προβάλλονται από την οπτική γωνία του τρίτου προσώπου. Στο metaverse, το ψηφιακό περιεχόμενο θα μετατραπεί σε καθηλωτικές εμπειρίες που θα παρουσιάζονται χωρικά γύρω μας. Αυτή η στροφή προς την αλληλεπίδραση σε πρώτο πρόσωπο θα αλλάξει ριζικά τη σχέση μας με τις ψηφιακές πληροφορίες, μετατρέποντάς μας από εξωτερικούς παρατηρητές που παρακολουθούν το περιεχόμενο σε ενεργούς συμμετέχοντες που εμπλέκονται με το περιεχόμενο που παρουσιάζεται φυσικά στο περιβάλλον μας. Με άλλα λόγια, θα αναρριχηθούμε κυριολεκτικά στο σύστημα πληροφοριών και θα γίνουμε μέρος του. Προτού περιγράψω τους κινδύνους των καθηλωτικών τεχνολογιών, πρέπει να εκφράσω ότι το metaverse έχει τη δυνατότητα να είναι μια βαθιά εξανθρωπιστική τεχνολογία. Εξάλλου, θα μας παρέχει πληροφορίες με τη μορφή που οι αισθήσεις μας προορίζονται να τις αντιλαμβάνονται – ως φυσικές εμπειρίες πρώτου προσώπου, όχι ως επίπεδα έγγραφα που βλέπονται μέσα από μικρά παράθυρα. Πιστεύω πραγματικά ότι αυτό θα είναι ένα σημαντικό όφελος για την ανθρωπότητα. Πριν από τριάντα χρόνια, περιέγραψα τις δυνατότητες ως εξής: “Δεδομένης της δυνατότητας αξιοποίησης των ιδιαίτερα εξελιγμένων ανθρώπινων δυνατοτήτων μας, οι χρήστες των συστημάτων εικονικού περιβάλλοντος μπορούν να αποκτήσουν ένα οικείο επίπεδο διορατικότητας και κατανόησης”.
Εξακολουθώ να το πιστεύω αυτό, αλλά η δύναμη των καθηλωτικών μέσων μπορεί να λειτουργήσει και προς τις δύο κατευθύνσεις. Αν χρησιμοποιηθεί με θετικό τρόπο, μπορεί να ξεκλειδώσει τη διορατικότητα και την κατανόηση για τους ανθρώπους σε όλο τον κόσμο. Αν χρησιμοποιηθεί με αρνητικό τρόπο, θα μπορούσε να απελευθερώσει το πιο ισχυρό εργαλείο πειθούς και χειραγώγησης που δημιουργήσαμε ποτέ. Αυτό συμβαίνει επειδή τα καθηλωτικά μέσα μπορούν να είναι πολύ πιο επιδραστικά από τα παραδοσιακά μέσα, στοχεύοντας στα κανάλια της αντίληψής μας με την πιο προσωπική και ενστικτώδη μορφή: ως εμπειρίες. Και επειδή εμείς οι άνθρωποι εξελιχθήκαμε ώστε να εμπιστευόμαστε τις αισθήσεις μας (δηλαδή να πιστεύουμε τα μάτια και τα αυτιά μας), η ίδια η ιδέα ότι μπορούμε να δούμε, να ακούσουμε και να αισθανθούμε πράγματα άμεσα γύρω μας που είναι εντελώς κατασκευασμένα δεν είναι μια κατάσταση για την οποία είμαστε διανοητικά προετοιμασμένοι. Αλλά αυτή δεν είναι η πιο επικίνδυνη πτυχή του μετασκόπου. Για να εκτιμήσουμε τον πραγματικό κίνδυνο των καθηλωτικών τεχνολογιών, μπορούμε να χρησιμοποιήσουμε τα βασικά στοιχεία της θεωρίας ελέγχου. Επιστρέφοντας στο παραπάνω διάγραμμα, βλέπουμε ότι απαιτούνται μόνο λίγα στοιχεία για τον αποτελεσματικό έλεγχο ενός συστήματος, είτε πρόκειται για ένα απλό νυχτερινό φως είτε για ένα εξελιγμένο ρομπότ. Τα δύο πιο σημαντικά στοιχεία είναι ένας αισθητήρας για την ανίχνευση των συμπεριφορών του συστήματος σε πραγματικό χρόνο και ένας ελεγκτής που μπορεί να επηρεάσει αυτές τις συμπεριφορές. Τα μόνα άλλα στοιχεία που απαιτούνται είναι οι βρόχοι ανατροφοδότησης που ανιχνεύουν συνεχώς συμπεριφορές και ασκούν επιρροές, καθοδηγώντας το σύστημα προς τους επιθυμητούς στόχους.
Στο εσωτερικό του metaverse, το σύστημα που ελέγχεται είστε εσείς. Όταν βάζετε τα ακουστικά σας και βυθίζεστε στο metaverse, βυθίζεστε σε ένα περιβάλλον που έχει τη δυνατότητα να επιδρά πάνω σας περισσότερο από ό,τι εσείς πάνω του. Αυτό σημαίνει ότι είστε το σύστημα που είναι πιο πιθανό να ελεγχθεί – ένας κάτοικος ενός κατασκευασμένου κόσμου που μπορεί να σας παρακολουθεί και να σας επηρεάζει σε πραγματικό χρόνο. Υπό αυτό το πρίσμα, η είσοδος του συστήματος περιλαμβάνει τις εντυπωσιακές εικόνες, τους ήχους και τις αισθήσεις αφής που τροφοδοτούνται στα μάτια, τα αυτιά, τα χέρια και το σώμα σας. Πρόκειται για συντριπτική συνεισφορά – ενδεχομένως την πιο εκτεταμένη και οικεία συνεισφορά που θα μπορούσαμε να φανταστούμε. Αυτό σημαίνει ότι η δυνατότητα επηρεασμού του συστήματος (εσάς) είναι εξίσου εκτεταμένη και οικεία. Στην άλλη πλευρά του ανθρώπινου χρήστη βρίσκεται η έξοδος του συστήματος – με άλλα λόγια, οι ενέργειες, οι αντιδράσεις και οι αλληλεπιδράσεις σας σε πραγματικό χρόνο. Αυτό περιλαμβάνει οτιδήποτε κάνει το σώμα σας που θα μπορούσε ενδεχομένως να παρακολουθείται από αισθητήρες.
Αισθησιακοί αισθητήρες
Στο metaverse, οι αισθητήρες θα παρακολουθούν σε πραγματικό χρόνο ό,τι κάνετε, όπως τις λεπτές κινήσεις του κεφαλιού, των χεριών και του σώματός σας. Αυτό περιλαμβάνει την κατεύθυνση προς την οποία κοιτάζετε, τη διάρκεια της παραμονής του βλέμματός σας, την αμυδρή κίνηση των ματιών σας, τη διαστολή των κόρων σας και τις αλλαγές στη στάση του σώματος και το βάδισμά σας. Ακόμα και τα ζωτικά σας σημεία, όπως ο καρδιακός ρυθμός, ο ρυθμός αναπνοής και η αρτηριακή πίεση, είναι πιθανό να παρακολουθούνται στο metaverse. Για παράδειγμα, το πιο πρόσφατο ακουστικό που αναπτύχθηκε από τη Meta μπορεί να παρακολουθεί με ακρίβεια την κίνηση των ματιών σας και τις εκφράσεις του προσώπου σας, συμπεριλαμβανομένων των εκφράσεων που κάνουμε υποσυνείδητα και οι οποίες είναι πολύ γρήγορες ή ανεπαίσθητες για να αναγνωριστούν από τους ανθρώπινους παρατηρητές. Γνωστές ως “μικρο-εκφράσεις”, μπορούν να μεταφέρουν συναισθήματα που οι χρήστες δεν είχαν σκοπό να εκφράσουν και δεν γνωρίζουν ότι τα αποκαλύπτουν. Οι χρήστες μπορεί να μην έχουν καν επίγνωση των συναισθημάτων που νιώθουν, οδηγώντας σε καταστάσεις όπου το σύστημα γνωρίζει κυριολεκτικά τον χρήστη καλύτερα από ό,τι αυτός γνωρίζει τον εαυτό του.
Επιπλέον, η τεχνητή νοημοσύνη μπορεί να συμπεράνει πληροφορίες που δεν ανιχνεύονται άμεσα από τους αισθητήρες. Σε μια πρόσφατη δημοσίευση, οι ερευνητές του Meta έδειξαν ότι όταν επεξεργάζονται “αραιά δεδομένα” από λίγους μόνο αισθητήρες στο κεφάλι και τα χέρια σας, η τεχνολογία τεχνητής νοημοσύνης μπορεί να προβλέψει με ακρίβεια τη θέση, τη στάση και την κίνηση του υπόλοιπου σώματος. Άλλοι ερευνητές έχουν δείξει ότι οι κινήσεις του σώματος, όπως το βάδισμα, μπορούν να χρησιμοποιηθούν για την εξαγωγή συμπερασμάτων για μια σειρά ιατρικών καταστάσεων, από την κατάθλιψη έως την άνοια.
Επιπλέον, υπάρχει ήδη τεχνολογία που μπορεί να συμπεράνει τα συναισθήματά σας σε πραγματικό χρόνο από τις εκφράσεις του προσώπου σας, τις φωνητικές σας εκφράσεις, τις χειρονομίες και τη στάση του σώματος. Άλλες τεχνολογίες υπάρχουν για την ανίχνευση συναισθημάτων από τα μοτίβα ροής του αίματος στο πρόσωπό σας και τα ζωτικά σημεία που ανιχνεύονται από αισθητήρες στα ακουστικά σας. Αυτό σημαίνει ότι όταν βυθίζεστε στο metaverse , σχεδόν όλα όσα κάνετε και λέτε θα παρατηρούνται και στη συνέχεια αυτά τα δεδομένα θα χρησιμοποιούνται για να προβλέψουν πώς αισθάνεστε κατά τη διάρκεια κάθε δράσης, αντίδρασης και αλληλεπίδρασης.
Φυσικά, οι πληροφορίες αυτές θα καταγραφούν και θα χρησιμοποιηθούν ξανά. Με αυτά τα δεδομένα, η τεχνητή νοημοσύνη θα μπορούσε να δημιουργήσει συμπεριφορικά και συναισθηματικά μοντέλα για να προβλέψει πώς θα αντιδράσετε σε ένα ευρύ φάσμα ερεθισμάτων. Και επειδή το metaverse δεν είναι μόνο εικονική πραγματικότητα αλλά και επαυξημένη πραγματικότητα, η παρακολούθηση και η σκιαγράφηση του προφίλ των χρηστών θα μπορούσε να γίνει καθ’ όλη τη διάρκεια της καθημερινής μας ζωής, από τη στιγμή που ξυπνάμε μέχρι τη στιγμή που πέφτουμε για ύπνο.
Ο απόλυτος influencer
Αυτό μας οδηγεί ένα τεράστιο βήμα προς τον έλεγχο του μυαλού, καθιστώντας ενδεχομένως το metaverse το πιο επικίνδυνο εργαλείο πειθούς που δημιουργήθηκε ποτέ. Για να εκτιμήσουμε τους κινδύνους, πρέπει να εξετάσουμε το τελευταίο κουτί του συστήματος, τον ελεγκτή.
Ο ελεγκτής θα μπορούσε να είναι λογισμικό που εκτελείται σε επεξεργαστές που κάνουν εκτεταμένη χρήση της τεχνολογίας τεχνητής νοημοσύνης. Ο ελεγκτής λαμβάνει ένα μετρούμενο σφάλμα, το οποίο είναι η διαφορά μεταξύ ενός στόχου αναφοράς (μια επιθυμητή συμπεριφορά) και της μετρούμενης εξόδου (μια αισθητή συμπεριφορά).
Για να επιστρέψουμε στο θέμα του ελέγχου του νου, ο στόχος θα μπορούσε να είναι η ατζέντα ενός τρίτου μέρους που έχει ως στόχο να ασκήσει επιρροή στον χρήστη. (Βλέπε διάγραμμα παρακάτω. ) Αυτός ο τρίτος μπορεί να είναι ένας χορηγός που πληρώνει και επιθυμεί να πείσει τον χρήστη να αγοράσει ένα προϊόν, να εγγραφεί σε μια υπηρεσία ή ακόμη και να πιστέψει κάποια προπαγάνδα, ιδεολογία ή παραπληροφόρηση.
Φυσικά, η διαφήμιση και η προπαγάνδα υπάρχουν ήδη με τις παραδοσιακές τεχνικές μάρκετινγκ. Αυτό που είναι μοναδικό στο metaverse είναι η δυνατότητα δημιουργίας βρόχων ανατροφοδότησης υψηλής ταχύτητας, στους οποίους οι συμπεριφορές και τα συναισθήματα ενός χρήστη τροφοδοτούνται συνεχώς σε έναν ελεγκτή που προσαρμόζει την επιρροή του σε πραγματικό χρόνο για βελτιστοποιημένη πειθώ. Αυτή η διαδικασία θα μπορούσε εύκολα να περάσει τη γραμμή από το μάρκετινγκ στον έλεγχο του μυαλού.
Στον πυρήνα του, ένας ελεγκτής στοχεύει στη “μείωση του σφάλματος” μεταξύ της επιθυμητής συμπεριφοράς ενός συστήματος και της μετρούμενης συμπεριφοράς του συστήματος. Στο metaverse, ένας ελεγκτής θα τροποποιούσε το εικονικό ή επαυξημένο περιβάλλον στο οποίο ο χρήστης βυθίζεται. Με άλλα λόγια, ο ελεγκτής μπορεί να μεταβάλλει τον κόσμο γύρω από τον χρήστη, τροποποιώντας αυτό που βλέπει, ακούει και αισθάνεται ο χρήστης, προκειμένου να οδηγήσει τον χρήστη προς τον επιθυμητό στόχο.
Και επειδή ο ελεγκτής μπορεί να παρακολουθεί με ακρίβεια τον τρόπο με τον οποίο ο χρήστης αντιδρά στις αλλαγές του κόσμου, θα μπορεί να προσαρμόζεται σε πραγματικό χρόνο, βελτιστοποιώντας τον πειστικό αντίκτυπο με τον ίδιο τρόπο που ένας θερμοστάτης βελτιστοποιεί τη θερμοκρασία ενός σπιτιού.
Σενάρια ελέγχου του μυαλού στο metaverse
Φανταστείτε έναν χρήστη να κάθεται σε μια καφετέρια (εικονική ή επαυξημένη) στο metaverse. Ένας τρίτος χορηγός θέλει να εμπνεύσει τον χρήστη να αγοράσει ένα συγκεκριμένο προϊόν, π. χ. ένα νέο αυτοκίνητο. Στο metaverse, η διαφήμιση δεν θα είναι οι αναδυόμενες διαφημίσεις και τα βίντεο που γνωρίζουμε σήμερα, αλλά θα είναι εντυπωσιακές εμπειρίες που θα ενσωματώνονται απρόσκοπτα στο περιβάλλον μας. Έτσι, ο ελεγκτής μπορεί να δημιουργήσει ένα εικονικό ζευγάρι που κάθεται στο διπλανό τραπέζι. Αυτό το εικονικό ζευγάρι θα είναι η είσοδος του συστήματος που χρησιμοποιείται για να επηρεάσει τον χρήστη.
Ο ελεγκτής θα σχεδιάσει το εικονικό ζευγάρι για μέγιστο αντίκτυπο. Αυτό σημαίνει ότι η ηλικία, το φύλο, η εθνικότητα, το στυλ ένδυσης, το στυλ ομιλίας, ο τρόπος και άλλες ιδιότητες του ζευγαριού θα επιλεγούν από αλγόριθμους τεχνητής νοημοσύνης ώστε να είναι βέλτιστα πειστικά για τον χρήστη-στόχο με βάση το ιστορικό προφίλ του χρήστη. Στη συνέχεια, το ζευγάρι θα συμμετάσχει σε μια συνομιλία μεταξύ τους ελεγχόμενη από τεχνητή νοημοσύνη, η οποία βρίσκεται εντός του ακουστικού του χρήστη – ότι το νέο αυτοκίνητο που αγόρασαν είναι απλά φοβερό! Καθώς ξεκινά η συνομιλία, ο ελεγκτής παρακολουθεί τον χρήστη σε πραγματικό χρόνο, αξιολογώντας τις μικροεκφράσεις, τη γλώσσα του σώματος, τις κινήσεις των ματιών, τη διαστολή της κόρης και την πίεση του αίματος για να ανιχνεύσει πότε ο χρήστης αρχίζει να δίνει προσοχή. Αυτό θα μπορούσε να είναι τόσο απλό όσο η ανίχνευση μιας λεπτής φυσιολογικής αλλαγής στον χρήστη που σχετίζεται με τα σχόλια του εικονικού ζευγαριού. Μόλις ενεργοποιηθεί, ο ελεγκτής θα τροποποιήσει τα στοιχεία συνομιλίας για να αυξήσει την αφοσίωση. Για παράδειγμα, εάν η προσοχή του χρήστη αυξάνεται καθώς το ζευγάρι μιλάει για την ιπποδύναμη του αυτοκινήτου, η συνομιλία θα προσαρμοστεί σε πραγματικό χρόνο για να επικεντρωθεί στην απόδοση.
Καθώς η συνομιλία που ακούστηκε συνεχίζεται, ο χρήστης μπορεί να αγνοεί ότι έχει γίνει ένας σιωπηλός συμμετέχων, ανταποκρινόμενος μέσω υποσυνείδητων μικροεκφράσεων, στάσης του σώματος και αλλαγών στα ζωτικά σημεία. Ο ελεγκτής με τεχνητή νοημοσύνη θα επισημάνει στοιχεία του νέου αυτοκινήτου στα οποία ο χρήστης-στόχος ανταποκρίνεται πιο θετικά και θα παρέχει συνομιλητικά αντεπιχειρήματα όταν οι αντιδράσεις του χρήστη είναι αρνητικές. Και επειδή ο χρήστης-στόχος δεν εκφράζει απροκάλυπτα αντιρρήσεις, τα αντεπιχειρήματα θα μπορούσαν να έχουν βαθιά επιρροή. Εξάλλου, το εικονικό ζευγάρι θα μπορούσε να αντιμετωπίσει προφορικά τις αναδυόμενες ανησυχίες προτού καν αυτές οι ανησυχίες εμφανιστούν πλήρως στο μυαλό του χρήστη-στόχου. Αυτό δεν είναι μάρκετινγκ. είναι έλεγχος του νου.
Σε ένα μη ρυθμιζόμενο μετασύμπαν, ο χρήστης-στόχος μπορεί να πιστέψει ότι το εικονικό ζευγάρι είναι είδωλα που ελέγχονται από άλλους θαμώνες. Με άλλα λόγια, ο χρήστης-στόχος θα μπορούσε εύκολα να πιστέψει ότι κρυφακούει μια αυθεντική συνομιλία μεταξύ των χρηστών και όχι μια τροποποιημένη εμπειρία προώθησης που απευθύνεται ειδικά σε αυτούς. Ένας πιο επιθετικός ελεγκτής θα μπορούσε να προσελκύσει απευθείας τον χρήστη. Ένα avatar ελεγχόμενο από AI που ωθεί μια προωθητική συνομιλία με γνώμονα την ατζέντα θα μπορούσε να ξεγελάσει τους χρήστες να πιστεύουν ότι αλληλεπιδρούν με άλλα ανθρώπινα όντα.
Φυσικά, η πώληση ενός αυτοκινήτου είναι ένα σχετικά καλό παράδειγμα. Πολύ πιο ανησυχητικές είναι οι ατζέντες τρίτων των οποίων οι στόχοι είναι πιο κακόβουλοι, όπως να επηρεάσουν τους χρήστες-στόχους να αποδεχτούν κάποια πολιτική ιδεολογία, εξτρεμιστική προπαγάνδα ή παραπληροφόρηση.
«Παριστάνοντας τον Θεό»
Τα συστήματα τεχνητής νοημοσύνης μπορούν να ξεπεράσουν τους καλύτερους ανθρώπινους ανταγωνιστές στον κόσμο στο σκάκι, το go, το πόκερ και άλλα παιχνίδια στρατηγικής. Λοιπόν, τι πιθανότητες έχει ένας μέσος καταναλωτής όταν συμμετέχει σε διαφημιστική συνομιλία με έναν πράκτορα AI που έχει πρόσβαση στο προσωπικό υπόβαθρο και τα ενδιαφέροντα του χρήστη και μπορεί να προσαρμόσει τις τακτικές συνομιλίας του σε πραγματικό χρόνο με βάση τις ανεπαίσθητες αλλαγές στη διαστολή της κόρης και την αρτηριακή πίεση; Η πιθανότητα παραβίασης της γνωστικής ελευθερίας ενός χρήστη μέσω αυτού του τύπου ελέγχου ανάδρασης στο μετασύμπαν είναι σημαντική.
Στην πραγματικότητα, θα μπορούσε να είναι το πιο κοντινό πράγμα στο «παριστάνοντας το Θεό» που έχει επιτύχει ποτέ οποιαδήποτε κύρια τεχνολογία. Αυτή είναι μια τολμηρή δήλωση, και δεν την κάνω επιπόλαια. Είμαι σε αυτόν τον τομέα για πάνω από 30 χρόνια, πραγματοποιώντας έρευνα στο Στάνφορντ, τη NASA και την Πολεμική Αεροπορία των ΗΠΑ, μετά από τα οποία ίδρυσα μια σειρά από επιτυχημένες εταιρείες σε αυτόν τον χώρο. Πιστεύω ειλικρινά ότι το μετασύμπαν μπορεί να είναι μια θετική τεχνολογία για την ανθρωπότητα, αλλά αν δεν προστατευτούμε από τα μειονεκτήματα δημιουργώντας προσεκτική ρύθμιση, θα μπορούσε να αμφισβητήσει τις πιο ιερές προσωπικές μας ελευθερίες – συμπεριλαμβανομένης της βασικής μας ικανότητας για ελεύθερη βούληση.
