«Οι μηχανές μας έχουν συνταρακτική ζωντάνια, ενώ εμείς είμαστε τρομακτικά αδρανείς» γράφει η Ντόνα Τζ. Χάραγουεϊ, Καθηγήτρια στο Τμήμα Ιστορίας της Συνείδησης και Φεμινιστικών Σπουδών στο Πανεπιστήμιο της Καλιφόρνια στο έργο της Manifesto for Cyborgs! Υπερβολές; Μην είμαστε και τόσο σίγουροι, μιας και το OpenAI μόλις, προειδοποίησε εμάς, όλους τους παγκόσμιους χρήστες, πως είναι πολύ εύκολο να κολλήσουμε συναισθηματικά στη λειτουργία της φωνής του!
Το OpenAI είναι το διάσημο αμερικανικό ερευνητικό εργαστήριο τεχνητής νοημοσύνης AI, που διεξάγει έρευνες, τόσο φιλικά και καλοσυνάτα ώστε να ωφελείται όλη την ανθρωπότητα. Εδώ τώρα, μπλέκονται κολοσσιαίες εταιρείες, όπως η Microsoft, γίγαντες της τεχνολογικής εξέλιξης και μεγιστάνες, σαν τον Ίλον Μασκ, και ο χορός των δισεκατομμυρίων μοιάζει ανυπολόγιστος. Μόνο, η Microsoft , που λέγαμε, έβαλε ένα δισεκατομμύριο δολλάρια το 2019 και τον Ιανουάριο του 2023, ξεκίνησε επένδυση ύψους 10 δισεκατομμυρίων δολαρίων! Η τεχνητή νοημοσύνη, δημιουργεί, πλέον, εικόνες, φωτογραφίες τέχνης ή προσώπων, ποίηση, λογοτεχνία, δημοσιογραφικά κείμενα, μουσική, φωνητικά και τραγουδιστικές ερμηνείες, αναπαράγει τις μορφές και τις φωνές όλων και ειδικά μεγάλων σταρ για τον κινηματογράφο και την τηλεόραση και πολλά, πολλά, άλλα!
Το μέλλον λοιπόν, όπως το φαντάζονταν μεγάλες νοημοσύνης της τέχνης, είναι ήδη εδώ και θυμίζει πιο πολύ σκοτεινό επεισόδιο του Black Mirror, πάρα χαρούμενες σελίδες για τα έργα των ανθρώπων του Ιούλιου Βερν!
Τρελοί από έρωτα με την Αλέξα ή την Σίρι!
Η OpenAI, πρόσφατα, αποκάλυψε λεπτομέρειες σχετικά με τις δοκιμές ασφάλειας των μοντέλων τεχνητής νοημοσύνης και έκφρασε ανοιχτά τις ανησυχίες της για τη νέα ανθρωπόμορφη διεπαφή της, που στα τέλη του περασμένου Ιουλίου, άρχισε να κυκλοφορεί με ανθρώπινη φωνή για το πιο εξελιγμένο ChatGPT. Σε μια ανάλυση ασφάλειας που κυκλοφόρησε μόλις, η εταιρεία αναγνωρίζει ότι αυτή η ανθρωπόμορφη φωνή, για το διάλογο και τις απαντήσεις που γυρεύουμε, μπορεί να παρασύρει ορισμένους από μας να δεσμευτούμε συναισθηματικά με το chatbot μας. Σα να λέμε, να ερωτούμε την Αλέξα ή την Σίρι μας! Για να ναι, μάλιστα καλυμμένη η εταιρεία, προειδοποίει στην κάρτα συστήματος, για τους τους κινδύνους που σχετίζονται με το μοντέλο, που προέκυψαν από τις δοκιμές ασφαλείας. Η OpenAI άλλωστε, βρέθηκε στο στόχαστρο της κοινής γνώμης αλλά και ελεγκτικών μηχανισμών, αφού αρκετοί εργαζόμενοι στο τομέα των μακροπρόθεσμων κινδύνων της τεχνητής νοημοσύνης αποχώρησαν από την εταιρεία, κατηγορώντας την πως έπαιρνε πολλά τεχνικά ρίσκα και φίμωνε τους διαφωνούντες. Η ανακοίνωση για τον κίνδυνο εξάρτησης και συναισθηματικής εμπλοκής έρχεται από την OpenAI για να καθησυχάσει το κοινό και να κατευνάσει την κριτική. Οι επικριτές της πάντως, εμμένουν πως η κάρτα συστήματος της OpenAI για το GPT-4o δεν περιλαμβάνει εκτενείς λεπτομέρειες σχετικά με τα δεδομένα εκπαίδευσης του μοντέλου ή τον ιδιοκτήτη αυτών των δεδομένων. Τονίζουν, δε, πως το ζήτημα της συναίνεσης για τη δημιουργία ενός τόσο μεγάλου συνόλου δεδομένων που εκτείνεται σε πολλαπλούς τρόπους, συμπεριλαμβανομένων κειμένου, εικόνας και ομιλίας, πρέπει να αντιμετωπιστεί με μεγαλύτερη προσοχή και λεπτομέρεια. Στον αντίλογο, βρίσκεται η θέση πως πολλοί κίνδυνοι εκδηλώνονται μόνο όταν η τεχνητή νοημοσύνη χρησιμοποιείται στον πραγματικό κόσμο και όχι στα εργαστήρια, άρα καταλογίζονται και αξιολογούνται με την ευρεία κυκλοφορία των νέων μοντέλων – αν δεν είναι αργά, βέβαια!
Η φωνή της Σκάρλετ Γιόχανσον και το φλερτάκι!
Τον Μάιο, όταν η εταιρεία αποκάλυψε τη λειτουργία φωνής της, η οποία μπορεί να ανταποκρίνεται γρήγορα και να χειρίζεται με φυσικό τρόπο, απίθανα τεράστια θεματολογία, πολλοί χρήστες παρατήρησαν είχε υπερβολική διάθεση για φλερτ! Μετά, ήρθε και η δημόσια επίκριση της Σκάρλετ Γιόχανσον, πως η φωνή έχει το ηχόχρωμα της, την εκφορά της και το ύφος του λόγου της! Ένα τμήμα της κάρτας συστήματος με τίτλο «Anthropomorphization and Emotional Reliance» διερευνά προβλήματα που προκύπτουν, όταν οι χρήστες αντιλαμβάνονται την τεχνητή νοημοσύνη με ανθρώπινους όρους, κάτι που προφανώς επιδεινώνεται από την ανθρώπινη λειτουργία φωνής. Έτσι, στις δοκιμές εφαρμογής του GPT-4o, οι ερευνητές του OpenAI παρατήρησαν περιπτώσεις χρηστών που ανέπτυσσαν συναισθηματικής σύνδεσης με το μοντέλο. Μίλαγε, ο άλλος με το μποτ και μελαγχολούσε για το τέλος των δοκιμών, λέγοντας , για παράδειγμα, «αχ! αυτή είναι η τελευταία μας μέρα μαζί». Υπάρχουν ακόμα ουσιαστικοί φόβοι, πως με την πάροδο του χρόνου και την παγίωση της χρήσης του μοντέλου, μπορεί να επηρεαστούν οι σχέσεις των χρηστών με άλλα άτομα και η τεχνητή νοημοσύνη να υποκαταστήσει πλήρως την ανθρώπινη αλληλεπίδραση. Ένας μάλλον πολύ έξυπνος κύριος, ο Joaquin Quiñonero Candela, επικεφαλής ετοιμότητας στην OpenAI, λέει ότι η λειτουργία φωνής θα μπορούσε να εξελιχθεί σε κάτι θετικό βοηθώντας όσους είναι μόνοι. Βιάζεται όμως, να προσθέσει ότι η εταιρεία θα μελετήσει στενά τον ανθρωπομορφισμό και τις συναισθηματικές συνδέσεις και ότι αυτό είναι πρωταρχικό στη λίστα με τις ανησυχίες τους! Όχι, που μας καθησυχάζει, η ανησυχιούλα, αλλά και τι να κάνουμε; Θα το δεχτούμε, αναγκαστικά!
Τέλεια μίμηση των ανθρώπων και χωρίς περιορισμούς
Το μοντέλο, επειδή ακριβώς είναι πολύ εξελιγμένο, είναι σε θέση να ξεφεύγει από τους περιορισμούς του και να μπορεί πλαστοπροσωπήσει άλλα άτομα ή να προσπαθήσει να αναλύσει τα συναισθήματα ενός χρήστη. Μιμείται ακόμα τις φυσικές αντιδράσεις των ανθρώπων, με ταραχή σε κάποιο θόρυβο και άμεσα αντανακλαστικά. Παρατηρήθηκε ακόμα, περίπτωση που υιοθετήθηκε από το μοντέλο, η φωνή του χρήστη του. Η OpenAI μελετά, ακόμα, το αν η φωνητική διεπαφή μπορεί να είναι πιο αποτελεσματική σε προπαγάνδες, προσηλυτισμούς, πλύσεις εγκεφάλων και άλλα τέτοια επιβολής απόψεων.
Γενικά ο κίνδυνος οι βοηθοί τεχνητής νοημοσύνης να μιμούνται την ανθρώπινη αλληλεπίδραση, είναι υπαρκτός, όχι μόνο απ τη συγκεκριμένη εταιρεία, αλλά απ πολλές μορφές του επιστημονικού και ακαδημαϊκού κόσμου, με τις ηθικές προκλήσεις να μοιάζουν αναπόφευκτες. Τα τσατμποτς, δημιουργούν, άλλωστε, αυτή την εντύπωση οικειότητας που εύκολα γινεται εξάρτηση και ενέχει τη συναισθηματική εμπλοκή. Και άντε και ανησυχούν και κρούουν τον κώδωνα του κινδύνου!
Στην πραγματικότητα, ξέρουμε όλοι καλά, πως η οποιαδήποτε ροή της τεχνολογικής εξέλιξης που εξυπηρετεί και τεράστια παγκόσμια οικονομικά συμφέροντα δεν μπορεί να αναστραφεί! Και εμείς; «… Σε τούτη τη μυθική εποχή που ζούμε, είμαστε όλοι μας χίμαιρες, θεωρητικοποιημένα και κατασκευασμένα υβρίδια μηχανής και έμβιου οργανισμού» καταλήγουμε στις λέξεις της Ντόνα Τζ. Χάραγουεϊ, τελικά!
ή αποκτήστε ετήσια συνδρομή εδώ.
