Το ρομπότ και η τεχνητή νοημοσύνη είναι έτοιμα να αυξήσουν τις επιρροές τους στην καθημερινή μας ζωή. (Shutterstock)

Του Shane Saunderson

Στα μέσα της δεκαετίας του 1990, υπήρχε έρευνα στο Πανεπιστήμιο του Στάνφορντ που θα άλλαζε τον τρόπο που σκεφτόμαστε τους υπολογιστές. Τα πειράματα της εξίσωσης μέσων ήταν απλά: Ζητήθηκε από τους συμμετέχοντες να αλληλεπιδράσουν με έναν υπολογιστή που ενεργούσε κοινωνικά για λίγα λεπτά και μετά τους ζητήθηκε να δώσουν σχόλια σχετικά με την αλληλεπίδραση.

Οι συμμετέχοντες θα παρείχαν αυτή την ανατροφοδότηση είτε στον ίδιο υπολογιστή (Νο. 1) στον οποίο μόλις δούλευαν είτε σε άλλον υπολογιστή (Νο. 2) σε όλη την αίθουσα. Η μελέτη διαπίστωσε ότι οι συμμετέχοντες που ανταποκρίνονταν στον υπολογιστή Νο. 2 ήταν πολύ πιο επικριτικοί για τον υπολογιστή Νο. 1 από εκείνους που ανταποκρίνονταν στο ίδιο μηχάνημα στον οποίο δούλευαν.

Οι άνθρωποι που ανταποκρίνονταν στον πρώτο υπολογιστή φαινόταν ότι δεν ήθελαν πλήγμα οι υπολογιστές συναισθήματα στο δικό του πρόσωπο, αλλά δεν είχα κανένα πρόβλημα να μιλήσω για αυτό πίσω από αυτό πίσω. Αυτό το φαινόμενο έγινε γνωστό ως το Οι υπολογιστές ως κοινωνικοί φορείς (CASA) παράδειγμα γιατί έδειξε ότι οι άνθρωποι είναι σκληρά καλωδιωμένοι να ανταποκρίνονται κοινωνικά στην τεχνολογία που παρουσιάζεται ως έστω και αόριστα κοινωνική.

Το φαινόμενο CASA συνεχίζει να διερευνάται, ιδιαίτερα καθώς οι τεχνολογίες μας έχουν γίνει πιο κοινωνικές. Ως ερευνητής, λέκτορας και λάτρης της ρομποτικής, παρατηρώ αυτό το φαινόμενο στη δουλειά μου κάθε φορά που κάποιος ευχαριστώ ένα ρομπότ, του αποδίδει ένα φύλο ή προσπαθεί να δικαιολογούν τη συμπεριφορά του χρησιμοποιώντας ανθρώπινες ή ανθρωπόμορφες λογικές.

Αυτό που έχω δει κατά τη διάρκεια της έρευνάς μου είναι ότι, ενώ λίγοι έχουν ψευδαισθήσεις ότι τα ρομπότ είναι άνθρωποι, τείνουμε να τους αναλογιζόμαστε όπως θα κάναμε και άλλο άτομο.

Κοινωνικές τάσεις

Αν και αυτό μπορεί να ακούγεται σαν τις αρχές του α Μαύρος Καθρεφτής επεισόδιο, αυτή η τάση είναι ακριβώς που μας επιτρέπει να απολαμβάνουμε τις κοινωνικές αλληλεπιδράσεις με τα ρομπότ και να τα τοποθετούμε σε ρόλους φροντιστή, συνεργάτη ή συντρόφου.

Οι θετικές πτυχές της αντιμετώπισης ενός ρομπότ σαν άτομο είναι ακριβώς ο λόγος που οι ρομποτικοί το σχεδιάζουν ως τέτοιο — μας αρέσει να αλληλεπιδρούμε με ανθρώπους. Καθώς αυτές οι τεχνολογίες γίνονται πιο ανθρώπινες, γίνονται πιο ικανές να μας επηρεάσουν. Ωστόσο, εάν συνεχίσουμε να ακολουθούμε την τρέχουσα πορεία ανάπτυξης ρομπότ και τεχνητής νοημοσύνης, αυτές οι τεχνολογίες θα μπορούσαν να αναδειχθούν πολύ πιο δυστοπικές παρά ουτοπικές.

Το ρομπότ Sophia, που κατασκευάζεται από τη Hanson Robotics, έχει ξεκινήσει 60 Λεπτά, έλαβε τιμητική υπηκοότητα από τη Σαουδική Αραβία, κατέχει α τίτλο από τα Ηνωμένα Έθνη και έχει προχωρήσει σε ένα ραντεβού με τον ηθοποιό Γουίλ Σμιθ. Ενώ η Sophia αναμφίβολα τονίζει πολλές τεχνολογικές εξελίξεις, λίγες ξεπερνούν τα επιτεύγματα του Hanson στο μάρκετινγκ. Αν η Σοφία ήταν αληθινά άτομο, θα αναγνωρίζαμε τον ρόλο της επιρροή.

Ωστόσο, χειρότερο από τα ρομπότ ή την τεχνητή νοημοσύνη κοινωνιοπαθητικούς παράγοντες — προσανατολισμένες στο στόχο χωρίς ηθική ή ανθρώπινη κρίση — αυτές οι τεχνολογίες γίνονται εργαλεία μαζικής επιρροής για όποιον οργανισμό ή άτομο τις ελέγχει.

Αν νομίζατε ότι Το σκάνδαλο της Cambridge Analytica ήταν κακό, φανταστείτε τι θα μπορούσαν να κάνουν οι αλγόριθμοι επιρροής του Facebook αν είχαν ένα συνοδευτικό πρόσωπο που μοιάζει με άνθρωπο. Ή χίλια πρόσωπα. Ή ένα εκατομμύριο. Η αλήθεια αξία μιας πειστικής τεχνολογίας δεν βρίσκεται στην ψυχρή, υπολογισμένη απόδοσή του, αλλά στην κλίμακα του.

Βλέποντας μέσα από την πρόθεση

Πρόσφατα σκάνδαλα και εκθέσεις στον κόσμο της τεχνολογίας έχουν κάνει πολλούς από εμάς να νιώθουμε αβοήθητοι απέναντι σε αυτούς τους εταιρικούς γίγαντες. Ευτυχώς, Πολλά από αυτά τα ζητήματα μπορούν να επιλυθούν μέσω της διαφάνειας.

Υπάρχουν θεμελιώδεις ερωτήσεις που είναι σημαντικό να απαντηθούν οι κοινωνικές τεχνολογίες, επειδή θα περιμέναμε τις ίδιες απαντήσεις όταν αλληλεπιδρούμε με ένα άλλο άτομο, αν και συχνά σιωπηρά. Ποιος κατέχει ή ορίζει την εντολή αυτής της τεχνολογίας; Ποιοι είναι οι στόχοι του; Τι προσεγγίσεις μπορεί να χρησιμοποιήσει; Σε ποια δεδομένα μπορεί να έχει πρόσβαση;

Δεδομένου ότι τα ρομπότ θα μπορούσαν να έχουν τη δυνατότητα σύντομα αξιοποιήσει τις υπεράνθρωπες ικανότητες, υλοποιώντας τη βούληση ενός αόρατου ιδιοκτήτη και χωρίς να δείξουμε λεκτικά ή μη λεκτικά στοιχεία που ρίχνουν φως στην πρόθεσή τους, πρέπει να απαιτήσουμε να απαντηθούν ρητά αυτού του είδους οι ερωτήσεις.

Ως ρομποτικός, μου κάνουν την ερώτηση, “Πότε θα κατακτήσουν τα ρομπότ τον κόσμο;” τόσο συχνά που έχω αναπτύξει μια απάντηση στο απόθεμα: “Μόλις τους το πω.” Ωστόσο, το αστείο μου στηρίζεται σε ένα σημαντικό μάθημα: μην κάνετε μηχανές αποδιοπομπαίο τράγο για αποφάσεις που λαμβάνονται από ανθρώπους.

Θεωρώ τον εαυτό μου συμπαθή ρομπότ, επειδή πιστεύω ότι τα ρομπότ κατηγορούνται άδικα για πολλές ανθρώπινες αποφάσεις και λάθη. Είναι σημαντικό να υπενθυμίζουμε περιοδικά στον εαυτό μας ότι ένα ρομπότ δεν είναι ο φίλος σας, ο εχθρός σας ή οτιδήποτε άλλο ενδιάμεσο. Ένα ρομπότ είναι ένα εργαλείο, το οποίο χειρίζεται ένα άτομο (όσο μακριά κι αν είναι) και χρησιμοποιείται όλο και περισσότερο για να μας επηρεάσει.

Ο Shane λαμβάνει χρηματοδότηση από το Συμβούλιο Φυσικών Επιστημών και Μηχανικής Έρευνας του Καναδά (NSERC). Είναι συνδεδεμένος με το Human Futures Institute, μια δεξαμενή σκέψης με έδρα το Τορόντο.

Αυτό το άρθρο εμφανίστηκε στο Η συζήτηση.

ετικέτες: γ-Πολιτική-Δίκαιο-Κοινωνία