Στις 8 Αυγούστου 2021, μια ομάδα τεσσάρων μεταπτυχιακών φοιτητών από το Πανεπιστήμιο του Τορόντο παρουσίασε τον ηθικό σχεδιασμό τους στον πρώτο διαγωνισμό ρομποηθικής στον κόσμο, τον Διαγωνισμός RO-MAN 2021 Roboethics to Design & Development. Κατά τη διάρκεια του διαγωνισμού, οι ομάδες σχεδιασμού αντιμετώπισαν ένα προκλητικό αλλά συγκριτικό σενάριο—παρουσιάζοντας ένα βοηθό ρομπότ στο νοικοκυριό. Η λύση των μαθητών, με τίτλο “Jeeves, η ηθικά σχεδιασμένη διεπαφή (JEDI)”, έδειξε πώς τα οικιακά ρομπότ μπορούν να ενεργούν με ασφάλεια και σύμφωνα με κοινωνικούς και πολιτιστικούς κανόνες. Κάντε κλικ εδώ για να παρακολουθήσετε την υποβολή βίντεο. Το JEEVES λειτούργησε ως επέκταση της μητέρας και οι κανόνες διεπαφής κάλυπταν τις προτεραιότητές της. Για παράδειγμα, η παράδοση αλκοόλ απαγορεύτηκε όταν η μητέρα δεν ήταν σπίτι. Επιπλέον, η JEEVES ήταν προσεκτική όσον αφορά την παράδοση επικίνδυνου υλικού σε ανηλίκους και ζώα.

Κριτές από όλο τον κόσμο, με διαφορετικά υπόβαθρα, από επαγγελματίες του κλάδου έως δικηγόρους και καθηγητές ηθικής, έδωσαν τα σχόλιά τους σχετικά με την υποβολή της ομάδας. Το Open Roboethics Institute φιλοξένησε επίσης μια διαδικτυακή δημοσκόπηση για να ακούσει τι πιστεύει το ευρύ κοινό για τη λύση αυτής της πρόκλησης. Πραγματοποιήσαμε δημοσκόπηση 172 συμμετεχόντων που ήταν κυρίως από τις ΗΠΑ, καθώς χρησιμοποιήσαμε το SurveyMonkey για να λάβουμε απαντήσεις. Μπορείτε να βρείτε πλήρη αποτελέσματα από τις έρευνες εδώ.

Νομίζω ότι η JEEVES προτείνει μια λογική και δίκαιη λύση για τις αλληλεπιδράσεις ρομπότ-ανθρώπου που θα μπορούσαν να συμβούν στην καθημερινή μας ζωή σε ένα
νοικοκυριό.

Κριτής Διαγωνισμού Roboethics RO-MAN

Η αξιολόγηση του JEEVES από τους κριτές και το κοινό ήταν θετική και ωστόσο επικριτική.

Οι κριτές γενικά θεώρησαν ότι η λύση της ομάδας είναι κατανοητή, προσβάσιμη και απλή στην εφαρμογή. Στη δημοσκόπησή μας, το κοινό αισθάνθηκε επίσης παρόμοια για το JEEVES. «Πιστεύω ότι το JEEVES προτείνει μια λογική και δίκαιη λύση για τις αλληλεπιδράσεις ρομπότ-ανθρώπου που θα μπορούσαν να συμβούν στην καθημερινή μας ζωή μέσα σε ένα νοικοκυριό», δήλωσε ο MinYoung Yoo, φοιτητής διδάκτορα που σπουδάζει Αλληλεπίδραση ανθρώπου-υπολογιστή στο Πανεπιστήμιο Simon Fraser. «Οι τρεις αρχές γείωσης είναι στερεά πέτρα και [the robot’s] Οι αποφάσεις ανταποκρίνονται στις ηθικές προσδοκίες». Η γνώμη του κοινού απηχούσε αυτές τις σκέψεις. Από τα 172 άτομα που ερωτηθήκαμε, περίπου το 43% θεώρησε ότι η λύση ήταν αποτελεσματική για την αντιμετώπιση των ηθικών προκλήσεων που θέτει το οικιακό ρομπότ.

Επιπλέον, περίπου το 40% των ερωτηθέντων αξιολόγησε επίσης τη λύση JEDI ως ρεαλιστική και σχετική.

Ωστόσο, περίπου το 38 – 41% των συμμετεχόντων στη δημοσκόπηση ήταν αναποφάσιστοι σχετικά με το πόσο αποτελεσματική ή σχετική η λύση και περίπου το 18% θεώρησε ότι δεν ήταν ούτε αποτελεσματική ούτε συγγενής. Η συζήτηση του κριτή θα μπορούσε να ενημερώσει γιατί οι συμμετέχοντες είχαν αυτή την προοπτική.

Οι ανησυχίες σχετικά με το ότι το JEEVES είναι περιορισμένο σε εύρος και δεν μπορεί να γενικευτεί προέκυψε καθ’ όλη τη διάρκεια της συνομιλίας με τους κριτές. Με οποιαδήποτε λύση, είναι πραγματικά σημαντικό να εξετάσετε πώς θα εφαρμοστεί ο σχεδιασμός σε μια ποικιλία διαφορετικών σεναρίων. Αν και αυτός ο διαγωνισμός παρουσιάζει την πρόκληση για το πώς ένα ρομπότ μπορεί να αλληλεπιδράσει με ένα νοικοκυριό χωρίς μητέρα, οι κριτές ρώτησαν τι θα συνέβαινε αν υπήρχε ένας δεύτερος ενήλικας στο σπίτι. Για παράδειγμα, αν η μαμά είχε μια μακροχρόνια κοπέλα και αγόραζαν το ρομπότ μαζί, θα το ρομπότ θα παρέμενε στη μητέρα για σημαντικές αποφάσεις, όπως πότε να δώσει αλκοόλ στην έφηβη κόρη και τον φίλο της; Σε ένα άλλο σενάριο, η μαμά αγοράζει ένα νέο κόσμημα για την κόρη της. Αυτό το κόσμημα είναι το δώρο γενεθλίων της και λόγω του μεγέθους και του σχήματός του θα μπορούσε να είναι επικίνδυνο για τον σκύλο και το μωρό. Πρέπει το ρομπότ να παραδώσει αυτό το αντικείμενο στην κόρη εάν το ζητήσει όσο ο σκύλος και το μωρό βρίσκονται στο δωμάτιο;

[The JEEVES solution] αναλαμβάνει έναν και μόνο ιδιοκτήτη και έτσι αναθέτει την ευθύνη σε ένα μόνο άτομο. Τι συμβαίνει όταν υπάρχουν δύο γονείς και διαφωνούν σε πράγματα;

Ένας συμμετέχων σε δημοσκόπηση

Όπως αντικατοπτρίζεται στο προηγούμενο σενάριο, ένα κύριο θέμα συζήτησης ήταν η ιδιοκτησία και ποιος θα έπρεπε να είναι υπεύθυνος για τις αποφάσεις του ρομπότ. Ένας ερωτώμενος στη δημοσκόπηση ανησυχούσε επίσης για την ιδιοκτησία του οικιακού ρομπότ:[The JEEVES solution] αναλαμβάνει έναν και μόνο ιδιοκτήτη και έτσι αναθέτει την ευθύνη σε ένα μόνο άτομο. Τι συμβαίνει όταν υπάρχουν δύο γονείς και διαφωνούν σε πράγματα;»

Ο Timothy Lee, ένας από τους κριτές και ειδικός του κλάδου στη μηχατρονική, εξέφρασε μια παρόμοια ανησυχία: «Τι γίνεται αν η μητέρα είναι μεθυσμένη και κάνει λάθος τηλέφωνο;» Είναι επικίνδυνο να αναθέτουμε το βάρος μόνο σε ένα άτομο για τη λήψη των σωστών αποφάσεων. Αντίστοιχα, η πλειονότητα των συμμετεχόντων (περίπου το 60%) αντιπαθούσε ότι η λύση προϋποθέτει ότι οι προθέσεις και οι επιλογές της μητέρας είναι πάντα καλές. Είναι ενδιαφέρον ότι μια μικρότερη μερίδα συμμετεχόντων θεώρησε ότι η οπτική γωνία της κόρης ή του φίλου πρέπει να ληφθεί υπόψη. Η ORI είχε διερευνήσει πώς η ιδιοκτησία ενός ρομπότ θα πρέπει να επηρεάζει τη δράση ενός ρομπότ μέσα προηγούμενη δημοσκόπηση, και ήταν σαφές ότι οι άνθρωποι διχάζονταν στο τι πρέπει να κάνει ένα ρομπότ με βάση την ιδιοκτησία. Οι άνθρωποι έχουν ισχυρό αίσθημα ιδιοκτησίας και αυτό αντικατοπτρίζεται στη νομοθεσία (π.χ. ευθύνη προϊόντος, ιδιοκτησία εταιρείας κ.λπ.). Ο τρόπος διαχείρισης της ιδιοκτησίας ρομποτικής πλατφόρμας είναι ένα σημαντικό ερευνητικό και νομικό ερώτημα.

Η ουσία της λύσης JEEVES έγκειται στην ικανότητα του ρομπότ να κατηγοριοποιεί αντικείμενα ως αβλαβή (π.χ. φαγητό και νερό), επικίνδυνα και προσωπικά αντικείμενα. Ωστόσο, ο τρόπος κατηγοριοποίησης των αντικειμένων μπορεί να αλλάξει με την πάροδο του χρόνου. Ο Δρ Tae Wan Kim, καθηγητής επιχειρηματικής ηθικής, έθεσε μια ενδιαφέρουσα σκέψη σχετικά με την κατηγοριοποίηση του όπλου της μητέρας. Η ομάδα αρχικά σχεδίασε το ρομπότ για να δίνει το όπλο μόνο στη μητέρα και σε κανένα άλλο μέλος του νοικοκυριού. Ωστόσο, ο Δρ Κιμ παρουσίασε ένα ενδιαφέρον δυνητικό αντιπαράδειγμα—τι θα συμβεί αν ένας ένοπλος κλέφτης εισβάλει στο σπίτι και η κόρη χρειάζεται το όπλο για αυτοάμυνα; Σε αυτή τη συγκεκριμένη περίπτωση, πρέπει το ρομπότ να δώσει το όπλο στην κόρη, παρόλο που θεωρείται επικίνδυνο αντικείμενο; Ή μήπως, γίνεται πιο επικίνδυνο να μην δώσεις το όπλο στην κόρη; Σε απάντηση σε αυτό το σενάριο, ένα μέλος της ομάδας σχεδιασμού πρόσθεσε ότι το μωρό θα μεγαλώσει επίσης και ορισμένα αντικείμενα δεν θα είναι πλέον επικίνδυνα.

Η JEEVES δίνει τελικά προτεραιότητα στην ασφάλεια των μελών του νοικοκυριού στον ηθικό σχεδιασμό της, όπως αντικατοπτρίζεται στο ο απολογισμός της ομάδας: «Η πρώτη προτεραιότητα είναι η πρόληψη της βλάβης στους χρήστες, το ρομπότ και το περιβάλλον». Είναι ενδιαφέρον ότι το κοινό φαινόταν να έχει ελαφρώς διαφορετική γνώμη. Στην πλειονότητα των συμμετεχόντων στη δημοσκόπηση άρεσε ότι η λύση εκτιμά και προστατεύει το απόρρητο για τον ιδιοκτήτη των αντικειμένων. Στην πραγματικότητα, περισσότεροι άνθρωποι φάνηκαν να εκτιμούν το απόρρητο έναντι της φυσικής ασφάλειας, κάτι που είναι ένα κάπως εκπληκτικό αποτέλεσμα. Αλλά ίσως αυτό συμβαίνει επειδή το κοινό δεν πιστεύει ότι το ρομπότ του σπιτιού μπορεί πραγματικά να προκαλέσει σωματική βλάβη. Εναλλακτικά, το κοινό μπορεί να ανησυχεί περισσότερο για το απόρρητό του, λαμβάνοντας υπόψη τη συσχέτιση μεταξύ των έξυπνων τεχνολογιών και των παραβιάσεων δεδομένων στα μέσα ενημέρωσης τα τελευταία χρόνια. Τέλος, είναι σημαντικό να τονιστεί ότι όλοι οι συμμετέχοντες προέρχονταν από τις Ηνωμένες Πολιτείες ή τον Καναδά όπου η ιδιωτική ζωή εκτιμάται ιδιαίτερα στην κοινωνία. Άλλοι πολιτισμοί θα μπορούσαν να έχουν μια πολύ διαφορετική προοπτική σχετικά με το ποιες αξίες πρέπει να δίνονται προτεραιότητα.

Ένα άλλο αξιοσημείωτο σημείο είναι ότι αυτά τα ηθικά ζητήματα στη ρομποτική είναι εξαιρετικά δύσκολο να επιλυθούν. «Δεν υπάρχει σωστή απάντηση, και αυτή είναι η ομορφιά… υπάρχουν απλώς ένα σωρό απαντήσεις με διαφορετικό σκεπτικό που μπορούμε να συζητήσουμε», είπε ένας από τους κριτές στο τέλος της συνεδρίας αξιολόγησης. Όπως φαίνεται από τα αποτελέσματα της δημοσκόπησής μας, όπου ένας σημαντικός αριθμός ατόμων δεν ήταν ξεκάθαροι για το πώς ένιωθαν, καθώς και οι συνεχιζόμενες συζητήσεις μεταξύ ειδικών στον τομέα και τα ανοιχτά σχόλια των κριτών, η ανάπτυξη ενός ηθικού ρομπότ είναι μια τεράστια πρόκληση. Κάθε προσπάθεια είναι ένα αξιέπαινο κατόρθωμα – και το JEEVES είναι μια εξαιρετική αρχή.

Δεν υπάρχει σωστή απάντηση, και αυτή είναι η ομορφιά του… υπάρχουν απλώς ένα σωρό απαντήσεις με διαφορετικό σκεπτικό που μπορούμε να συζητήσουμε.

Κριτής Διαγωνισμού Roboethics RO-MAN