Πρέπει να εμπιστευόμαστε τους υπολογιστές; Το ερώτημα αυτό τίθεται κατά τρόπο ολοένα και περισσότερο επιτακτικό ιδιαίτερα τα τελευταία χρόνια χάρη στην πρόοδο της Τεχνητής Νοημοσύνης. Μάλιστα διάσημοι επιστήμονες και μηχανικοί, όπως οι Stephen Hawking, Elon Musk και Bill Gates, θεωρούν άκρως επικίνδυνη για την ανθρωπότητα την ευρεία χρήση Τεχνητής Νοημοσύνης και έχουν κρούσει επανειλημμένως τον κώδωνα του κινδύνου στα μέσα ενημέρωσης.

Άρθρο του Ιωσήφ Σηφάκη όπως αυτό δημοσιεύτηκε στο slpress.gr

Βέβαια ίσως κάποιος παρατηρήσει ότι ήδη εμπιστευόμαστε δεκάδες δισεκατομμύρια υπολογιστές πού είναι αναπόσπαστο κομμάτι της οργάνωσης των σύγχρονων κοινωνιών. Ενσωματωμένοι σε παντός είδους συστήματα ανά τον πλανήτη συντελούν στην ασφαλή και αποτελεσματική διαχείριση πόρων και διαδικασιών, εξασφαλίζοντας υπηρεσίες και ποιότητα ζωής. Επομένως είναι αναγκαίο να χρησιμοποιούμε και να εμπιστευόμαστε τους υπολογιστές μια και καλούνται να παίξουν ένα σημαντικό ρόλο στις κοινωνίες μας για να αντιμετωπίσουν τις προκλήσεις που θέτει παγκοσμίως η ανάπτυξη: κλιματική αλλαγή, υπερπληθυσμός, έλλειψη ζωτικών πόρων.

Όπως η ανακάλυψη των εργαλείων επέτρεψε στον άνθρωπο να πολλαπλασιάσει την μυική του δύναμη και να κτίσει τον τεχνικό πολιτισμό, έτσι η ανακάλυψη των υπολογιστών επιτρέπει να πολλαπλασιάσουμε τις νοητικές μας ικανότητες και ανοίγει τον δρόμο για μια νέα περίοδο στην εξέλιξη της ανθρωπότητας. Οι υπολογιστές υπερέχουν των ανθρώπων κατά το ό,τι κάνουν πράξεις ταχύτερα και με μεγαλύτερη ακρίβεια. Γι’ αυτό βρίσκουν ευρεία χρήση στην αυτοματοποίηση διαδικασιών και υπηρεσιών, όπως η κινητή τηλεφωνία, τα μέσα μεταφοράς, οι οικιακές συσκευές, η αυτοματοποίηση της παραγωγής και οι υπηρεσίες του τριτογενούς τομέα.

Όμως σήμερα η χρήση της Τεχνητής Νοημοσύνης επιτρέπει να πάμε ένα σημαντικό βήμα πιο μπροστά. Να περάσουμε από τα αυτόματα συστήματα στα αυτόνομα συστήματα που καλούνται να αντικαταστήσουν τον άνθρωπο σε πολύπλοκες λειτουργίες. Βασικό κίνητρο είναι η επίτευξη καλύτερης αποτελεσματικότητας, συνδυάζοντας ήδη αυτοματοποιημένες διαδικασίες χωρίς ανθρώπινη παρέμβαση. Ο ανθρώπινος παράγοντας θα ρυθμίζει μόνο ορισμένους στόχους, αφήνοντας στα αυτόνομα συστήματα την διεκπεραίωση τους. Π.χ. σε ένα αυτόνομο αυτοκίνητο θα ορίζουμε απλώς το προορισμό του, στα έξυπνα εργοστάσια και φάρμες απλώς τους δείκτες παραγωγής.

Σημειωτέον ότι τα αυτόνομα συστήματα είναι ‘κρίσιμα συστήματα’, λόγω έλλειψης άμεσου ελέγχου από τον άνθρωπο. Είναι επομένως σημαντικό να μπορούμε να εγγυηθούμε την ασφαλή λειτουργία τους, όπως ακριβώς και για τα αυτόματα συστήματα. Σήμερα εμπιστευόμαστε τη ζωή μας στον αυτόματο πιλότο τραίνων ή αεροπλάνων, επειδή ακριβώς έχουμε τα θεωρητικά και τεχνικά εργαλεία για να εγγυηθούμε την ασφάλειά τους. Μπορούμε να εμπιστευθούμε τα αυτόνομα συστήματα;

Διαφορές μεταξύ αυτομάτων και αυτονόμων συστημάτων

Θα προσπαθήσω να εξηγήσω κατά τρόπο απλό ποιες είναι οι διαφορές μεταξύ αυτομάτων και αυτονόμων συστημάτων. Κύριο χαρακτηριστικό των αυτονόμων συστημάτων είναι η ικανότητά τους να παράγουν και να διαχειρίζονται γνώση με ένα διττό σκοπό: Αφενός την ‘κατανόηση’ του εξωτερικού τους περιβάλλοντος, αφετέρου την προσαρμοστική διαχείριση πολλαπλών στόχων και τον προγραμματισμό αντιστοίχων δράσεων για την επίτευξή τους.

Χωρίς να υπεισέρχομαι σε τεχνικές λεπτομέρειες, ας εξετάσω τις διαφορές μεταξύ ενός αυτοματισμού π.χ. ενός θερμοστάτη και του συστήματος για την αυτόνομη οδήγηση αυτοκινήτου. Για τον θερμοστάτη η κατάσταση του εξωτερικού περιβάλλοντος δίνεται από μια απλή μέτρηση θερμοκρασίας, ενώ για το αυτοκίνητο δίνεται από ένα σύνολο αισθητήρων, όπως κάμερες και ραντάρ. Έτσι, ενώ η ένδειξη θερμοκρασίας χρησιμοποιείται άμεσα για την λήψη αποφάσεων, στην δεύτερη περίπτωση χρειάζεται ανάλυση εικόνων για τον εντοπισμό εμποδίων, άλλων οχημάτων και πεζών.

Επίσης η λήψη αποφάσεων είναι πολύ απλή για τον θερμοστάτη: συγκρίνει την θερμοκρασία με προκαθορισμένα όρια και αποφασίζει αναλόγως. Για το αυτόνομο αυτοκίνητο η λήψη αποφάσεων απαιτεί την διαχείριση ενός συνόλου στόχων μικροπρόθεσμων και μακροπρόθεσμων. Μικροπρόθεσμοι είναι στόχοι σχετικοί με την ασφάλεια, όπως η αποφυγή ατυχήματος και η πορεία του οχήματος να ακολουθεί την προκαθορισμένη τροχιά.

Μακροπορόθεσμοι είναι οι στόχοι σχετικά με τον προορισμό (π.χ. πηγαίνω από την Αθήνα στην Θεσσαλονίκη). Η επίτευξή τους απαιτεί την επίτευξη άλλων ενδιάμεσων στόχων, όπως την πραγματοποίηση ελιγμών για προσπέρασμα, παρκάρισμα, κυκλική κίνηση κλπ.
Η παραπάνω σύγκριση δείχνει τις σημαντικές διαφορές μεταξύ αυτομάτων και αυτονόμων συστημάτων που κατά κάποιο τρόπο καλούνται να επιδείξουν νοητικές ικανότητες ανάλογες με τις ανθρώπινες.

Η παραγωγή και διαχείριση της γνώσης

Η Τεχνητή Νοημοσύνη και ιδιαίτερα οι τεχνικές μηχανικής μάθησης επέτρεψαν την αποτελεσματική παραγωγή και διαχείριση της γνώσης που είναι απαραίτητη για την ανάπτυξη των αυτονόμων συστημάτων, όπως εξηγώ παρακάτω. Τι είναι γνώση; Είναι πληροφορία που επιτρέπει να κατανοούμε μια κατάσταση, ή να λύνουμε ένα πρόβλημα. Στο αυτόνομο αυτοκίνητο η γνώση είναι απαραίτητη για την αντίληψη του εξωτερικού περιβάλλοντος. Είναι επίσης απαραίτητη για την διαχείριση των στόχων και τον υπολογισμό των αντίστοιχων δράσεων για την πραγμάτωση τους.

Η επιτυχία της μηχανικής μάθησης οφείλεται στο γεγονός ότι χρησιμοποιεί νευρωνικά δίκτυα, ένα μοντέλο υπολογισμού εντελώς διαφορετικό από το παραδοσιακό μοντέλο των υπολογιστών μας, που επιτρέπει την αποτελεσματική παραγωγή και διαχείριση γνώσης. Ας πάρουμε ένα απλό παράδειγμα, υποθέτοντας ότι θέλω να κατασκευάσω ένα σύστημα στην είσοδο του οποίου παρουσιάζω εικόνες γάτων ή σκύλων και αναγνωρίζει σωστά το εικονιζόμενο ζώο.

Η παραδοσιακή προσέγγιση ξεκινά με την κατασκευή μοντέλων που χαρακτηρίζουν αντίστοιχα την μορφή κάθε ζώου με ένα σύνολο μοτίβων όπως σχήμα της κεφαλής, θέσεις και σχήμα ματιών, αυτιών, μύτης κλπ. Εν συνεχεία, πρέπει να γράψω ένα πρόγραμμα που αναλύει εικόνες, βρίσκοντας χαρακτηριστικά μοτίβα και έτσι αποφασίζει εάν πρόκειται περί σκύλου ή γάτας. Η προσέγγιση αυτή που στηρίζεται σε μοντέλα είναι πολύ δύσκολο να εφαρμοστεί για την ανάλυση συνθέτων εικόνων και είναι αλγοριθμικά εξαιρετικά πολύπλοκη.

Η μηχανική μάθηση παίρνει μια εντελώς διαφορετική εμπειρική προσέγγιση που δεν απαιτεί την κατασκευή μοντέλων. Ένα νευρωνικό σύστημα μαθαίνει να ξεχωρίζει μια γάτα από ένα σκύλο μέσα από μια πειραματική προσαρμοστική διαδικασία, όπως ακριβώς το μαθαίνει ένα παιδί. Δηλαδή, ‘δείχνουμε’ στο σύστημα ένα μεγάλο αριθμό σχετικών εικόνων και ρυθμίζουμε προοδευτικά παραμέτρους του συστήματος, έτσι ώστε να δίνει την σωστή απόκριση. Η διαδικασία ‘εκπαίδευσης’ του συστήματος είναι προσαρμοστική.

Το ποσοστό των εσφαλμένων αποκρίσεων μειώνεται όσο ο αριθμός των δεδομένων αυξάνει.
Εδώ βέβαια πρέπει να επισημάνω ότι ένα παιδί μαθαίνει με λίγα παραδείγματα, ενώ η εκπαίδευση νευρωνικών συστημάτων απαιτεί μεγάλο όγκο δεδομένων. Όμως, το πλεονέκτημα τους έναντι των παραδοσιακών συστημάτων είναι ότι μετά από μια ενδεχομένως χρονοβόρα ‘εκπαίδευση’, υπολογίζουν σχεδόν στιγμιαία την απόκριση τους. Έτσι, σήμερα εταιρείες όπως η Tesla και η Waymo αναπτύσσουν νευρωνικά συστήματα ικανά να οδηγήσουν αυτοκίνητα. Αυτά τα συστήματα μετά από εντατική ‘εκπαίδευση’, είναι σε θέση να οδηγούν οχήματα με σχετικά μικρά, αλλά ακόμη όχι αμελητέα ποσοστά σφάλματος.

Ένα νέο είδος γνώσης

Όμως δυστυχώς όλα αυτά τα θαυμάσια επιτεύγματα έχουν μιαν αχίλλειο πτέρνα. Η παραδοσιακή μέθοδος είναι δυνατόν να θεμελιωθεί λογικά, επειδή χρησιμοποιεί μοντέλα και προγράμματα που επιδέχονται επαλήθευση. Αντιθέτως, τα νευρωνικά συστήματα είναι ‘μαύρα κουτιά’ που λειτουργούν κατά τρόπο ‘μαγικό’, με την έννοια ότι την λειτουργία τους δεν μπορούμε να την εξηγήσουμε. Αυτό θέτει μια σειρά πρακτικών και θεωρητικών προβλημάτων.

Τα πρακτικά προβλήματα αφορούν την χρήση νευρωνικών υπολογιστών σε κρίσιμα αυτόνομα συστήματα. Η κατασκευή τεχνουργημάτων στηρίζεται στην επιστημονική γνώση και στην χρήση μαθηματικών μοντέλων. Όταν κατασκευάζω μια γέφυρα ή τον αυτόματο πιλότο ενός αεροπλάνου, η χρήση μαθηματικών μοντέλων επιτρέπει να κατανοήσω πώς τα συστήματα αυτά συμπεριφέρονται σε διάφορες καταστάσεις και να εγγυηθώ την ασφαλή χρήση τους με μια πολύ υψηλή πιθανότητα (π.χ. για το αεροπορικό σύστημα λιγότερο από 9-10 απλές, μη επικίνδυνες, βλάβες την ώρα).

Πρέπει να τονίσω ότι όλα τα τεχνουργήματα κατασκευάζονται με βάση κανονισμούς και στάνταρντ που ελέγχονται από ανεξάρτητους οργανισμούς πιστοποίησης. Όταν αγοράζετε μια τοστιέρα, ή λάστιχα αυτοκινήτων, κάποιος έχει ελέγξει και εγγυάται με βάση θεωρητικά και πειραματικά δεδομένα ότι εάν τα χρησιμοποιήσετε σωστά δεν κινδυνεύει η ζωή σας.
Δυστυχώς, τα συστήματα μηχανικής μάθησης δεν στηρίζονται σε μοντέλα, αλλά σε συσσωρευμένη εμπειρική γνώση.

Μπορούμε, βέβαια, να διαπιστώσουμε πειραματικά εάν λειτουργούν σωστά. Όμως, ακόμη και εάν λειτουργούν άψογα για μεγάλο αριθμό δεδομένων, δεν μπορούμε με την σιγουριά που δίνει η επιστημονική μέθοδος να πούμε ότι θα εξακολουθήσουν να δουλεύουν σωστά και στο μέλλον. Τα ισχύοντα κριτήρια πιστοποίησης που εφαρμόζονται από ανεξάρτητους οργανισμούς δεν είναι δυνατόν να εφαρμοστούν στα συστήματα μηχανικής μάθησης, στα αυτόνομα συστήματα.

Σήμερα, για να μην σταματήσουν την ανάπτυξη τέτοιων συστημάτων και να διατηρήσουν την αμερικανική υπεροχή, οι αρμόδιες αμερικανικές αρχές αποδέχονται την χρήση τους μετά από αυτό-πιστοποίηση. Αυτό σημαίνει πρακτικά ότι όχι μια ανεξάρτητη Αρχή, αλλά ο ίδιος ο κατασκευαστής εγγυάται την ασφάλεια αυτών των συστημάτων και έχει πλήρη την ευθύνη σε περίπτωση ατυχήματος. Έτσι εάν σφάλλει ο αυτόματος πιλότος ενός αυτοκινήτου ο κατασκευαστής πρέπει να αποζημιώσει για ενδεχόμενες ζημίες και θύματα.

Εκ των προτέρων και εκ των υστέρων γνώση

Εδώ πρέπει να διαπιστωθεί μια σημαντική αλλαγή στο τρόπο διαχείρισης του ρίσκου που εισάγεται με την Τεχνητή Νοημοσύνη. Δεν είναι πλέον ανεξάρτητοι κρατικοί θεσμοί που εγγυώνται και ελέγχουν την ποιότητα των τεχνουργημάτων και την ασφάλεια τους. Η ευθύνη αυτή μετατίθεται στους κατασκευαστές! Φαντάζεται κανείς ότι υπό αυτές τις συνθήκες, η ασφάλεια των χρηστών κρισίμων συστημάτων όχι μόνο για την ατομική, αλλά και για την δημόσια ασφάλεια, κινδυνεύει να γίνει μια κοινή τεχνικοοικονομική παράμετρος που καθορίζεται αποκλειστικά από τον κατασκευαστή τους.

Όμως η Τεχνητή Νοημοσύνη θέτει και άλλα βαθύτερα προβλήματα όσον αφορά την γνώση και την διαχείριση της. Πως συγκρίνεται η γνώση των νευρωνικών υπολογιστών με τις διάφορες μορφές γνώσης που παράγει ο άνθρωπος; Η γνώση μπορεί να ιεραρχηθεί ανάλογα μη την εγκυρότητα και την χρηστικότητα της. Κατ’ αρχήν ένας θεμελιώδης διαχωρισμός είναι αυτός μεταξύ της εκ των προτέρων (a priori) και εκ των υστέρων (a posteriori) γνώσης.

Η εκ των προτέρων γνώση είναι αποκύημα νοητικών διαδικασιών που δημιουργούν και διαχειρίζονται μοντέλα και σχέσεις, των οποίων η ισχύς είναι ανεξάρτητη από τις εμπειρίες μας. Τέτοιου είδους γνώση είναι η μαθηματική, της οποίας η αλήθεια είναι αναμφισβήτητη, εάν φυσικά δεχθούμε τα βασικά αξιώματα από τα οποία πηγάζει.

Η εκ των υστέρων γνώση αφορά τις εμπειρίες μας από τον φυσικό κόσμο όπως τις αντιλαμβανόμαστε μέσω των αισθήσεων. Το πιο απλό είδος εμπειρικής γνώσης είναι παρατηρήσεις για το τι συμβαίνει σε ένα τόπο και χρόνο π.χ. η θερμοκρασία στην Αθήνα σήμερα είναι 32 βαθμοί. Αμέσως ανώτερο είδος εμπειρικής γνώσης είναι αυτή που έχει αποκτηθεί από συστηματοποίηση μεγάλου αριθμού εμπειριών. Σημαντικό μέρος της ευφυίας του ανθρώπου οφείλεται σε αυτού του είδους την γνώση. Είναι η ικανότητα να περπατά, να μιλά, να παίζει όργανα, να χορεύει κλπ. Σημειωτέον ότι η διαχείριση αυτής της γνώσης είναι αυτόματη (μη συνειδητή) και επομένως είναι δύσκολο να εξηγηθεί.

Ανώτερο είδος εμπειρικής γνώσης

Τέλος, η επιστημονική γνώση είναι το ανώτερο είδος εμπειρικής γνώσης διότι είναι μεν γενίκευση παρατηρήσεων, αλλά ακολουθεί μαθηματικά μοντέλα. Αυτό επιτρέπει την κατανόηση και εμβάθυνση των παραγόντων που καθορίζουν τα φαινόμενα. Επιτρέπει επίσης προβλεψιμότητα: η παρατήρηση ορισμένων μεγεθών συνεπάγεται τον προσδιορισμό πιθανών τιμών άλλων μεγεθών που υπεισέρχονται στις σχέσεις. Βέβαια, η επιστημονική γνώση δεν είναι αδιάψευστη, όπως η μαθηματική γνώση. Όντας αποτέλεσμα μια λογικά αυθαίρετης γενίκευσης παρατηρήσεων, είναι διαψεύσιμη. Είναι γνωστή π.χ. η μη επαλήθευση της θεωρίας του Νεύτωνα για μεγάλες ταχύτητες.

Αυτή η ταξινόμηση μας επιτρέπει να αξιολογήσουμε την γνώση που παράγεται με τεχνικές μηχανικής μάθησης. Είναι σαφώς γνώση εμπειρική, ίδιας φύσεως με την ‘άρρητη’, εμπειρική εκ των υστέρων γνώση του ανθρώπινου νου. Δεν μπορούμε να την εξηγήσουμε με μοντέλα και κατ’ αυτό δεν έχει την αξία της επιστημονικής γνώσης. Με όλα ταύτα επιτρέπει προβλεψιμότητα και η λελογισμένη χρήση της μπορεί να αποβεί ιδιαίτερα αποφασιστική στην προσπάθεια μας για τον έλεγχο της πολυπλοκότητας και την καλύτερη προβλεψιμότητα.

Παράλληλα, μια άλλη σημαντική διαπίστωση είναι ότι η παραγωγή από υπολογιστές ανωτέρων ειδών γνώσης στηριγμένης σε μοντέλα προσκρούει σε σοβαρούς περιορισμούς πολυπλοκότητας, όχι μόνο υπολογιστικής. Έτσι οι άνθρωποι υπερέχουν των υπολογιστών στην δημιουργία εξηγήσιμης γνώσης και έχουν το σχεδόν αποκλειστικό προνόμιο να δημιουργούν επιστημονική και μαθηματική γνώση.

Άνθρωποι και υπολογιστές – Για μια αρμονική ‘συμβίωση’

Εξήγησα ότι η επιστημονική γνώση είναι εμπειρική, κατανοήσιμη χάρη στην χρήση μοντέλων που μας παρέχουν τα Μαθηματικά και η Λογική. Οι παρατηρήσεις παίρνουν μια ανώτερη αξία όταν επιβεβαιώνεται πειραματικά ότι ακολουθούν ένα μαθηματικό νόμο. Βέβαια μια προϋπόθεση για την κατανόηση, αυτό που λέμε ‘επιστημονική ανακάλυψη’, είναι η ύπαρξη κατάλληλων μαθηματικών μοντέλων. Είναι γνωστή η περίπτωση του Νεύτωνα που ανέπτυξε τον απειροστικό λογισμό για να μπορέσει να διατυπώσει τους περίφημους νόμους του.

Με αυτό θέλω να τονίσω κάτι λογικά προφανές: η αδυναμία μας να κατανοήσουμε πλήρως πολύπλοκα φαινόμενα όπως μετεωρολογικά, οικονομικά, κοινωνικά, κλπ. δεν σημαίνει ότι αυτά τα φαινόμενα δεν διέπονται από νόμους. Σημαίνει απλώς ότι δεν έχουμε (ακόμη;) τα κατάλληλα μοντέλα που να ερμηνεύουν τις παρατηρήσεις. Ξέρουμε ότι υπάρχει ένα όριο στο μέγεθος των σχέσεων που μπορεί να συλλάβει ο ανθρώπινος νους. Το όριο αυτό που ορίζει η λεγόμενη ‘γνωσιολογική πολυπλοκότητα’ (cognitive complexity) είναι οι σχέσεις που έχουν περισσότερες από πέντε παραμέτρους.

Βέβαια, όπως εύστοχα παρατηρούσε ο Αϊνστάιν, ευτυχώς οι βασικοί νόμοι που διέπουν τα φυσικά φαινόμενα είναι συνταρακτικά απλοί. Όλες οι επιστημονικές θεωρίες συνδέουν ένα σχετικά μικρό αριθμό μεγεθών και εννοιών. Έτσι, όταν τις χρησιμοποιούμε για την μελέτη σύνθετων φαινομένων κάνουμε υποχρεωτικά αφαιρέσεις και απλουστεύσεις. Είναι γνωστές οι διαμάχες σχετικά με την καταχρηστική εφαρμογή μαθηματικών μοντέλων σε πολλούς τομείς γνώσης, ιδιαίτερα στις οικονομικές και κοινωνικές επιστήμες.

Μπορούν οι υπολογιστές να μας βοηθήσουν να ξεπεράσουμε τους περιορισμούς που θέτει η ανθρώπινη φύση μας στην αναζήτηση της γνώσης; Η απάντηση είναι σαφώς θετική. Έχουμε ήδη πολλά παραδείγματα όπου οι υπολογιστές συμβάλλουν στην ανάλυση πολύπλοκων φαινομένων, χάρη στην συνδυασμένη χρήση τεχνικών δεδομένων και μηχανικής μάθησης. Ίσως χάρη στην χρήση υπολογιστών μπορέσουμε να ξεπεράσουμε το φράγμα της γνωσιολογικής πολυπλοκότητας. Να αναπτύξουμε και επαληθεύσουμε νέες θεωρίες για την εξήγηση πολύπλοκων φαινομένων.

Προβλεψιμότητα χωρίς κατανόηση

Όμως, αυτό που πρέπει να μας προβληματίσει είναι η παραγωγή και χρήση γνώσεων με τεχνικές Τεχνητής Νοημοσύνης που επιτρέπουν προβλεψιμότητα χωρίς κατανόηση, ιδιαίτερα εάν χρησιμοποιούνται για την λήψη κρισίμων αποφάσεων. Προσπάθησα να δείξω κατά ποιο τρόπο οι υπολογιστές μπορούν να συμβάλουν στην επανάσταση της γνώσης. Νομίζω ότι ο κίνδυνος από την Τεχνητή Νοημοσύνη δεν είναι το ενδεχόμενο οι υπολογιστές να γίνουν εξυπνότεροι από τους ανθρώπους και να πάρουν κατά τρόπο συνωμοτικό τον έλεγχο των ανθρωπίνων κοινωνιών.

Ο πραγματικός κίνδυνος είναι να χρησιμοποιήσουμε την γνώση των υπολογιστών κατά τρόπο ανεξέλεγκτο για την λήψη αποφάσεων, αντικαθιστώντας τους ανθρώπους σε κρίσιμες διαδικασίες. Ο ρόλος της Τεχνητής Νοημοσύνης και των αυτόνομων συστημάτων εξαρτάται από τις επιλογές που κάνουμε για το πού και πότε τα χρησιμοποιούμε. Η σωστή και λελογισμένη χρήση αυτών των επιτευγμάτων εξαρτάται από δύο παράγοντες.

Πρώτος παράγοντας είναι η δυνατότητα να εκτιμήσουμε με αντικειμενικά κριτήρια κατά πόσο μπορούμε να εμπιστευθούμε τη γνώση που παράγεται από τους υπολογιστές. Σήμερα, αυτό είναι αντικείμενο ερευνών που ελπίζω θα μπορέσουν να μας δώσουν τα κατάλληλα κριτήρια. Π.χ. προσπαθούμε να αναπτύξουμε ‘εξηγήσιμη’ Τεχνητή Νοημοσύνη, τεχνικές που επιτρέπουν να διαπιστώνουμε εάν μια συσχέτιση που διαπιστώνεται από αναλύσεις δεδομένων κρύβει σχέση αιτίου-αιτιατού, ή είναι απλώς τυχαία. Πιστεύω ότι χρειαζόμαστε ενός νέου είδους επιστημονική μέθοδο που να γεφυρώνει το χάσμα μεταξύ της επιστημονικής γνώσης και της εμπειρικής που έχουμε από την Τεχνητή Νοημοσύνη.

Δεύτερος παράγοντας είναι η επαγρύπνηση και το αίσθημα πολιτικής ευθύνης του κοινωνικού συνόλου. Καλό είναι να εφαρμόσουμε μια ‘αρχή προφύλαξης’ (precautionary principle) που υιοθετείται σε σχετικές νομοθεσίες, τουλάχιστον στην ΕΕ. Όταν οι υπολογιστές χρησιμοποιούν γνώση για την λήψη κρισίμων αποφάσεων, πρέπει να είμαστε σίγουροι ότι αυτή η γνώση είναι ασφαλής και ουδέτερη.

Εδώ θα επισημάνω τον ρόλο που παίζουν οι κοινωνικοί θεσμοί στις σύγχρονες κοινωνίες, εκπαιδευτικοί, νομοθετικοί, πολιτιστικοί, ρυθμιστικοί και μέσα ενημέρωσης. Αυτοί άμεσα ή έμμεσα συντελούν στην διαμόρφωση της κοινής γνώμης και την συναντίληψη για το τι είναι αληθές, σωστό και ασφαλές. Έχουν λοιπόν τον ρόλο να ευαισθητοποιούν την κοινή γνώμη για τους κινδύνους που ενέχει η αλόγιστη χρήση Τεχνητής Νοημοσύνης. Παράλληλα, η πιστοποίηση της ασφάλειας των αυτονόμων συστημάτων πρέπει να γίνεται από ανεξάρτητες αρχές. Δεν πρέπει η διαχείριση του ρίσκου που απορρέει από την χρήση συστημάτων Τεχνητής Νοημοσύνης να επαφίεται σε αυτούς που τα αναπτύσσουν.

Ζούμε μια μεγάλη επανάσταση της γνώσης που θα έχει τεράστιες επιπτώσεις στην εξέλιξη της ανθρωπότητας. Ελπίζω η πίεση οικονομικών συμφερόντων και η αναζήτηση μιας κακώς εννοούμενης αποτελεσματικότητας να μην οδηγήσουν στην ανεξέλεγκτη χρήση των υπολογιστών στην λήψη κρισίμων αποφάσεων, χωρίς αυστηρά θεμελιωμένες εγγυήσεις.