Κανείς δεν πρόκειται να κατηγορήσει την εφαρμογή διαχείρισης φωτογραφιών της Google (που άρχισε να βάζει την ετικέτα «γορίλας» σε σκουρόχρωμους απεικονιζόμενους) για ρατσιστικά σχόλια. Με όποιον δάσκαλο καθίσεις, τα ίδια γράμματα θα μάθεις. Όυτε και τα chatbots του Facebook, ονόματι Alice και Bob (που αντί να ανταλλάσσουν μπάλες άρχισαν να επικοινωνούν σε μία γλώσσα που μόνο εκείνα κατανοούσαν) για καθυστέρηση αποστολής της παραγγελίας κι ανταλλαγής της πληροφορίας.

Άλλωστε οι πολυεθνικοί κολοσσοί του Ιντερνετ διαβεβαιώνουν πως θα κάνουν ό,τι είναι ανθρωπίνως δυνατό (διερευνόντας μεθόδους «φιλτραρίσματος» των δεδομένων), ώστε τα ψηφιακά ρομπότ να διεξάγουν συμπεράσματα λογικά.

Τι θα συμβεί όμως, άμα του την σβουρίξει του μηχανικού «ρομποτέξ» κι αρχίσει αιφνιδίως να παίρνει «προσωπικές» αποφάσεις γράφοντας στα ηλεκτρονικά του αρχίδια τους προγραμματιστές του;  Προφανώς θα πάμε σε καταστάσεις, όπου θ΄ αγκαλιαζόμαστε περιμένοντας με δέος τις τελευταίες μας στιγμές, ενώ από μπροστά μας θα περνά η εικόνα του ΙΤ, του μυστήριου εκείνου τύπου που καθόταν όλη μέρα στο γραφείο και κάθε φορά που το κομπιούτερ μας κολλούσε και ζητούσαμε απεγνωσμένοι τη βοήθειά του, μονίμως ερωτούσε: "Restart έκανες;"

Ίσως όλα αυτά ακούγονται κάπως αστεία, τα πράγματα όμως είναι σαφώς πιο σοβαρά.
Τα θανατηφόρα ατυχήματα που έχουν προκαλέσει τα ρόμποτ δεύτερης γενιάς είναι αρκετά. Στα ρόμποτ δεύτερης γενιάς, κατατάσσονται οι αυτοματισμοί που είναι εφοδιασμένοι με σταθερό πρόγραμμα δράσης και που λαμβάνουν εντολές από κάποιο σύστημα αριθμητικού ελέγχου και χρησιμοποιούνται σε πάρα πολλούς παραγωγικούς τομείς και κυρίως στη βιομηχανία. Σύμφωνα με το Υπουργείο Εργασίας των Η.Π.Α. από το 2000, συνολικά 20 άνθρωποι έχουν χάσει τη ζωή τους εξαιτίας των ρομπότ, όμως οι ευθύνες βαραίνουν και τους δύο εργαζόμενους.

Κάποια ατυχήματα προκλήθηκαν από μηχανήματα που έχασαν τα λογικά τους κατά τη διάρκεια επισκευής ή αναβάθμισης των λειτουργικών τους, ενώ κάποια επειδή ο άνθρωπος εισήλθε στην απαγορευμένη ζώνη "κινδύνου", όπου επιχειρούσαν τα βιομηχανικά ρομπότ που είναι προγραμματισμένα να εκτελούν την ίδια κίνηση ξανά και ξανά, κι επομένως ανίκανα να αξιολογήσουν και να κατανοήσουν στοιχεία, καταστάσεις καθώς κι να αναγνωρίσουν άλλα αντικέιμενα ή υποκείμενα, με αποτέλεσμα τον θάνατο.

Και τα πράγματα γίνονται ακόμη πιο σοβαρά.
Στην τρίτη γενιά κατατάσσονται τα ρομπότ που είναι εφοδιασμένα με αισθητήριες "πληροφορίες" από το περιβάλλον, με διάταξη επεξεργασίας των πληροφοριών και με κινητήριο σύστημα εκτέλεσης εργασιών.

Η ανάπτυξη του κλάδου της Τεχνητής Νοημοσύνης (Αrtificial Ιntelligence) κατά τη δεκαετία του 1980 άνοιξε ευρύτατες προοπτικές εφαρμογής στη ρομποτική κατασκευή συστημάτων αυτοματισμού, εφοδιασμένων με ικανότητα μάθησης, δυνατότητα κατανόησης της φυσικής γλώσσας, ικανότητα αξιολόγησης στοιχείων, λήψης αποφάσεων κ.ά. Οι σχετικές έρευνες στον τομέα της ρομποτικής αφορούν την κατασκευή ρομπότ τα οποία πέρα από τις βασικές αισθήσεις, όπως η αφή και η όραση, θα είναι εφοδιασμένα με αντιληπτικές ικανότητες (για παράδειγμα, αντίληψη σχημάτων, μορφών, εικόνων κ.λπ.), με ικανότητα διεξαγωγής λογικών συνειρμών και εξαγωγής συμπερασμάτων, καθώς και με δυνατότητες ανακατανομής δεδομένων ανάλογα με τη χρήση για την οποία ζητούνται και με ικανότητα αυτοδιόρθωσης.

Τι θα συμβεί όταν τα υπεράνθρωπα, φυσικά ρομπότ εμφανίσουν αφύσικα απρόβλεπτη συμπεριφορά; Συμπεριφορά που ίσως να μην είναι πιο προβλέψιμη από τον "ρατσιστικό" αλγόριθμο ετικετών της Google;
Μέχρι στιγμής, τα εγχειρίδια λειτουργίας των σχετικά απλών, αθώων και συμπαθητικών ρομπότ που έχουν διοχετευθεί στην αγορά για λόγους εξοικείωσης (ή εξημέρωσης), έχουν σχετικά απλό αλλά συνάμα δύσκολο τρόπο διακοπής της λειτουργίας τους (δες εδώ, εδώ κι εδώ), καθώς στα περισσότερα συνιστάται το παρατεταμένο πάτημα του κομβίου επανεκκίνησης, το οποίο συνήθως βρίσκεται πάνω στο αλλόφρον μηχανήμα. Άντε τρέχα να το πιάσεις δηλαδή... 

Δεδομένης δε της εμπειρίας μας από τη διαδικασία επανεκκίνησης των διαφόρων ηλεκτρονικών συσκευών, πολλές φορές ο χρόνος που απαιτείται μέχρι να ληφθεί η εντολή, είναι αρκετος ώστε στο ενδιάμεσο, να συμβούν πολλά. Και στην περίπτωση πιο περίπλοκων ρομπότ, πιθανώς πολλά και μοιραία.

Οι φόβοι που εκφράζονται τόσο για τη δυσκολία ελέγχου των συστημάτων αυτών, καθώς θα είναι εφοδιασμένα με ικανότητα ανάπτυξης σχετικής αυτονομίας, επομένως και απρόβλεπτων συμεριφορών κατά τη λειτουργία τους, όσο και για τη χρήση τους για στρατιωτικούς σκοπούς, ευσταθούν.

Και τα είδη των ατυχημάτων σε αυτή την πρίπτωση θα είναι διαφορετικά και είναι λιγότερο πιθανό να συνεπάγονται σφάλματα εκ μέρους του θύματος.