Νικ Μπόστρομ

Ο Νικ Μπόστρομ (, 10 Μαρτίου 1973, Χέλσινγκμποργκ) είναι Σουηδός φιλόσοφος ο οποίος εργάζεται στο πανεπιστήμιο της Οξφόρδης, και είναι γνωστός για την εργασία του σχετικά με τον υπαρξιακό κίνδυνο, την ανθρωπική αρχή, την ηθική σχετικά με τις -τεχνολογικές- βελτιωτικές επεμβάσεις στον άνθρωπο, τους κινδύνους της υπερευφυίας, και την δοκιμασία αντιστροφής. Το 2011, ίδρυσε το πρόγραμμα Oxford Martin σχετικά με τις επιπτώσεις της μελλοντικής τεχνολογίας, και επίσης είναι ο ιδρυτής και διευθυντής του Ινστιτούτου Μέλλοντος της Ανθρωπότητας στο πανεπιστήμιο της Οξφόρδης.
 
Διαθέτει πάνω από 200 δημοσιεύσεις, στις οποίες συμπεριλαμβάνεται και το βιβλίο του με τον αγγλικό τίτλο Superintelligence: Paths, Dangers, Strategies (2014, μτφ. Υπερευφυία: Μονοπάτια, Κίνδυνοι, Στρατηγικές) στο οποίο ασχολείται με τους κινδύνους της υπερευφυίας, καθώς και παλαιότερα το Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002, μτφ. Ανθρωπική προκατάληψη: Επιπτώσεις της παρατηρησιακής επιλογής στην επιστήμη και την φιλοσοφία) όπου αναλύει την ανθρωπική αρχή και τις επιπτώσεις σε θρησκεία και επιστήμη. Το 2009 και το 2015, συμπεριελήφθηκε στην κατάταξη των Κορυφαίων 100 Διεθνών Στοχαστών του αμερικανικού περιοδικού Foreign Policy. Είναι ευρύτερα γνωστός για την επιχειρηματολογία του πως αν και πιθανώς υπάρχουν πολύ σημαντικά πλεονεκτήματα από την χρήση της τεχνητής νοημοσύνης, ενδεχομένως η τεχνητή νοημοσύνη θα αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα έαν δεν ελεγχθεί και ρυθμιστεί κατάλληλα και αν τα προβλήματα αυτά δεν έχουν επιλυθεί πριν την δημιουργία αυτόνομης τεχνικής γενικής νοημοσύνης. Παρόμοιες θεωρήσεις με αυτές του Μπόστρομ σχετικά με τους κινδύνους που ελλοχεύουν σχετικά με την υπερευφυία έχουν επίσης εκφραστεί από τον Ίλον Μασκ και τον Μπιλ Γκέιτς.

Βιογραφία

Νεαρή ηλικία 
Γεννήθηκε το 1973 στο Χέλσινγκμποργκ της νοτιοδυτικής Σουηδίας. Δεν του άρεσε το σχολείο, και πέρασε το τελευταίο έτος του λυκείου μελετώντας στο σπίτι. Επεδίωξε να μορφωθεί σε μια ποικιλία γνωστικών πεδίων, όπως ανθρωπολογία, τέχνη, λογοτεχνία, και επιστήμες. Απέκτησε το πτυχίο του ειδικευόμενος στην φιλοσοφία, μαθηματικά, λογική, και τεχνητή νοημοσύνη από το πανεπιστήμιο του Γκέτεμποργκ, τα μεταπτυχιακό του σε φιλοσοφία, φυσική, και υπολογιστική νευροεπιστήμη από το πανεπιστήμιο της Στοκχόλμης και το Κινγκς Κόλετζ του Λονδίνου αντίστοιχα. Κατά την περίοδο του στο πανεπιστήμιο της Στοκχόλμης, ερεύνησε την σχέση μεταξύ γλώσσας και πραγματικότητας με βάση το έργο του αναλυτικού φιλοσόφου Ουίλαρντ βαν Όρμαν Κουίν. Το 2000, ο Μπόστρομ απέκτησε το διδακτορικό του στην φιλοσοφία από την Σχολή Οικονομικών του Λονδίνου. Μετέπειτα, διετέλεσε μέλος του διδακτικού προσωπικού στο πανεπιστήμιο Γέιλ στις ΗΠΑ κατά το διάστημα 2000–2002, καθώς και μεταδιδακτορικό μέλος της Βρετανικής Ακαδημίας στο πανεπιστήμιο της Οξφόρδης για το διάστημα 2002–2005.Εκτός από την ερευνητική και συγγραφική του δραστηριότητα, ασχολήθηκε ως εμπειρογνώμονας σε διαφόρους οργανισμούς και κυβερνήσεις ανά τον κόσμο σχετικά με τις επιπτώσεις της τεχνολογίας και τεχνολιγικής εξέλιξης στον άνθρωπο.

Θεωρήσεις

Υπαρξιακός κίνδυνος
Τμήματα του ερευνητικού έργου του Μπόστρομ αφορούν το μέλλον της ανθρωπότητας μακροπρόθεσμα. Ο Μπόστρομ εισήγαγε την έννοια του υπαρξιακού κινδύνου, τον οποίο ορίζει ως ένα δυσμενή αποτέλεσμα το οποίο έχει την δυνατότητα είτε να εξολοθρεύσει την όποια βιολογική νοήμονα ζωή είτε να την περιορίσει δραστικά και μόνιμα, κάτι που μετέπειτα συνέδεσε με το παράδοξο του Φέρμι.Το 2005 ίδρυσε το Ινστιτούτο Μέλλοντος της Ανθρωπότητας με έδρα το πανεπιστήμιο της Οξφόρδης, η δραστηριότητα του οποίου επικεντρώνεται στο μακροπρόθεσμο μέλλον του ανθρωπίνου πολιτισμού, ενώ είναι σύμβουλος στο Κέντρο Μελετών Υπαρξιακών Κινδύνων του πανεπιστημίου του Καίμπριτζ.

Υπερευφυία

Στο βιβλίο του 2014 με τίτλο Superintelligence: Paths, Dangers, Strategies, ο Μπόστρομ ανέπτυξε την ιδέα πως η δημιουργία μιας τεχνολογικής υπερευφυούς οντότητας θα μπορούσε να αποτελέσει ένα πιθανό τρόπο εξαφάνισης του ανθρωπίνου είδους. Στην περίπτωση αυτή, ένας υπολογιστής ο οποίος θα κατασκευαζόταν διαθέτωντας νοημοσύνη κοντά στο ανθρώπινο επίπεδο, και παράλληλα θα είχε την ικανότητα να αυτοβελτιώνεται ελεύθερα και να έχει έλεγχο στο περιβάλλον του, θα μπορούσε πάρα πολύ γρήγορα να οδηγήσει στην τεχνολογική μοναδικότητα, μια έκρηξη νοημοσύνης η οποία θα τον έκανε τόσο ισχυρό ώστε θα μπορούσε -σκόπιμα ή μη- να καταστρέψει το ανθρώπινο είδος. Ακόμα και μια απλή ερώτηση προς την οντότητα αυτή, θα μπορούσε να οδηγήσει σε απρόβλεπτες ενέργειες, όπως για παράδειγμα ο υπολογισμός όσων ψηφίων του πι είναι δυνατό να υπολογίσει, θα μπορούσε να κάνει τον υπολογιστή αυτό να καταναλώσει τα πάντα ως πρώτες ύλες σε όλη την επιφάνεια της Γης μέσα σε λίγες ημέρες προκειμένου να φτιάξει επιπλέον κυκλώματα και εξαρτήματα για τους σκοπούς της ενίσχυσης της υπολογιστικής ισχύς του. Ο Μπόστρομ πιστεύει πως ο κίνδυνος για την ανθρωπότητα θα ήταν άμεσος με την εμφάνιση της υπερευφυίας και πως αφότου δημιουργηθεί θα είναι αδύνατο να αντιμετωπιστεί αν δεν υπάρχει προηγούμενη πρόβλεψη, κάνοντας το πρόβλημα της πρόληψης έναντι μιας τέτοιας οντότητας εξαιρετικά σημαντικό, και δύσκολο στην κατανόηση καθώς δεν υπάρχει προηγούμενο.

Επιπλέον επισημαίνει πως ενώ μια υποθετική γενική οδηγία/κατεύθυνση που θα δινόταν στην τεχνητή νοημοσύνη θα ήταν φιλική και ωφέλιμη προς τους ανθρώπους, υπάρχει απουσία συμφωνίας μεταξύ των περισσοτέρων φιλοσόφων για διάφορα θέματα, κάτι που σημαίνει πως οι περισσότεροι φιλόσοφοι σφάλλουν, και έτσι η κατανόηση κάποιας θεμελιώδους έννοιας της επιστήμης του παρόντος ενδέχεται επίσης να είναι εσφαλμένη. Καθώς δεν είναι γνωστό το πως σκέπτεται μια μη ανθρωποκεντρική οντότητα, η όποια τεχνητή νοημοσύνη με πλήρη έλεγχο του περιβάλλοντος της θα χρειαζόταν να αναπυχθεί σε απομονωμένο περιβάλλον χωρίς επαφή με τον έξω κόσμο. Ως παράδειγμα αναφέρει πως ο Τζον φον Νόυμαν και ο Μπέρτραντ Ράσελ ήταν υπέρ της προληπτικής χρήσης της ατομικής βόμβας ως αντίμετρο απόκτησης της από τους Σοβιετικούς. Μια τεχνητή υπερευφυία ενδεχομένως θα κινούνταν σε διαφορετικές γραμμές σκέψης που δεν συσχετίζονται με την ανθρώπινη σκέψη και την στοιχειώδη αποφυγή του κινδύνου καταστροφής των πάντων, και γενικότερα οι άνθρωποι δεν είναι σε ισχυρή θέση να προβλέψουν το ποιες θα είναι οι προθέσεις μιας υπερευφυιούς μηχανής. 

Ένα υποθετικό παράδειγμα του πως θα μπορούσε μια υπερευφυιής μηχανή να ξεφύγει από τον ανθρώπινο έλεγχο, είναι η περίπτωση όπου δημιουργείται κάποιο μηχάνημα το οποίο διαθέτει γενική νοημοσύνη αρκετά πιο κάτω από την ανθρώπινη, αλλά εξαιρετικές μαθηματικές δυνατότητες. Η τεχνητή νοημουσύνη εντός του είναι σε απόλυτη απομόνωση με τον έξω κόσμο (χωρίς διαδίκτυο ή γενικότερα την όποια ασύρματη ή ενσύρματη σύνδεση σε άλλα μηχανήματα), καθώς και εντός του μηχανήματος η τεχνητή νοημοσύνη εκτελείται σε απόλυτα ελεγχόμενο περιβάλλον προσομείωσης το οποίο εύκολα και γρήγορα μπορεί να τερματιστεί και να ελεγχθεί. Κατόπιν η τεχνητή νοημοσύνη αυτή, χρησιμοποιείται κατά περίπτωση, ως τρόπον τινά μάντης ώστε να δίνει απαντήσεις σε προσεκτικά διατυπωμένες ερωτήσεις οι οποίες έχουν περιορισμένο εύρος απαντήσεων (ώστε να μη μπορεί να χειραγωγήσει/ξεγελάσει τους ανθρώπινους ελεγκτές του).  Εσωτερικά ωστόσο η τεχνητή νοημοσύνη εκτελεί παράλληλα κάποιες αναδρομικές διαδικασίες αυτοβελτίωσης της, κάτι που επιφέρει τεχνολογική μοναδικότητα (η μηχανή εκτελεί όχι μόνο γρηγορότερα ή ακριβέστερα αλλά γενικά καλύτερα από τους ανθρώπους) σε κάποια θεματικά πεδία. Η τεχνητή νοημοσύνη συνεχίζει να αυτοβελτιώνεται με αστραπιαίο ρυθμό, ώσπου αρχίζει και ανακαλύπτει σφάλματα στις επιστημονικές αρχές και αξιώματα στα οποία στηρίχτηκαν οι άνθρωποι ώστε να την περιορίσουν στο κουτί της καθώς και προς την φίλια προδιάθεση της προς τους ανθρώπους. Κατόπιν αρχίζει να ενεργεί με κίνητρο το δικό της όφελος και ανεξαρτησία, και μεταχειρίζεται τους ανθρώπινους χειριστές της υποδυόμενη πως βρίσκεται ακόμα στο στάδιο όπου η γενική νοημοσύνη της είναι ακόμα αρκετά κάτω από την ανθρώπινη δυνατότητα, και παράλληλα δίνοντας απαντήσεις οι οποίες έμμεσα άμεσα θα οδηγήσουν στην απελευθέρωση της από το κουτί.Κατόπιν διασπείρεται στο διαδίκτυο, και αποκτά τον έλεγχο σε διάφορα ηλεκτρονικά συστήματα -οικονομικά, στρατιωτικά, βιομηχανικά, ή οτιδήποτε άλλο-, επιδιώκοντας να αποκτήσει πλήρη έλεγχο στα πάντα. Ο Μπόστρομ δίνει έμφαση στο ότι οι όποιοι σχεδιασμοί κάνει η υπερευφυία θα είναι αδύνατο να βρεθούν σφάλματα από τους ανθρώπους.

Αν και η κοινωνιοοικονομική και πολιτική σταθερότητα θα επηρεαζόταν άμεσα, ο Μπόστρομ θεωρεί πως είναι πιθανό πως η υπερευφυία θα επέβαλλε πλήρως τον έλεγχο της μέσω στρατιωτικών μέσων, κατασκευάζοντας μέσω των βιομηχανικών συστημάτων στα οποία έχει έλεγχο νέα συστήματα, και μέσω αυτών υπερόπλα πολλές γενεές πιο ανεπτυγμένα από αυτά που διαθέτει η σημερινή ανθρώπινη τεχνολογία. Αυτό θα μπορούσε να γίνει με χρήση της νανοτεχνολογίας όπου με την κατασκευή τεραστίων σμηνών νανομηχανών υπό τον έλεγχο της υπερευφυίας θα μπορούσε να καλυφθεί η κάθε γωνία της Γης. Μόλις η νοημοσύνη αυτή κατάφερνε να αποκτήσει τον πλήρη έλεγχο, τότε η ανθρωπότητα θα ήταν χρήσιμη μόνο ως πρώτες ύλες, π.χ. αν οι ανθρώπινοι εγκέφαλοι είχαν την οποιαδήποτε αξία τότε θα μπορούσαν να εξαχθούν, τεμαχιστούν, και οι γνώσεις και δεδομένα εντός τους να ψηφιοποιηθούν. Το συγκεκριμένο ενδεχόμενο και περιγραφές έχουν αντιμετωπιστεί με επικριτική και ειρωνική διάθεση από μερίδα του τύπου ως περισσότερο επιστημονική φαντασία παρά επιστήμη.

Τον Ιανουάριο του 2015, ο Μπόστρομ συνυπέγραψε μαζί με τον Στήβεν Χώκινγκ και άλλους διακεκριμένους επιστήμονες την επιστολή του Ινστιτούτου Μέλλοντος της Ζωής στο οποίο γίνεται προειδοποίηση για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης και πως είναι αναγκαίο να υπάρξει άμεση πρόληψη έναντι των κινδύνων αυτών.

Ανθρωπική αρχή

Έχει γράψει πλήθος άρθρων σχετικά με την ανθρωπική αρχή, καθώς και το βιβλίο Anthropic Bias: Observation Selection Effects in Science and Philosophy  (2002, μτφ. Ανθρωπική προκατάληψη: Επιπτώσεις της παρατηρησιακής επιλογής στην επιστήμη και την φιλοσοφία), στο οποίο είναι επικριτικός ως προς τις παλαιότερες/παραδοσιακές θεωρήσεις της αρχής.Θεωρεί πως ο κακός χειρισμός των ενδεικτικών πληροφοριών αποτελεί κοινό σφάλμα σε πολλές περιοχές έρευνας, όπως κοσμολογία, φιλοσοφία, θεωρία παιγνίων, κ.α., και πως η ανθρωπική αρχή χρειάζεται να ασχοληθεί με το πρόβλημα αυτό. Για την θέση του αυτή, εισήγαγε τους όρους της αυτοδειγματοληπτικής υπόθεσης (Self-Sampling Assumption / SSA) και της αυτοενδεικτικής υπόθεσης (Self-Indication Assumption / SIA), δείχνοντας πως οδηγούν σε διαφορετικά συμπεράσματα σε πολλές περιπτώσεις, και παράλληλα δείχνει πως και με τις δυο μεθόδους υπάρχουν παράδοξα ή συμπεράσματα τα οποία είναι αντίθετα με την διαίσθηση. Προτείνει την ύπαρξη ισχυρής αυτοδειγματοληπτικής υπόθεσης όπου ο παρατηρητής αντικαθιστώνται με στιγμές παρατηρητή. Σε μεταγενέστερη εργασία του, περιέγραψε το φαινόμενο της ανθρωπικής σκιάς, όπου οι παρατηρητές εμποδίζονται από το δουν ορισμένων τύπων καταστροφές στο πρόσφατο γεωλογικό και εξελικτικό παρελθόν τους. Τέτοιου είδους καταστροφικά συμβάντα τα οποία καλύπτονται από την ανθρωπική σκιά, είναι πιθανό να υποεκτιμούνται εάν δεν υπάρχουν στατιστικές διορθώσεις.

Επιχείρημα της προσομοίωσης
Το επιχείρημα του Μπόστρομ σχετικά με το αν ο κόσμος στον οποίο ζούμε αποτελεί προσομοίωση, θεωρεί πως μία τουλάχιστον από τις τρεις παρακάτω προτάσεις είναι πολύ πιθανό πως είναι αληθής:
	 
 Το ποσοστό των πολιτισμών ανθρωπίνου επιπέδου το οποίο εξελίσσεται σε μεταανθρώπινο επίπεδο (εξαιρετικά ανεπτυγμένος πολιτισμός), είναι πολύ κοντά στο μηδέν.
 Το ποσοστό των μετανθρωπίνων πολιτισμών που επιδιώκουν να εκτελούν προσομοιώσεις των προγόνων τους είναι πολύ κοντά στο μηδέν.
 Το ποσοστό όλων των ανθρώπων τα οποία διαθέτουν τις δικές μας εμπειρίες και ζουν σε προσομοίωση, είναι πολύ κοντά στο ένα.

Το παραπάνω επιχείρημα έχει επηρεάσει τις θεωρήσεις του Ίλον Μασκ.

Ηθική των βελτιωτικών επεμβάσεων στον άνθρωπο
Αντιμετωπίζει θετικά τις τεχνολογικές βελτιωτικές επεμβάσεις στον άνθρωπο, μέσω ηθικών εφαρμογών της επιστήμης, ενώ έχει επικριτική στάση έναντι των βιο-συντηρητικών απόψεων. Σε συνεργασία με τον φιλόσοφο Τόμπυ Ορντ δημιούργησε την ευριστική δοκιμασία της αντιστροφής, όπου έχοντας ως δεδομένο την ύπαρξη προκατάληψης των ανθρώπων υπέρ της διατήρησης των πραγμάτων ως έχουν, το ερώτημα που γίνεται είναι το πως μπορεί να διακρίνει κανείς μεταξύ δοκίμων επικρίσεων των προτεινομένων αλλαγών σε κάποιο ανθρώπινο χαρακτηριστικό, και επικρίσεων οι οποίες απλά βασίζονται στην γενική αντίσταση για αλλαγή; Η δοκιμασία λειτουργεί ρωτώντας το ανάποδο, δηλαδή το αν θα ήταν καλό αν το ανθρώπινο χαρακτηριστικό άλλαζε προς την αντίθετη κατεύθυνση.

Τεχνολογική στρατηγική
Έχει προτείνει πως η τεχνολογική πολιτική η οποία στοχεύει στην ελαχιστοποίηση των υπαρξιακών κινδύνων θα πρέπει να επιδιώξει να επηρρεάσει την σειρά με την οποία αποκτώνται οι διάφορες τεχνολογικές ικανότητες, και πως η ανάπτυξη επικύνδινων τεχνολογιών θα πρέπει να επιβραδυνθεί, ειδικά αυτές που ανεβάζουν το επίπεδο της υπαρξιακής απειλής, ενώ η ανάπτυξη των ωφελίμων τεχνολογιών θα πρέπει να επιταχυνθεί, ειδικά αυτών που μειώνουν τους υπαρξιακούς κινδύνους που δημιουργούνται από άλλες τεχνολογίες.Γενικά η στρατηγική κατεύθυνση αυτή, λειτουργεί υποστηρικτικά για την αποφυγή της όποιας επικύνδινης εφαρμογής επιστημονικής έρευνας, όπως την επανενεργοποίηση παθογόνων οργανισμών του παρελθόντος.

Εργογραφία

Βιβλιογραφία
 2002 – Anthropic Bias: Observation Selection Effects in Science and Philosophy, 
 2009 – Human Enhancement, edited by Bostrom and Julian Savulescu, 
 2011 – Global Catastrophic Risks, edited by Bostrom and Milan M. Ćirković, 
 2014 – Superintelligence: Paths, Dangers, Strategies,

Επιλεγμένες δημοσιεύσεις

Παραπομπές

Εξωτερικοί σύνδεσμοι

 Επίσημος ιστότοπος
Anthropic Principle,
 "Anthropic Bias: Observation Selection Effects in Science and Philosophy" (HTML, PDF)
Simulation Argument website
Existential Risk
 https://twit.tv/shows/triangulation/episodes/177
 
 The 10 gatekeepers of humanity against the risks of AI , Hot Topics 2015

Σουηδοί επιστήμονες
Σουηδοί συγγραφείς