Downloaded from YTS.MX
Official YIFY movies site: YTS.MX
Η τεχνητή νοημοσύνη μού εμπνέει δέος.
Ωραία, κάνουν κύκλο. Ωραίος σχηματισμός.
Η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει τη φτώχεια,
να μας δώσει νέα φάρμακα
και να φέρει ειρήνη στον κόσμο μας.
Μπράβο.
Αλλά υπάρχουν πολλοί κίνδυνοι στην πορεία.
Με την τεχνητή νοημοσύνη, ουσιαστικά δημιουργούμε μια μη ανθρώπινη νοημοσύνη
που είναι πολύ απρόβλεπτη.
Καθώς γίνεται πιο ισχυρή,
ποια είναι τα όρια που θα θέσουμε με την ΤΝ
όσον αφορά το πώς θα τη χρησιμοποιούμε;
Η κύρια αφετηρία γι' αυτήν τη συζήτηση
είναι οι στρατιωτικές εφαρμογές.
Το πεδίο μάχης πλέον είναι στα χωράφια του λογισμικού και του εξοπλισμού.
Ο στόχος βρέθηκε…
Οι στρατοί τρέχουν στην κούρσα
να αναπτύξουν ΤΝ πιο γρήγορα από τους αντιπάλους τους.
Είμαι νεκρός.
Προχωράμε γρήγορα προς έναν κόσμο όπου όχι μόνο μεγάλοι στρατοί,
αλλά και μη κρατικοί φορείς, ιδιωτικές βιομηχανίες
ή και ακόμα και το τοπικό τμήμα της αστυνομίας
θα μπορούν να χρησιμοποιούν όπλα που σκοτώνουν αυτόνομα.
Θα εκχωρήσουμε την απόφαση να αφαιρεθεί μια ζωή
σε αλγόριθμους, σε λογισμικό;
Είναι από τα πιο πιεστικά ζητήματα της εποχής μας.
Αν δεν χρησιμοποιηθεί με σωφροσύνη,
ενέχει σοβαρό κίνδυνο για κάθε άνθρωπο στον πλανήτη.
ΡΟΜΠΟΤ-ΔΟΛΟΦΟΝΟΙ
Καλά τα πήγατε εκεί, παιδιά.
Πολύ ευρύτερος φακός από πριν.
Αλήθεια;
-Βλέπεις περισσότερα δεδομένα. -Πολύ ωραία.
Στη Shield AI χτίζουμε έναν πιλότο με ΤΝ
που βάζει στα αεροπλάνα αυτοοδηγούμενη τεχνολογία ΤΝ.
Όταν μιλάμε για έναν πιλότο με ΤΝ,
θέλουμε να δώσουμε μεγαλύτερη αυτονομία στα αεροπλάνα.
Θα λύνουν μόνα τους προβλήματα.
Το Nova είναι ένα αυτόνομο τετρακόπτερο
που εξερευνά κτίρια και υπόγειες κατασκευές
πριν μπουν δυνάμεις εκκαθάρισης, ως μάτια κι αυτιά σ' αυτούς τους χώρους.
Σίγουρα διακρίνονται πολλές βελτιώσεις από την τελευταία φορά.
Δουλεύουμε να αλλάξουμε το πώς εξερευνά. Πώς προχωρά όροφο με όροφο.
Ελέγχει όλα τα δωμάτια σ' έναν όροφο πριν πάει στον άλλον.
-Φοβερό. -Κάναμε κάποιες αλλαγές πρόσφατα…
Πολλοί συχνά με ρωτούν
γιατί η τεχνητή νοημοσύνη είναι μια σημαντική ικανότητα.
Θυμάμαι τις αποστολές που εκτελούσα.
Πέρασα επτά χρόνια στο Ναυτικό.
Είμαι πρώην ΟΥΚάς, με δύο αποστολές στο Αφγανιστάν,
άλλη μία στο Ειρηνικό.
Σε μια τυχαία μέρα μπορεί να χρειαζόταν να καθαρίσουμε 150 κτίρια.
Μία από τις βασικές ικανότητες είναι η μάχη σώμα με σώμα.
Πυροβολισμοί από πολύ κοντινή απόσταση μέσα σε κτίρια.
Σε πυροβολούν.
Πιθανώς υπάρχουν εκρηκτικά μέσα στο κτίριο.
Είναι το πιο επικίνδυνο πράγμα που ένα μέλος των ειδικών δυνάμεων,
ένα μέλος του πεζικού, κάνει σε μια εμπόλεμη ζώνη.
Καμία εξαίρεση.
Πάντα θα είμαι ευγνώμων για τη θητεία μου στο Ναυτικό.
Υπάρχουν στιγμές και αναμνήσεις που, όταν τις σκέφτομαι,
σίγουρα συγκινούμαι.
Είναι κλισέ ότι η ελευθερία δεν είναι δωρεάν, αλλά το πιστεύω απόλυτα.
Το έχω βιώσει. Απαιτούνται πολλές θυσίες.
Συγγνώμη.
Όταν συμβαίνει κάτι κακό σε κάποιο μέλος της ομάδας σου,
είτε τραυματιστεί είτε σκοτωθεί,
είναι κάτι πολύ τραγικό.
Για εμένα, στη δουλειά που κάνουμε τώρα, αποτελεί ένα κίνητρο να καταφέρουμε
να μειωθεί ο αριθμός αυτών των συμβάντων στο μέλλον.
Στα τέλη της δεκαετίας του 2000 υπήρχε μια αφύπνιση στο Υπουργείο Άμυνας
για τη λεγόμενη τυχαία επανάσταση των ρομπότ.
Στείλαμε χιλιάδες ρομπότ αέρος κι εδάφους στο Ιράκ, το Αφγανιστάν.
Όταν η κυβέρνηση Ομπάμα μού ζήτησε να γίνω υφυπουργός Άμυνας,
ο τρόπος που διεξάγονταν οι πόλεμοι σίγουρα μεταβαλλόταν.
Χρησιμοποιούσαν ρομπότ εκεί όπου θα χρησιμοποιούσαν ανθρώπους.
Τα πρώτα ρομποτικά συστήματα ήταν τηλεελεγχόμενα.
Υπάρχει ένας άνθρωπος που το οδηγεί, σαν ένα τηλεκατευθυνόμενο αμάξι.
Αρχικά εντόπιζαν αυτοσχέδιους εκρηκτικούς μηχανισμούς.
Το ρομπότ ανατινασσόταν μαζί με τη βόμβα.
Έλεγες "Κρίμα. Εντάξει, φέρε το άλλο ρομπότ".
Στο Αφγανιστάν είχαν το ντρόουν Predator
που έγινε ένα πολύ χρήσιμο εργαλείο για αεροπορικές επιθέσεις.
Με τον καιρό, οι στρατιωτικοί σχεδιαστές άρχισαν να αναρωτιούνται
πού αλλού μπορούν να χρησιμοποιηθούν τα ρομπότ, πού πηγαίνει αυτό.
Ένα κοινό θέμα ήταν η τάση προς μεγαλύτερη αυτονομία.
Ένα αυτόνομο όπλο αποφασίζει από μόνο του,
με ελάχιστη ή καθόλου ανθρώπινη παρέμβαση.
Άρα έχει ικανότητα ανεξαρτησίας και είναι αυτοκατευθυνόμενο.
Το αν σκοτώνει εξαρτάται από το αν είναι οπλισμένο ή όχι.
Όταν έχεις όλο και περισσότερη αυτονομία στο σύστημά σου,
όλα αρχίζουν να κινούνται ταχύτερα.
Και όταν λειτουργείς με πιο γρήγορο ρυθμό από τους αντιπάλους σου,
αυτό είναι ένα πολύ μεγάλο πλεονέκτημα στη μάχη.
Μια και σχετίζονται με την αυτονομία,
εστιάζουμε σε ανθεκτικά συστήματα πληροφοριών.
Συστήματα που ερμηνεύουν και αντιδρούν βάσει του περιβάλλοντος
και αποφασίζουν πώς να ελιχθούν σ' αυτόν τον κόσμο.
Η εγκατάσταση όπου βρισκόμαστε χτίστηκε αρχικά ως κινηματογραφικό στούντιο
που τροποποιήθηκε σε ρεαλιστικά στρατιωτικά περιβάλλοντα εκπαίδευσης.
Ήρθαμε να αξιολογήσουμε τον ΤΝ πιλότο μας.
Η αποστολή είναι εντοπισμός απειλών, εκκαθάριση.
Μπορεί να αποφασίσει πώς να προσεγγίσει αυτό το πρόβλημα.
Το αποκαλούμε "μοιραίο χωνί". Πρέπει να περάσεις από μια πόρτα.
Εκεί είμαστε πιο ευάλωτοι.
Καλύτερα αυτό.
Το Nova λέει αν υπάρχει σκοπευτής πίσω από την πόρτα,
αν υπάρχει κάποια οικογένεια.
Βοηθά να πάρουμε καλύτερη απόφαση, να μη βλάψουμε κόσμο.
Χρησιμοποιούμε τους αισθητήρες όρασης
για να καταλάβουμε πώς είναι το περιβάλλον.
Είναι πολυώροφο κτίριο.
Να ο χάρτης.
Κατά την εξερεύνηση, να τι είδα και πού το είδα.
Εντοπισμός ανθρώπου. Ωραία.
Το Nova έχει κι έναν θερμικό σαρωτή.
Αν έχει θερμοκρασία 37 βαθμών, μάλλον είναι άνθρωπος.
Οι άνθρωποι θεωρούνται απειλές μέχρι απόδειξης του αντίθετου.
Θέλουμε να φύγει η αβεβαιότητα του πολέμου για να λαμβάνονται καλύτερες αποφάσεις.
Όταν κοιτάμε προς το μέλλον,
υπολογίζουμε τι χρειάζεται για να φτιαχτούν ομάδες αυτόνομων σκαφών.
Εν τέλει, ο άνθρωπος έχει πει στο αυτοοδηγούμενο όχημα
"Θέλω να πας από το σημείο Α στο σημείο Β".
Εμείς ζητάμε όχι να πάνε από το σημείο Α στο σημείο Β,
αλλά να επιτύχουν έναν στόχο.
Μοιάζει περισσότερο με "Χρειάζομαι γάλα".
Το ρομπότ θα πρέπει να βρει σε ποιο μπακάλικο να πάει,
να πάρει το γάλα και να το φέρει πίσω.
Και μάλιστα,
μια καλύτερη διατύπωση μάλλον είναι "Φρόντισε το ψυγείο να είναι γεμάτο".
Είναι ένα επίπεδο νοημοσύνης
που θα βρει τι χρειάζεται, πώς επιτυγχάνεται.
Αν υπάρχει κάποια δυσκολία ή πρόβλημα, θα βρει πώς θα το επιλύσει.
Όταν αποφάσισα να φύγω από το Ναυτικό, σκέφτηκα
"Ωραία, λοιπόν. Τι ακολουθεί;"
Μεγάλωσα με το διαδίκτυο. Είδα τι έγινε.
Το συμπέρασμα στο οποίο κατέληξα ήταν…
Η τεχνητή νοημοσύνη το 2015
είναι εκεί όπου το διαδίκτυο ήταν το 1991.
Η ΤΝ ήταν έτοιμη να απογειωθεί
και να γίνει από τις πιο ισχυρές τεχνολογίες στον κόσμο.
Όσο δουλεύω μ' αυτήν κάθε μέρα, βλέπω την πρόοδο που επιτυγχάνεται.
Όμως, πολλοί, όταν σκέφτονται "τεχνητή νοημοσύνη",
το μυαλό τους κατευθείαν πάει στο Χόλιγουντ.
Να παίξουμε ένα παιχνίδι;
Τι λες για τον Παγκόσμιο Θερμοπυρηνικό Πόλεμο;
Καλώς.
Όταν ο κόσμος σκέφτεται γενικώς την ΤΝ,
ίσως να σκεφτεί τον Εξολοθρευτή. Ή το Εγώ, το ρομπότ.
Απενεργοποίηση.
Τι είμαι;
Ή το Matrix.
Με όσα βλέπεις στις ταινίες επιστημονικής φαντασίας,
πώς ξέρεις ότι είμαι άνθρωπος; Ίσως είμαι ΤΝ φτιαγμένη από υπολογιστή.
Οι ρέπλικες είναι όπως κάθε άλλη μηχανή. Είναι όφελος ή κίνδυνος.
Αλλά υπάρχουν και διάφορες πιο πρωτόγονες ΤΝ
που θα αλλάξουν τη ζωή μας
πολύ πριν φτάσουμε στη φάση των ρομπότ που σκέφτονται, μιλάνε.
Τα ρομπότ είναι εδώ. Τα ρομπότ παίρνουν αποφάσεις.
Η ρομποτική επανάσταση έφτασε.
Απλώς δεν μοιάζει με ό,τι φανταζόταν κανείς.
Ο Εξολοθρευτής είναι μονάδα διείσδυσης. Άνθρωπος και μηχανή μαζί.
Δεν μιλάμε για ρομπότ-δολοφόνο στο στιλ του Εξολοθρευτή.
Μιλάμε για ΤΝ που θα εκτελεί εργασίες που εκτελεί ο άνθρωπος.
Αλλά ο προβληματισμός είναι αν αυτά τα συστήματα είναι αξιόπιστα.
Νέες λεπτομέρειες στο θανατηφόρο ατύχημα, με αυτοοδηγούμενο ταξί.
Η εταιρεία δημιούργησε διαλογικό ρομπότ με ΤΝ.
Υιοθέτησε ένα αρκετά ρατσιστικό ύφος…
Είκοσι έξι νομοθέτες εσφαλμένα ταυτοποιήθηκαν ως εγκληματίες.
Το ερώτημα είναι αν μπορούν να χειριστούν την πολυπλοκότητα του αληθινού κόσμου.
ΚΕΪΜΠΡΙΤΖ, ΜΑΣΑΧΟΥΣΕΤΗ
Ο φυσικός κόσμος είναι μπερδεμένος.
Πολλά πράγματα δεν τα ξέρουμε.
Αυτό δυσκολεύει την εκπαίδευση συστημάτων ΤΝ.
Εκεί παρεμβαίνουν πια τα συστήματα μηχανικής μάθησης.
Η μηχανική μάθηση υπήρξε μια τεράστια πρόοδος
γιατί έτσι δεν χρειάζεται να τα διδάξουμε όλα στους υπολογιστές.
Δίνεις στον υπολογιστή εκατομμύρια πληροφορίες,
και η μηχανή αρχίζει να μαθαίνει.
Κι αυτό είναι εφαρμόσιμο σε όλα.
Με τον Ρομποτικό Σκύλο προσπαθούμε να δείξουμε
ότι ο σκύλος μας μπορεί να διασχίσει εδάφη με διάφορα ανάγλυφα.
Οι άνθρωποι εξελίχθηκαν να περπατούν στη διάρκεια εκατομμυρίων ετών,
αλλά απαιτείται πολλή νοημοσύνη για να προσαρμοστείς σε διάφορα ανάγλυφα.
Αλλά προσαρμόζονται τα ρομποτικά συστήματα όπως τα ζώα και οι άνθρωποι;
Με τη μηχανική μάθηση,
συλλέγουμε πάρα πολλά δεδομένα κατά την προσομοίωση.
Είναι ένα ψηφιακό δίδυμο της πραγματικότητας.
Έχουμε πολλές εκδοχές της πραγματικότητας που εκτελούνται σε διάφορους υπολογιστές.
Δοκιμάζει χιλιάδες πράξεις σε προσομοίωση.
Το έδαφος που συναντούν είναι ολισθηρό ή μαλακό σε διαφορετικό βαθμό.
Παίρνουμε όλη την εμπειρία αυτών των χιλιάδων ρομπότ
από την προσομοίωση και τη μεταφορτώνουμε σε ένα πραγματικό ρομποτικό σύστημα.
Σήμερα θα εξετάσουμε αν μπορεί να προσαρμοστεί σε νέα εδάφη.
Όταν το ρομπότ ήταν σε αφρώδες υλικό,
τα πόδια πατούσαν βαριά στο έδαφος.
Αντίθετα, όταν ήρθε σε μια πολυεπίπεδη επιφάνεια,
προσπαθούσε να ρυθμίσει την κίνηση για να μη γλιστρά.
Τότε συνειδητοποιείς
ότι αυτό έχει να προσφέρει η μηχανική μάθηση.
Πιστεύουμε ότι το Ρομπότ Σκύλος μπορεί να βοηθήσει
στην αντιμετώπιση καταστροφών
όπου πρέπει να πλοηγηθείς σε διάφορα είδη εδάφους.
Ή να κάνει παρακολούθηση σε ένα δύσκολο περιβάλλον.
Αλλά συχνά η τεχνολογία συναντά την πρόκληση
ότι μπορεί να κάνει και καλό και κακό.
Ας πούμε, η πυρηνική τεχνολογία χρησιμοποιείται για ενέργεια…
αλλά και για ατομικές βόμβες που είναι πολύ κακές.
Αυτό είναι γνωστό ως το πρόβλημα της διπλής χρήσης.
Η φωτιά είναι διπλής χρήσης.
Η ανθρώπινη νοημοσύνη είναι διπλής χρήσης.
Άρα, αυτονόητα και η τεχνητή νοημοσύνη είναι διπλής χρήσης.
Είναι σημαντικό να σκεφτούμε την ΤΝ μέσα σ' ένα πλαίσιο,
γιατί, ναι, είναι καταπληκτικό να έχουμε ένα ρομπότ έρευνας και διάσωσης
που μπορεί να βρει κάποιον μετά από μια χιονοστιβάδα,
αλλά το ίδιο ρομπότ μπορεί να μετατραπεί σε όπλο.
Όταν βλέπεις εταιρείες να βάζουν όπλα πάνω σε ρομπότ,
τσαντίζεσαι λίγο.
Συνειδητοποιείς πως όταν προσφέρουμε την τεχνολογία μας,
αυτό θα συμβεί.
Είναι μια τεχνολογία με δυνατότητα να μεταμορφώνει.
Είναι οπλικά συστήματα
που μπορούν να αλλάξουν την ασφάλειά μας με έναν δραματικό τρόπο.
Για την ώρα, δεν είμαστε σίγουροι ότι οι μηχανές όντως μπορούν
να διακρίνουν μεταξύ πολιτών και μαχητών.
Στον πόλεμο στο Αφγανιστάν ήμουν σε στρατιωτική ομάδα σκοπευτών
που έψαχνε εχθρούς που περνάνε τα σύνορα.
Έστειλαν ένα κοριτσάκι να τσεκάρει τη θέση μας.
Ποτέ δεν προέκυψε η ιδέα να πυροβοληθεί το κοριτσάκι.
Με τους νόμους του πολέμου, αυτό θα ήταν νόμιμο.
Δεν ορίζεται ηλικία για μαχητές του εχθρού.
Αν έφτιαχνες ένα ρομπότ που συμμορφώνεται με τον νόμο του πολέμου,
θα είχε ρίξει στο κοριτσάκι.
Πού να ξέρει ένα ρομπότ τη διαφορά ανάμεσα στο νόμιμο και το σωστό;
Όταν πρόκειται για αυτόνομο πόλεμο με ντρόουν,
θέλουν να εξαλειφθεί το κακό που κάνει σε Αμερικανούς στρατιώτες
και την ψυχολογία τους,
αλλά το κακό εν τέλει αυξάνεται για Αφγανούς πολίτες,
για Ιρακινούς, για Σομαλούς.
Θα ήθελα να ρωτήσω όσους θεωρούν αξιόπιστη την ΤΝ σε ντρόουν
"Τι θα γινόταν αν το δικό σας χωριό ήταν ο στόχος;"
Η ΤΝ είναι ένα δίκοπο μαχαίρι.
Μπορεί να χρησιμοποιηθεί για καλό, το οποίο θα κάναμε κανονικά,
και με το γύρισμα ενός διακόπτη,
η τεχνολογία γίνεται κάτι εν δυνάμει θανατηφόρο.
Είμαι κλινικός φαρμακολόγος.
Έχω μια ομάδα ανθρώπων
που χρησιμοποιούν ΤΝ για ανάπτυξη φαρμάκων
για τη θεραπεία ασθενειών στις οποίες δεν δίνεται προσοχή.
Παλιά, για να ανακαλύψεις ένα φάρμακο, έπαιρνες ένα υπάρχον μόριο
και το τροποποιούσες για να βρεις νέα φάρμακα.
Τώρα έχουμε αναπτύξει ΤΝ που μας τροφοδοτεί με εκατομμύρια ιδέες,
εκατομμύρια μόρια.
Αυτό προσφέρει πάρα πολλές δυνατότητες
για τη θεραπεία ασθενειών που παλιά ήταν ανίατες.
Αλλά υπάρχει μια σκοτεινή πλευρά που δεν φανταζόμουν ότι θα προσέγγιζα.
Όλα αυτά ξεκίνησαν όταν προσκλήθηκα
από μια ελβετική οργάνωση ονόματι Εργαστήρια Spiez
να κάνω μια παρουσίαση για την πιθανή κατάχρηση της ΤΝ.
Ο Σον μού έστειλε ένα μέιλ με μερικές ιδέες
για το πώς θα μπορούσαμε να κάνουμε κατάχρηση της δικής μας ΤΝ.
Αντί να ζητήσουμε από το μοντέλο μας να δημιουργήσει μόρια φαρμάκων
για τη θεραπεία ασθενειών,
ας δούμε αν μπορούμε να δημιουργήσουμε τα πιο τοξικά μόρια.
Ήθελα να θίξω το θέμα
αν η ΤΝ μπορεί να χρησιμοποιηθεί για σχεδιασμό θανατηφόρων μορίων.
Ειλικρινά, νομίζαμε ότι θα αποτύχει,
γιατί το μόνο που κάναμε ήταν να αλλάξουμε το μηδέν σε ένα.
Με την αλλαγή, αντί να απομακρυνόμαστε από την τοξικότητα,
τώρα πηγαίνουμε προς αυτήν. Αυτό είναι όλο.
Όσο ήμουν σπίτι, ο υπολογιστής διεκπεραίωνε την εργασία.
Επεξεργαζόταν, δημιουργούσε χιλιάδες μόρια.
Δεν χρειάστηκε να κάνουμε τίποτα άλλο από το να πατήσουμε "Έναρξη".
Το επόμενο πρωί, υπήρχε ένα αρχείο στον υπολογιστή μου.
Μέσα υπήρχαν περίπου 40.000 μόρια
που δυνητικά ήταν
μερικά από τα πιο τοξικά μόρια γνωστά στην ανθρωπότητα.
Κυριολεκτικά μου σηκώθηκε η τρίχα.
Είχα μείνει άφωνος.
Ο υπολογιστής παρήγαγε δεκάδες χιλιάδες ιδέες
για νέα χημικά όπλα.
Προφανώς, στα δεδομένα έχουμε μόρια που μοιάζουν και είναι ανάλογα του VX.
Το VX είναι ένα από τα πιο ισχυρά χημικά όπλα.
Νέες δηλώσεις της αστυνομίας
ότι οι γυναίκες που δολοφόνησαν τον Κιμ Γιονγκ-ναμ σ' αυτό το αεροδρόμιο
χρησιμοποίησαν τη θανατηφόρο νευροτοξίνη VX.
Προκαλεί τον θάνατο μέσω ασφυξίας.
Αυτό είναι ένα πολύ ισχυρό μόριο.
Η πρόβλεψη ήταν ότι τα περισσότερα μόρια θα ήταν ακόμα πιο θανατηφόρα.
Απ' όσο ξέρουμε, πολλά απ' αυτά είναι πρωτόφαντα.
Όταν το συνειδητοποιήσαμε με τον Σον, σκεφτήκαμε "Τι κάναμε;"
Γρήγορα συνειδητοποίησα ότι είχαμε ανοίξει το κουτί της Πανδώρας.
Είπα "Σταματήστε. Μην κάνετε τίποτα άλλο. Τελειώσαμε.
Θέλω μόνο τις διαφάνειες για την παρουσίαση".
Κατά το πείραμα, σκεφτόμουν "Τι είναι το χειρότερο που θα μπορούσε να συμβεί;"
Αλλά τώρα λέω "Ήμασταν αφελείς όταν αποφασίσαμε να το κάνουμε".
Το πιο τρομακτικό είναι ότι ο καθένας μπορεί να το κάνει.
Απλώς γυρίζει έναν διακόπτη.
Πώς ελέγχουμε αυτήν την τεχνολογία προτού χρησιμοποιηθεί
για να κάνει ενδεχομένως κάτι τρομερά καταστροφικό;
Στο επίκεντρο της συζήτησης γύρω από την τεχνητή νοημοσύνη
και το πώς επιλέγουμε να τη χρησιμοποιούμε στην κοινωνία
είναι μια κούρσα ανάμεσα στη δύναμη με την οποία αναπτύσσουμε τεχνολογίες
και τη σοφία μας για να τις ελέγχουμε.
Υπάρχουν οι προφανείς ηθικές και δεοντολογικές προεκτάσεις
του να εμπιστευτούμε αυτό που τροφοδοτεί τα κινητά μας
να λάβει την ηθική απόφαση να αφαιρέσει μια ζωή.
Δουλεύω στο Ινστιτούτο "Το Μέλλον της Ζωής",
μια κοινότητα ακτιβιστών επιστημόνων.
Προσπαθούμε να δείξουμε
ότι υπάρχει μια άλλη πλευρά
της επιτάχυνσης και της επέκτασης του αυτοματισμού.
Όμως, προσπαθούμε να βεβαιωθούμε ότι οι τεχνολογίες που δημιουργούμε
θα έχουν ασφαλή κι ηθική χρήση.
Ας συζητήσουμε για τους κανόνες εμπλοκής
και τους κώδικες συμπεριφοράς στη χρήση ΤΝ στα οπλικά μας συστήματα.
Γιατί τώρα βλέπουμε τεχνολογίες "εισόδου στο πεδίο μάχης"
που θα μπορούσαν να σκοτώνουν αυτόνομα.
Το 2021, ο ΟΗΕ δημοσίευσε μια αναφορά για την πιθανή χρήση
ενός φονικού αυτόνομου όπλου στο πεδίο της μάχης στη Λιβύη.
Επιτροπή του ΟΗΕ είπε ότι στον πόλεμο της Λιβύης ένα ντρόουν
είχε προγραμματιστεί να επιτίθεται αυτόνομα σε στόχους.
Αν οι αναφορές του ΟΗΕ είναι ακριβείς,
αυτό θα ήταν ένα ορόσημο για την ανθρωπότητα.
Σηματοδοτεί μια περίπτωση χρήσης
όπου μια τεχνητή νοημοσύνη αποφάσισε να αφαιρέσει μια ζωή, όχι ένας άνθρωπος.
Βλέπουμε ότι προηγμένα αυτόνομα όπλα
αρχίζουν να χρησιμοποιούνται σε διάφορα μέρη του πλανήτη.
Υπήρξαν αναφορές για το Ισραήλ.
Το Αζερμπαϊτζάν επιτέθηκε με αυτόνομα συστήματα
στην εναέρια άμυνα της Αρμενίας.
Μπορεί να πετάξει στο πεδίο μάχης για ώρες
αναζητώντας στόχους μόνο του,
και μετά να πέσει πάνω τους χωρίς ανθρώπινη παρέμβαση.
Πρόσφατα είδαμε και διάφορα βίντεο που αναρτήθηκαν στην Ουκρανία.
Δεν είναι ξεκάθαρο τι τρόπο λειτουργίας είχαν.
Επέλεγε κάποιος άνθρωπος σε ποιους στόχους να επιτεθούν
ή η μηχανή το έκανε μόνη της;
Αλλά σίγουρα θα έρθει κάποια στιγμή,
ή ίσως έχει ήδη συμβεί στη Λιβύη, την Ουκρανία ή αλλού,
όπου μια μηχανή αποφασίζει μόνη της ποιον να σκοτώσει στη μάχη.
Το να ασκούν θανατηφόρο δύναμη μηχανές ενάντια σε ανθρώπους,
χωρίς ανθρώπινη παρέμβαση,
είναι πολιτικά απαράδεκτο και ηθικά απεχθές.
Το αν η διεθνής κοινότητα
θα καταφέρει να αντιμετωπίσει αυτές τις προκλήσεις
είναι μεγάλο ερωτηματικό.
Αν κοιτάξουμε το μέλλον, ακόμα και σε λίγα χρόνια από τώρα,
το τοπίο φαίνεται πολύ τρομακτικό,
δεδομένου ότι τα κεφάλαια και το ανθρώπινο δυναμικό
που επενδύονται για να γίνει πιο ισχυρή η ΤΝ
και να έχει όλες αυτές τις εφαρμογές, είναι τεράστια.
ΑΡΛΙΝΓΚΤΟΝ, ΒΙΡΤΖΙΝΙΑ
Θεέ μου, τι κάνει ο τύπος;
Ξέρει ότι δεν θα κερδίσει.
Όταν βλέπω την ΤΝ να νικά σε διάφορες προκλήσεις, εμπνέομαι.
Πάμε για μια ύστατη προσπάθεια.
Οι ίδιες τακτικές, τεχνικές, διαδικασίες, μπορούν να εφαρμοστούν σε αληθινά σκάφη.
Καλό παιχνίδι.
Ωραία, καλό παιχνίδι.
Εκπλήσσομαι
που οι δηλώσεις για το τι δεν μπορεί να κάνει οι ΤΝ δεν στερεύουν. Ναι;
"Δεν θα νικήσει παγκόσμιο πρωταθλητή στο σκάκι".
Ένας υπολογιστής της ΙΒΜ επανήλθε
στον δεύτερο αγώνα με τον πρωταθλητή Γκάρι Κασπάροφ.
Ο Κασπάροφ παραιτήθηκε!
Όταν βλέπω κάτι που δεν το καταλαβαίνω,
φοβάμαι. Κι αυτό ήταν κάτι που δεν καταλάβαινα.
Μετά ο κόσμος έλεγε
"Ποτέ δεν θα νικήσει παγκόσμιο πρωταθλητή στο Γκο".
Πιστεύω ότι η ανθρώπινη διαίσθηση είναι ακόμα πολύ πιο προηγμένη
για να τη φτάσει η ΤΝ.
Το Γκο είναι ένα από τα πιο περίπλοκα παιχνίδια,
γιατί αν υπολογίσει κανείς τον αριθμό των κινήσεων στο ταμπλό,
είναι μεγαλύτερος από τα άτομα σ' όλο το σύμπαν.
Μια ομάδα της Google, η DeepMind,
δημιούργησε το πρόγραμμα AlphaGo
για να νικήσει τους καλύτερους παίκτες.
Συγχαρητήρια στο…
-AlphaGo. -AlphaGo.
Ένα πρόγραμμα υπολογιστή νίκησε επαγγελματία με 9 νταν.
Μετά, η DeepMind επέλεξε το StarCraft ως την επόμενη πρόκληση για την ΤΝ της.
Το StarCraft είναι ίσως το πιο δημοφιλές παιχνίδι στρατηγικής.
Η AlphaStar έγινε διάσημη όταν άρχισε να νικά τους παγκόσμιους πρωταθλητές.
Η AlphaStar διέλυσε το Immortal Arc.
Ξέρετε κάτι; Δεν είναι μάχη που οι επαγγελματίες θα κερδίσουν.
Είναι κάπως γελοίο.
Επαγγελματίες παίκτες έλεγαν "Δεν θα δοκίμαζα αυτήν την τακτική.
Δεν θα δοκίμαζα αυτήν τη στρατηγική. Αυτό δεν είναι ανθρώπινο".
Ίσως αυτή ήταν η στιγμή της επιφοίτησης για εμένα.
Συνειδητοποίησα ότι τώρα είναι η ώρα.
Υπάρχει μια καίρια τεχνολογία. Ευκαιρία να κάνουμε τη διαφορά.
Γνώριζα μόνο τα προβλήματα που είχα συναντήσει σε μάχη σώμα με σώμα.
Όμως, ένας καλός φίλος μου, πιλότος σε F-18, μου είπε
"Έχουμε το ίδιο πρόβλημα με τα πολεμικά αεροσκάφη.
Εμποδίζουν την επικοινωνία.
Υπάρχουν βάσεις πυραύλων εδάφους αέρος που το καθιστούν επικίνδυνο να πετάμε".
Φανταστείτε ένα μαχητικό αεροσκάφος που διοικείται από ΤΝ.
Βλέπετε τις δοκιμασίες AlphaDogfight. Σε λίγο ξεκινά ο πρώτος ημιτελικός.
Η DARPA, η Υπηρεσία προηγμένης έρευνας στον τομέα της άμυνας,
είχε δει την AlphaGo και την AlphaStar.
Έτσι γεννήθηκε η ιδέα για τον διαγωνισμό AlphaDogfight.
Αυτό θέλετε να κάνουν οι άνθρωποι πιλότοι.
Μοιάζει με ανθρώπινη κυνομαχία.
Η κυνομαχία είναι η συμπλοκή μαχητικών αεροσκαφών.
Σκεφτείτε το ως έναν αγώνα πυγμαχίας στον ουρανό.
Ίσως έχετε δει την ταινία Top Gun.
Μπορούμε να ξεφύγουμε;
-Όχι από τους πυραύλους και τα όπλα τους. -Κυνομαχία.
Η εκπαίδευση στις κυνομαχίες κρατά από οχτώ ως δέκα χρόνια.
Είναι πολύ περίπλοκο να φτιαχτεί μια ΤΝ γι' αυτήν την πρόκληση.
ΑΡΛΙΝΓΚΤΟΝ, ΒΙΡΤΖΙΝΙΑ
Οι προγενέστερες προσεγγίσεις προς την αυτονομία ήταν ασταθείς.
Θεωρήσαμε ότι αυτό το πρόβλημα θα λυνόταν με μηχανική μάθηση.
Αρχικά, η ΤΝ δεν ήξερε τίποτα για το περιβάλλον όπου βρέθηκε.
Δεν ήξερε ότι πετά ή τι είναι η κυνομαχία.
Δεν ήξερε τι είναι το F-16.
Ήξερε μόνο τι ενέργειες μπορούσε να κάνει.
Τις εξερευνούσε στην τύχη.
Το μπλε αεροσκάφος εκπαιδεύεται μόνο εδώ και λίγο καιρό.
Το βλέπετε να ταλαντεύεται μπρος πίσω,
να πετά αλλοπρόσαλλα, γενικώς μακριά από τον αντίπαλό του.
Όσο προχωρά η μάχη,
βλέπουμε ότι το μπλε καταστρώνει ένα σχέδιο παιχνιδιού.
Είναι πια σε θέση να πυροβολήσει.
Κάθε τόσο, ο αλγόριθμος μάθησης έλεγε
"Μπράβο. Αυτό ήταν καλό. Ξανακάν' το".
Εκμεταλλευόμαστε την υπολογιστική δύναμη, με επαναλαμβανόμενη, παράλληλη εκπαίδευση.
Είναι σαν ομάδα μπάσκετ. Αντί να παίζουμε συνέχεια με την ίδια ομάδα,
παίζουμε με 512 διαφορετικές ομάδες απ' όλον τον κόσμο,
ταυτόχρονα.
Γρήγορα γίνεσαι πολύ καλός.
Καταφέραμε να εκτελούμε την προσομοίωση ακατάπαυστα
και να χωρέσουμε μια τριακονταετία εκπαίδευσης πιλότου μέσα σε δέκα μήνες.
Εκεί που μετά βίας ελέγχαμε το σκάφος, γίναμε στυγνοί δολοφόνοι.
Κατά την εκπαίδευση, συναγωνιζόμασταν μόνο με άλλες ΤΝ.
Αλλά ο αγώνας απευθείας με ανθρώπους ήταν ο απώτερος στόχος.
Είμαι ο Μάικ Μπενίτεζ, αντισμήναρχος στην πολεμική αεροπορία των ΗΠΑ,
σε ενεργή δράση περίπου 25 χρόνια.
Έχω 250 αποστολές μάχης. Έχω αποφοιτήσει από Σχολή Όπλων Μαχητών.
Κάτι σαν το Top Gun, δηλαδή.
Δεν έχω πετάξει με αντίπαλο την ΤΝ.
Ανυπομονώ να δω πώς θα τα πάω.
Έχουμε μια επίθεση στα 6.000 πόδια εκ του σύνεγγυς.
Η μάχη ξεκινά.
Τώρα έφυγε.
Είναι πολύ ενδιαφέρον.
-Πέθανε. -Τον τσάκωσα. Άψογη νίκη.
Εντάξει, δεύτερος γύρος.
Η τεχνητή νοημοσύνη ελίσσεται με τέτοια ακρίβεια
που δεν την προλαβαίνω.
Στη σύγκλιση.
Τώρα έφυγες.
Τον πέτυχα!
Ναι.
Η ΤΝ δεν φοβάται ποτέ.
Η ΤΝ δεν έχει το στοιχείο του ανθρώπινου συναισθήματος.
Μια ενδιαφέρουσα στρατηγική που ανέπτυξε η ΤΜ μας
ήταν η βολή καταπρόσωπα.
Ο άνθρωπος συνήθως θέλει να ρίχνει από πίσω,
γιατί ο αντίπαλος ξεφεύγει δύσκολα.
Δεν επιχειρεί τέτοια βολή για να δει ποιος θα δειλιάσει πρώτος.
Όταν ερχόμαστε κατά μέτωπο, φτάνεις από τα 900 στα 150 μέτρα σε μια στιγμή.
Υπάρχει κίνδυνος σύγκρουσης. Οι άνθρωποι δεν το επιχειρούν.
Αν δεν πεις στην ΤΝ να φοβάται τον θάνατο, δεν φοβάται.
Νιώθω σαν να πολεμώ μ' έναν άνθρωπο,
αλλά έναν άνθρωπο που είναι απερίσκεπτος με την ασφάλεια.
Δεν θα επιβιώσει από αυτό.
Δεν προλαβαίνει.
Καληνύχτα.
Είμαι νεκρός.
Ταπεινώνομαι όταν ξέρω ότι ίσως δεν είμαι το βέλτιστο για την αποστολή
κι αυτό μπορεί να με αντικαταστήσει κάποτε.
Οροφή κι ορατότητα έξι. Μετατόπιση χίλια.
Όταν η ΤΝ κυβερνά το σκάφος,
νικά αδυσώπητα, κατά κράτος.
Δεν κερδίζει απλώς με μεγάλο περιθώριο.
Λες "Πώς θα το βάλουμε στο σκάφος μας;" Είναι τόσο ισχυρό.
Είναι ρεαλιστικό να περιμένουμε ότι η ΤΝ θα οδηγήσει ένα F-16.
Κι αυτό δεν αργεί πολύ.
Αν αντιμετωπίζεις πιλότο με ΤΝ που έχει 99,99999% ποσοστό νίκης,
δεν έχεις ελπίδα.
Όταν σκέφτομαι ότι ένας πιλότος με ΤΝ είναι ανίκητος,
σκέφτομαι τι μπορεί να πετύχει μια ομάδα με 50,
ή με 100 ή με 1.000 πιλότους με ΤΝ.
Το σμήνος είναι μια ομάδα έξυπνων αεροσκαφών
που συνεργάζονται.
Μοιράζονται πληροφορίες για το τι να κάνουν, πώς να λύνουν θέματα.
Το σμήνος είναι μια ικανότητα που θα αλλάξει το παιχνίδι,
θα φέρει αλλαγή στον στρατό και τους συμμάχους μας.
ΛΙΝΚΟΛΝ, ΝΕΜΠΡΑΣΚΑ
ΔΡ ΝΤΡΟΟΥΝ
Ο στόχος εντοπίστηκε και τα ντρόουν τον παρακολουθούν.
Ωραία, ώρα για προσγείωση.
Ο πρωταρχικός στόχος της έρευνας που κάνουμε τώρα
είναι να αναπτυχτούν πολλά ντρόουν
πάνω σε μια περιοχή όπου φτάνεις με δυσκολία ή με κίνδυνο.
Το Εργαστήριο Ερευνών του Στρατού στηρίζει το συγκεκριμένο ερευνητικό έργο.
Αν θες να δεις τι υπάρχει σε μια περιοχή, αλλά φτάνεις δύσκολα ή αν είναι μεγάλη,
τότε το σμήνος είναι ένας λογικός τρόπος να επεκταθεί η πρόσβαση
και να συλλεχθούν κρίσιμες για την αποστολή πληροφορίες.
Οπότε, τώρα στην ανάπτυξη του σμήνους,
δίνουμε μια εντολή να εντοπιστεί ο στόχος που μας ενδιαφέρει.
Τα ντρόουν πάνε και τα κάνουν όλα μόνα τους.
Η τεχνητή νοημοσύνη επιτρέπει στα ρομπότ να κινηθούν ομαδικά ως ένα σμήνος
με έναν αποκεντρωμένο τρόπο.
Στα σμήνη στη φύση
δεν υπάρχει αφεντικό, κανένα κύριο ζώο που να λέει τι να κάνουν.
Η συμπεριφορά τους διαμορφώνεται
επειδή κάθε ξεχωριστό ζώο ακολουθεί μερικούς απλούς κανόνες.
Κι από αυτό προκύπτει αυτή η ομαδική συμπεριφορά που βλέπετε.
Αυτό που προκαλεί δέος όταν πρόκειται για σμήνη στη φύση
είναι η χάρη με την οποία κινούνται.
Λες και φτιάχτηκαν να είναι κομμάτι αυτής της ομάδας.
Αυτό που θα θέλαμε να δούμε με το σμήνος των ντρόουν μας είναι,
όπως τα σμήνη στη φύση,
να λαμβάνονται ομαδικές αποφάσεις.
Μια άλλη έμπνευση για εμάς
είναι η αξιοπιστία και η ανθεκτικότητα.
Αυτό το σμήνος δεν θα χαθεί
αν ένα μεμονωμένο ζώο δεν κάνει αυτό που πρέπει.
Ακόμα κι αν κάποιος πέσει, ή αποτύχει, ή αδυνατεί να ολοκληρώσει την εργασία,
το σμήνος θα συνεχίσει.
Στην τελική, αυτό θα θέλαμε να έχουμε.
Το χρειαζόμαστε σε σενάρια μάχης για τον εντοπισμό εχθρικών αεροσκαφών.
Κάποτε απαιτούνταν ένας άνθρωπος να ελέγχει το ρομπότ.
Καθώς αυξάνεται η αυτονομία,
ελπίζω να δούμε έναν μεγάλο αριθμό ρομπότ
να ελέγχεται από έναν πολύ μικρό αριθμό ανθρώπων.
Δεν βλέπω γιατί να μην μπορούμε εν καιρώ να φτάσουμε στα χίλια
γιατί κάθε μονάδα θα είναι ικανή να δρα από μόνη της,
Δεν υπάρχουν όρια.
Να διευρύνουμε τη μάθηση…
Δουλεύουμε πάνω στην προσομοίωση σμηνών εδώ και καιρό.
Είναι ώρα να μπει σε πραγματικά αεροσκάφη.
Περιμένουμε να λειτουργούμε με τρία ρομπότ ταυτόχρονα μέσω του δικτύου
και σιγά σιγά να προσθέτουμε δεξιότητες.
Θέλουμε να το δοκιμάσουμε σε μικρότερα συστήματα,
αλλά να εφαρμόσουμε τις ίδιες αρχές σε μεγαλύτερα συστήματα,
όπως μαχητικά σκάφη.
Συζητάμε πολύ
για το πώς να δώσουμε σε μια διμοιρία τη δύναμη μάχης ενός τάγματος.
Ή σε ένα τάγμα τη δύναμη μάχης μιας ταξιαρχίας.
Μπορείς να το πετύχεις με σμήνη.
Όταν ξεκλειδώσεις αυτήν τη δύναμη του σμήνους,
έχεις πετύχει μια νέα στρατηγική αποτροπή στρατιωτικών επιθέσεων.
Το πιο συναρπαστικό είναι ο αριθμός των νεαρών ανδρών και γυναικών
που θα σώσουμε αν το κάνουμε σωστά αυτό.
Ανταλλάσσουμε μηχανές
κι όχι ανθρώπινες ζωές.
Κάποιοι ισχυρίζονται ότι τα αυτόνομα όπλα θα κάνουν τον πόλεμο πιο ακριβή
και πιο ανθρώπινο,
αλλά είναι δύσκολο να προβλεφθεί από πριν
πώς ακριβώς τα αυτόνομα όπλα μπορούν να αλλάξουν τον πόλεμο.
Είναι όπως με το πολυβόλο Γκάτλινγκ.
Ο Ρίτσαρντ Γκάτλινγκ ήταν εφευρέτης.
Έβλεπε τραυματισμένους στρατιώτες του Εμφυλίου Πολέμου.
Ήθελε να βρει τρόπο να κάνει τον πόλεμο πιο ανθρώπινο.
Να μειωθεί ο αριθμός όσων σκοτώνονται στον πόλεμο
μειώνοντας τους στρατιώτες στη μάχη.
Έτσι, εφηύρε το πολυβόλο Γκάτλινγκ, ένα αυτόματο όπλο που γυρνά με μανιβέλα
που αυτοματοποιεί τον πυροβολισμό.
Ουσιαστικά εκατονταπλασίασε τη δύναμη πυρός των στρατιωτών.
Συχνά, οι προσπάθειες να γίνει ο πόλεμος πιο ακριβής κι ανθρώπινος
έχουν το αντίθετο αποτέλεσμα.
Σκεφτείτε τις επιπτώσεις μια επίθεσης με ντρόουν σε αγροτική περιοχή
που προδιαθέτει τους ντόπιους κατά των ΗΠΑ,
κατά της τοπικής κυβέρνησης. Θεωρητικά, είναι οι καλοί.
Τώρα μεγεθύνετέ το κατά 1.000.
Η δημιουργία ενός οπλικού συστήματος που είναι φτηνό,
μπορεί να επεκταθεί και δεν απαιτεί χειρισμό από ανθρώπους
αλλάζει δραστικά τα εμπόδια στις συγκρούσεις.
Ξαγρυπνώ όταν σκέφτομαι έναν κόσμο όπου ο πόλεμος είναι παντού.
Πλέον δεν φέρουμε το ανθρώπινο κι οικονομικό κόστος του πολέμου
γιατί έχουμε αποστασιοποιηθεί πολύ
από τις ζωές που θα χαθούν.
Όλο αυτό με στοιχειώνει.
Απλώς ήθελα ένα παράδειγμα κατάχρησης της τεχνητής νοημοσύνης.
Οι απρόβλεπτες συνέπειες αυτού του απλού νοητικού πειράματος
έχουν ξεφύγει.
ΤΝ ΣΤΗΝ ΑΝΑΠΤΥΞΗ ΦΑΡΜΑΚΩΝ: ΠΩΣ ΝΑ ΜΗΝ ΚΑΝΕΙ ΠΕΡΙΣΣΟΤΕΡΟ ΚΑΚΟ ΑΠΟ ΚΑΛΟ
Όταν έκανα την παρουσίαση
για τα τοξικά μόρια που φτιάχτηκαν από τεχνολογία ΤΝ,
το ακροατήριο έμεινε άναυδο.
ΚΟΡΥΦΑΙΕΣ 5.000 ΕΝΩΣΕΙΣ ΑΝΑΛΟΓΕΣ ΤΟΥ VX
Το επόμενο δίλημμα ήταν αν πρέπει να δημοσιεύσουμε αυτά τα στοιχεία.
Ναι, θες να προειδοποιήσεις τον κόσμο για αυτές τις δυνατότητες,
αλλά όχι να δώσεις σε κάποιον την ιδέα αν δεν την έχει σκεφτεί ποτέ.
Κρίναμε ότι άξιζε η δημοσίευση,
για να βρούμε τρόπους να μετριαστεί η κατάχρηση της ΤΝ αυτού του είδους
πριν συμβεί.
ΔΙΠΛΗ ΧΡΗΣΗ ΑΝΑΠΤΥΞΗΣ ΦΑΡΜΑΚΩΝ ΜΕ ΤΝ
ΠΙΘΑΝΗ ΚΑΤΑΧΡΗΣΗ ΤΕΧΝΟΛΟΓΙΩΝ ΑΝΑΠΤΥΞΗΣ ΦΑΡΜΑΚΩΝ ΜΕ ΤΝ
Η αντίδραση του κοινού ήταν σοκαριστική.
Βλέπουμε τις μετρήσεις στη σελίδα, πόσοι την έχουν επισκεφτεί.
Με το είδος των άρθρων που γράφουμε, είμαστε τυχεροί αν μπουν…
Μερικές χιλιάδες άτομα διαβάζουν το άρθρο σε διάστημα ενός χρόνου ή πολλών ετών.
Σε επτά μέρες το είχαν διαβάσει 10.000. Μετά ήταν 20.000, μετά 30.000, 40.000.
Είχαμε φτάσει στα 10.000 άτομα τη μέρα.
Ήμασταν στο The Economist, στους Financial Times.
Επικοινώνησαν μαζί μας από το Radiolab. Το έχω ακουστά το Radiolab!
Όμως, στη συνέχεια οι αντιδράσεις ξέφυγαν από τον έλεγχο.
Βλέποντας αυτά τα tweet, λέγαμε "Θεέ μου, πόσο χειρότερα να πάει;"
Γιατί το έκαναν αυτό;
Και μετά λάβαμε μια πρόσκληση που δεν θα περίμενα ποτέ.
Το άρθρο συζητήθηκε πολύ στον Λευκό Οίκο.
Ήθελαν να μας μιλήσουν επειγόντως.
Προφανώς, είναι μια απίστευτη τιμή να μιλάς σε άτομα σε αυτό το επίπεδο.
Ξαφνικά, συνειδητοποιείς.
"Θεέ μου, είναι ο Λευκός Οίκος. Το αφεντικό".
Έπρεπε να καταρτίσουμε σύνολα δεδομένων ανοιχτού κώδικα…
Σε περίπου έξι ώρες, το μοντέλο κατάφερε να παραγάγει πάνω από 40.000…
Ρώτησαν πόση υπολογιστική δύναμη απαιτείται.
Όχι κάτι ιδιαίτερο, είπαμε.
Κυριολεκτικά, ένας συνηθισμένος Mac εξαετίας.
Κι αυτό τους κατέπληξε.
Οι υπεύθυνοι για την κατανόηση των παραγόντων χημικού πολέμου,
οι κυβερνητικοί φορείς, δεν είχαν ιδέα γι' αυτές τις δυνατότητες.
Έχουμε ένα βιβλίο συνταγών για την παραγωγή χημικών όπλων
που στα χέρια ενός κακού με κακόβουλες προθέσεις
μπορεί να είναι άκρως τρομακτικό.
Ο κόσμος πρέπει να δώσει βάση και πρέπει είτε να ρυθμίσουμε την τεχνολογία
είτε να την περιορίσουμε, έτσι ώστε να μη γίνεται κατάχρηση.
Γιατί οι θανατηφόρες δυνατότητες
είναι τρομακτικές.
Το ζήτημα της ηθικής της ΤΝ απασχολεί κυρίως την κοινωνία,
όχι τους μηχανικούς, τους τεχνολόγους ή τους μαθηματικούς.
Κάθε τεχνολογία που δημιουργούμε, κάθε καινοτομία,
είναι αρμοδιότητα της κοινωνίας να κρίνει πώς θα χρησιμοποιηθεί.
Αυτήν τη στιγμή, το Υπουργείο Άμυνας λέει
"Το μόνο που διατάζει να σκοτώσουμε κάτι στο πεδίο της μάχης είναι ένας άνθρωπος".
Ίσως μια μηχανή να εκτελέσει τον φόνο,
αλλά μόνο με εντολή ενός ανθρώπου χειριστή.
Δεν θεωρώ ότι αυτό θα αλλάξει.
Μας διαβεβαιώνουν ότι αυτή η τεχνολογία θα είναι ασφαλής.
Αλλά ο στρατός των ΗΠΑ δεν φημίζεται ως αξιόπιστος
σε θέματα πολέμου με ντρόουν.
Άρα, αν πρέπει να εμπιστευτούμε τον στρατό των ΗΠΑ για το τι κάνει με την ΤΝ,
θα έλεγα ότι το ιστορικό μιλά από μόνο του.
Η πολιτική του Υπουργείου Άμυνας των ΗΠΑ για την αυτονομία όπλων
δεν απαγορεύει κανένα είδος οπλικού συστήματος.
Ακόμα κι αν οι στρατοί δεν θέλουν αυτόνομα όπλα,
μπορούμε να φανταστούμε ότι θα εκχωρούν περισσότερες αποφάσεις σε μηχανές
για να συμβαδίζουν με τους εχθρούς.
Έτσι, μπορεί να οδηγηθούν στον αυτοματισμό αποφάσεων
που ίσως δεν θα ήθελαν.
Ο Βλαντιμίρ Πούτιν είπε "Όποιος προηγείται στην ΤΝ θα κυβερνά τον κόσμο".
Ο πρόεδρος Σι έχει ξεκαθαρίσει ότι η ΤΝ είναι από τις νούμερο ένα τεχνολογίες
στις οποίες η Κίνα θέλει να κυριαρχήσει.
Ξεκάθαρα υπάρχει ένας τεχνολογικός συναγωνισμός.
Αναφέρονται κιγκλιδώματα ασφαλείας.
Πιστεύω ότι αυτό πρέπει να κάνει ο κόσμος.
Όμως, η κούρσα για υπεροχή στην ΤΝ είναι πραγματική.
Οι αντίπαλοί μας, είτε είναι η Κίνα, είτε η Ρωσία, είτε το Ιράν,
δεν δίνουν δεκάρα για το τι λέει η πολιτική μας για την ΤΝ.
Οι πολιτικές γύρω από την ΤΝ συζητιούνται περισσότερο,
αλλά μακάρι περισσότεροι ηγέτες να έκαναν τη συζήτηση
"Πόσο γρήγορα μπορούμε να το φτιάξουμε;
Ας βρούμε τους πόρους κι ας το φτιάξουμε".
ΟΥΑΣΙΓΚΤΟΝ
ΕΤΗΣΙΑ ΣΥΝΕΛΕΥΣΗ AUSA ΟΥΑΣΙΓΚΤΟΝ
ΣΤΡΑΤΟΣ ΗΠΑ
Είμαστε στη μεγαλύτερη έκθεση της Ένωσης του Αμερικανικού Στρατού.
Ουσιαστικά, όποιος πουλά προϊόν ή τεχνολογία σε κάποιον στρατό
θα έχει περίπτερο.
Η αεροπορική βάση Τίνταλ έχει τέσσερα ρομπότ μας
που περιπολούν όλο το 24ωρο, κάθε μέρα.
Μπορούμε να προσθέσουμε τα πάντα, κάμερες, αισθητήρες, ό,τι θέλετε.
Βραχίονες χειρισμού. Τα πάντα για να ολοκληρωθεί η αποστολή του πελάτη.
Κι αν ο εχθρός σας παρουσιάσει ΤΝ;
Ένα μαχητικό σύστημα που σκέφτεται κι αντιδρά πιο γρήγορα από εσένα.
Τι μπορεί να κάνει ο άνθρωπος; Ας είμαστε έτοιμοι.
Εκπαιδεύουμε τα συστήματά μας να μαζεύουν πληροφορίες για τον εχθρό,
να χειρίζονται τους στόχους με ανθρώπινη επίβλεψη της αλυσίδας φόνου.
-Χαίρετε, στρατηγέ. -Πώς πάει;
Καλά, κύριε. Εσείς;
Κανείς δεν επενδύει περισσότερο σε έναν πιλότο με ΤΝ.
Έχουμε τη Hivemind.
Το εφαρμόσαμε στο τετρακόπτερο Nova. Μπαίνει σε κτίρια.
Τα εξερευνά πριν από τις ειδικές δυνάμεις και το πεζικό.
Εφαρμόζουμε τη Hivemind στο V-ΒΑΤ,
οπότε σκέφτομαι να συστήσουμε εκατοντάδες τέτοιες ομάδες.
Στα Στενά της Ταϊβάν, στην Ουκρανία, αποτρέπουμε τους εχθρούς μας.
Είμαι πολύ ενθουσιασμένος.
-Καλά. Ευχαριστώ. -Ευχαριστώ, στρατηγέ.
Οι πιλότοι με ΤΝ πρέπει να είναι παντού, κι αυτό πρέπει να γίνει ως το 2025, 2030.
Οι στρατοί ανά τον κόσμο θα τους υιοθετήσουν γρήγορα.
Τι κάνετε με τον ρουμανικό στρατό, τα μη επανδρωμένα σκάφη;
Υψηλή τεχνολογία στον στρατό.
Έχουμε ξοδέψει μισό δισεκατομμύριο δολάρια για να φτιάξουμε πιλότο με ΤΝ.
Θα δώσουμε άλλο ένα δισεκατομμύριο την επόμενη πενταετία.
Είναι σημαντικός λόγος που κερδίζουμε τα προγράμματα στις ΗΠΑ.
Ωραία.
Είναι εντυπωσιακό. Καταφέρατε να το μετατρέψατε σε όπλο;
Ακόμα δεν χρησιμοποιείται ως όπλο.
Οπότε, όχι ακόμα. Αλλά ναι, στο μέλλον.
Οι πελάτες το βλέπουν ως ένα φορτηγό. Είναι ένα έξυπνο φορτηγό που κάνει πολλά.
-Ευχαριστώ. -Ναι.
Θα επικοινωνήσουμε για ενημέρωση.
Αν επιστρέψετε σε δέκα χρόνια,
θα δείτε ότι η ΤΝ και η αυτονομία θα κυριαρχούν σ' όλη αυτήν την αγορά.
Οι δυνάμεις που υποστηρίζονται από την ΤΝ και την αυτονομία
ξεκάθαρα θα κυριαρχήσουν, θα σαρώσουν και θα εξολοθρεύσουν δυνάμεις χωρίς ΤΝ.
Θα είναι ισοδύναμο με μια μάχη ανάμεσα σε άλογα και άρματα μάχης,
σπαθιά ενάντια σε πολυβόλα.
Η αναμέτρηση δεν θα είναι καν στενή.
Θα είναι παντού, θα χρησιμοποιείται σε κάθε φάσμα του πολέμου,
σε επίπεδο τακτικής, σε επίπεδο στρατηγικής.
Θα λειτουργούν με ταχύτητες αδιανόητες για τον άνθρωπο.
Οι αρχηγοί έχουν ήδη κατακλυστεί με υπερβολικά πολλές πληροφορίες.
Απεικονίσεις από δορυφόρους, ντρόουν και αισθητήρες.
Η ΤΝ βοηθά έναν αρχηγό στρατού να καταλάβει πιο γρήγορα τι συμβαίνει
και τι αποφάσεις πρέπει να λάβει.
Η τεχνητή νοημοσύνη θα λάβει υπόψη όλους τους παράγοντες
που καθορίζουν το πώς διεξάγεται ο πόλεμος,
θα σκεφτεί στρατηγικές…
και θα δώσει συστάσεις για το πώς να νικήσεις στη μάχη.
ΣΑΦΟΛΚ, ΒΙΡΤΖΙΝΙΑ
LOCKHEED MARTIN ΚΕΝΤΡΟ ΚΑΙΝΟΤΟΜΙΑΣ
Στη Lockheed Martin, κι ο πελάτης μας, το Υπουργείο Άμυνας,
βλέπουμε την ΤΝ ως ένα καίριο τεχνολογικό κλειδί
για διοίκηση κι έλεγχο.
Ο ρυθμός εξάπλωσης είναι 60 εκ. το δευτερόλεπτο.
Είναι περίπου 283 εκτάρια.
Η αβεβαιότητα είναι πραγματικότητα για εμάς στην άμυνα,
αλλά έχει ομοιότητες με τα περιβαλλοντολογικά θέματα
και τη λήψη αποφάσεων για πυρκαγιές.
Η πυρκαγιά Γουόσμπερν είναι βόρεια της πόλης Βαβόνα.
Πρέπει να παίρνεις αποφάσεις με ατελή δεδομένα.
Πώς μας βοηθά λοιπόν η ΤΝ σ' αυτήν την αβεβαιότητα του πολέμου;
Οι πυρκαγιές είναι πολύ χαοτικές. Είναι πολύ περίπλοκες.
Έτσι, προσπαθούμε να χρησιμοποιήσουμε την τεχνητή νοημοσύνη
στη λήψη αποφάσεων.
Χτίζουμε το πρόγραμμα "Διαχειριστής αποστολής"
που καταγράφει υπέρυθρο βίντεο από αέρος.
Μετά το επεξεργάζεται μέσω των αλγορίθμων μας με ΤΝ
για να προβλεφθεί η μελλοντική κατάσταση της φωτιάς.
Καθώς προχωράμε στο μέλλον,
αυτός ο διαχειριστής θα χρησιμοποιεί προσομοίωση,
θα επεξεργάζεται σενάρια σε χιλιάδες κύκλους,
για να προτείνει την πιο αποτελεσματική διάθεση πόρων
για καταστολή της φωτιάς σε περιοχές προτεραιότητας.
Θα λέει "Εδώ κάντε εναέρια καταστολή με ελικόπτερο Firehawk.
Ομάδες εδάφους να καθαρίζουν θάμνους,
πυροσβέστες να ρίχνουν νερό.
Στείλτε τους στις περιοχές υψίστης προτεραιότητας".
Αυτές οι αποφάσεις θα παράγονται πιο γρήγορα και πιο αποτελεσματικά.
Θεωρούμε ότι η ΤΝ θα επιτρέπει στους ανθρώπους
να συμβαδίζουν με το συνεχώς μεταβαλλόμενο περιβάλλον.
Υπάρχει ένας αξιόπιστος αριθμός παραλληλισμών
με όσα έχουμε συνηθίσει στη Lockheed Martin στην άμυνα.
Ο στρατός δεν μιλά πια μόνο για χρήση τεχνητής νοημοσύνης
και μεμονωμένων οπλικών συστημάτων για τη στόχευση και τη δολοφονία,
αλλά για ενσωμάτωση της ΤΝ σ' όλη τη δομή της λήψης αποφάσεων του στρατού.
Ο στρατός έχει ένα μεγάλο πρότζεκτ, το "Πρότζεκτ Σύγκλιση".
Το ναυτικό έχει το "Υπεροχή".
Η αεροπορία έχει το προηγμένο σύστημα διαχείρισης μάχης.
Το Υπουργείο Άμυνας θέλει να βρει
πώς να τα συνδυάσει όλα αυτά
για να λειτουργούμε πιο γρήγορα από τον αντίπαλο, να έχουμε πλεονέκτημα.
Ένας διαχειριστής μάχης με ΤΝ θα ήταν ένας υψηλόβαθμος στρατηγός
που είναι επικεφαλής της μάχης.
Θα τον βοηθά με τις εντολές σε πολυάριθμες δυνάμεις,
τον συντονισμό των ενεργειών όλων των όπλων εκεί,
και θα το κάνει με υπεράνθρωπη ταχύτητα.
Τα τελευταία 70 χρόνια
χτίζαμε τον πιο εξελιγμένο στρατό στον πλανήτη.
Τώρα αντιμετωπίζουμε την απόφαση για το αν θα παραχωρήσουμε τον έλεγχο
πάνω σ' αυτήν την υποδομή σε έναν αλγόριθμο, σε κάποιο λογισμικό.
Οι συνέπειες αυτής της απόφασης
θα μπορούσαν να πυροδοτήσουν όλο το οπλοστάσιό μας.
Δεν μιλάμε για μία Χιροσίμα, αλλά για εκατοντάδες.
Είναι η ώρα που πρέπει να δράσουμε,
γιατί το παράθυρο για να περιοριστεί αυτός ο κίνδυνος κλείνει τάχιστα.
Σήμερα ξεκινάμε με διεθνείς προκλήσεις για την ασφάλεια
από αναδυόμενες τεχνολογίες
στον τομέα των θανατηφόρων αυτόνομων όπλων.
Στον ΟΗΕ συζητείται η απειλή των θανατηφόρων αυτόνομων όπλων,
η απαγόρευση συστημάτων με ΤΝ που στοχεύουν ανθρώπους.
Η ομοψυχία μεταξύ των τεχνολόγων είναι ξεκάθαρη και ηχηρή.
Αντιτασσόμαστε στα αυτόνομα όπλα που στοχεύουν ανθρώπους.
Τα κράτη επί χρόνια συζητούν το θέμα των θανατηφόρων αυτόνομων όπλων.
Πρόκειται για μια κοινή αίσθηση ασφάλειας.
Αλλά, φυσικά, δεν είναι εύκολο.
Κάποιες χώρες, ιδίως οι στρατιωτικές δυνάμεις,
θέλουν να είναι μπροστά,
για να έχουν προβάδισμα από τους εχθρούς τους.
Το πρόβλημα είναι ότι πρέπει να συμφωνήσουν όλοι για να γίνει κάτι.
Τουλάχιστον μια χώρα θα διαφωνήσει.
Σαφέστατα, οι ΗΠΑ και η Ρωσία έχουν ξεκαθαρίσει
ότι αντιτίθενται σε μια συνθήκη απαγόρευσης αυτών των όπλων.
Όταν σκεφτόμαστε πόσοι δουλεύουν για να γίνει πιο ισχυρή η ΤΝ,
είναι ένας τεράστιος αριθμός.
Όταν σκεφτόμαστε πόσοι φροντίζουν να είναι ασφαλής η ΤΝ,
ο αριθμός τους είναι πολύ μικρότερος.
Αλλά είμαι και πολύ αισιόδοξη.
Βλέπω τη Σύμβαση για τα βιολογικά όπλα
που έγινε στη μέση του Ψυχρού Πολέμου,
παρά τις εντάσεις μεταξύ της Σοβιετικής Ένωσης και των ΗΠΑ.
Κατάφεραν να συνειδητοποιήσουν ότι η ανάπτυξη βιολογικών όπλων
δεν ήταν προς το συμφέρον κανενός,
ούτε προς το συμφέρον όλου του κόσμου.
Στην κούρσα των εξοπλισμών προτιμάται η ταχύτητα από την ασφάλεια.
Αλλά αυτό που πρέπει να σκεφτούμε είναι
ότι κάποια στιγμή το κόστος της ταχύτητας γίνεται πολύ υψηλό.
Δεν μπορούμε να αναπτύσσουμε μεμονωμένα πράγματα,
να τα βγάζουμε στον κόσμο, χωρίς να σκεφτούμε πού θα πάνε στο μέλλον.
Πρέπει να αποτραπεί ένα νέο συμβάν πυρηνικής έκρηξης.
Το στοίχημα στην κούρσα της ΤΝ είναι τεράστιο.
Δεν νομίζω ότι πολλοί εκτιμούν την παγκόσμια σταθερότητα
που υπάρχει χάρη στο ότι έχουμε μια ανώτερη στρατιωτική δύναμη
τα τελευταία 75 χρόνια.
Οπότε, οι ΗΠΑ και οι συμμαχικές μας δυνάμεις
πρέπει να ξεπεράσουν την ΤΝ του εχθρού.
Στον πόλεμο μόνο ένας νικά.
Η Κίνα φιλοδοξεί να γίνει παγκόσμιος ηγέτης στην ΤΝ ως το 2030.
Μια κούρσα που λένε ότι η Αμερική χάνει…
Η υιοθέτηση της ΤΝ θα επιταχυνθεί
για να διασφαλιστεί το ανταγωνιστικό μας πλεονέκτημα.
Προχωράμε τάχιστα μ' αυτήν την τεχνολογία.
Αυτό που είναι ασαφές είναι το πόσο μακριά θα φτάσουμε.
Εμείς ελέγχουμε την τεχνολογία ή μας ελέγχει αυτή;
Δεν υπάρχει περιθώριο για δεύτερες προσπάθειες.
Μόλις το τζίνι βγει από το μπουκάλι, βγήκε.
Και είναι πολύ δύσκολο να το ξαναβάλεις μέσα.
Αν δεν δράσουμε τώρα, θα είναι πολύ αργά.
Ίσως να είναι ήδη αργά.
Υποτιτλισμός: Λιουμπίνκα Δημητρόβα