content:
Saya rasa tidak ada sensasi yang dapat menembus hati manusia seperti yang dirasakan oleh penemunya saat dia melihat beberapa ciptaan otak yang sedang menuju kesuksesan.
—NIKOLA TESLA, 1896, PENEMU ALTERNATASI SAAT INI
Pada usia lima tahun, saya memiliki gagasan bahwa saya akan menjadi seorang penemu. Saya berpendapat bahwa penemuan dapat mengubah dunia. Ketika anak-anak lain bertanya-tanya apa yang mereka inginkan, saya sudah memiliki kesombongan bahwa saya tahu akan menjadi apa saya nantinya. Kapal roket ke bulan yang saya bangun (hampir satu dekade sebelum tantangan Presiden Kennedy kepada bangsa) tidak berhasil. Tetapi pada saat saya berusia delapan tahun, penemuan saya menjadi sedikit lebih realistis, seperti teater robotik dengan hubungan mekanis yang dapat memindahkan pemandangan dan karakter masuk dan keluar dari pandangan, dan permainan bisbol virtual.
Setelah melarikan diri dari Holocaust, orang tua saya, keduanya seniman, menginginkan pendidikan yang lebih duniawi, tidak bersifat provinsial, dan religius untuk saya.1 Sebagai hasilnya, pendidikan spiritual saya berlangsung di gereja Unitarian. Kami akan menghabiskan enam bulan mempelajari satu agama — pergi ke layanannya, membaca buku-bukunya, berdialog dengan para pemimpinnya — dan kemudian beralih ke agama berikutnya. Temanya adalah "banyak jalan menuju kebenaran". Saya memperhatikan, tentu saja, banyak kesamaan di antara tradisi agama dunia, tetapi bahkan ketidakkonsistenannya menerangi. Menjadi jelas bagi saya bahwa kebenaran dasar cukup mendalam untuk mengatasi kontradiksi yang nyata.
Pada usia delapan tahun, saya menemukan seri buku Tom Swift Jr. Plot dari ketiga puluh tiga buku (hanya sembilan yang telah diterbitkan ketika saya mulai membacanya pada tahun 1956) selalu sama: Tom akan mengalami kesulitan yang mengerikan, di mana nasibnya dan nasib teman-temannya, dan seringkali umat manusia lainnya, tergantung pada keseimbangan. Tom akan mundur ke lab ruang bawah tanahnya dan memikirkan bagaimana memecahkan masalah tersebut. Inilah, kemudian, ketegangan dramatis dalam setiap buku dalam seri: ide cerdik apa yang akan Tom dan teman-temannya munculkan untuk menyelamatkan hari? 2 Moral dari kisah-kisah ini sederhana: ide yang tepat memiliki kekuatan untuk mengatasi tantangan yang luar biasa.
Sampai hari ini, saya tetap yakin akan filosofi dasar ini: tidak peduli kesulitan apa yang kita hadapi — masalah bisnis, masalah kesehatan, kesulitan hubungan, serta tantangan besar ilmiah, sosial, dan budaya di zaman kita — ada ide yang bisa memungkinkan kita untuk menang. Lebih jauh, kita bisa menemukan ide itu. Dan ketika kami menemukannya, kami perlu menerapkannya. Hidup saya telah dibentuk oleh keharusan ini. Kekuatan ide — ini sendiri adalah ide.
Kira-kira pada waktu yang sama ketika saya membaca serial Tom Swift Jr., saya ingat kakek saya, yang juga melarikan diri dari Eropa bersama ibu saya, kembali dari kunjungan kembali pertamanya ke Eropa dengan dua kenangan penting. Salah satunya adalah perlakuan ramah yang dia terima dari Austria dan Jerman, orang-orang yang sama yang memaksanya melarikan diri pada tahun 1938. Yang lainnya adalah kesempatan langka yang telah diberikan kepadanya untuk menyentuh dengan tangannya sendiri beberapa manuskrip asli Leonardo da Vinci. Kedua ingatan tersebut memengaruhi saya, tetapi yang terakhir adalah ingatan yang telah saya ulas berkali-kali. Dia menggambarkan pengalaman itu dengan hormat, seolah-olah dia telah menyentuh pekerjaan Tuhan sendiri. Maka, inilah agama tempat saya dibesarkan: pemujaan terhadap kreativitas manusia dan kekuatan gagasan.
Pada tahun 1960, pada usia dua belas tahun, saya menemukan komputer dan terpesona dengan kemampuannya untuk membuat model dan menciptakan kembali dunia. Saya berkeliaran di sekitar toko elektronik berlebih di Canal Street di Manhattan (mereka masih di sana!) Dan mengumpulkan bagian-bagian untuk membuat perangkat komputasi saya sendiri. Selama tahun 1960-an, saya asyik dengan musik kontemporer, budaya, dan gerakan politik seperti rekan-rekan saya, tetapi saya menjadi sama-sama terlibat dalam tren yang jauh lebih tidak jelas: yaitu, urutan mesin yang luar biasa yang ditawarkan IBM selama dekade itu, dari mesin mereka. seri “7000” besar (7070, 7074, 7090, 7094) hingga 1620 kecilnya, yang secara efektif merupakan “komputer mini” pertama. Mesin-mesin itu diperkenalkan pada interval tahunan, dan masing-masing lebih murah dan lebih bertenaga daripada yang terakhir, sebuah fenomena yang lazim saat ini. Saya mendapat akses ke IBM 1620 dan mulai menulis program untuk analisis statistik dan kemudian untuk komposisi musik.
Saya masih ingat saat pada tahun 1968 ketika saya diizinkan masuk ke dalam ruangan yang aman dan luas, yang merupakan komputer paling kuat di New England, IBM 360 Model 91 terbaik, dengan jutaan byte yang luar biasa (satu megabyte). ) dari memori "inti", kecepatan mengesankan satu juta instruksi per detik (satu MIPS), dan biaya sewa hanya seribu dolar per jam. Saya telah mengembangkan program komputer yang mencocokkan siswa sekolah menengah dengan perguruan tinggi, dan saya menyaksikan dengan kagum saat lampu panel depan menari melalui pola yang berbeda saat mesin memproses aplikasi setiap siswa.3 Meskipun saya cukup akrab dengan setiap baris kode, meskipun demikian komputer tampak seolah-olah tenggelam dalam pikirannya ketika lampu meredup selama beberapa detik pada akhir setiap siklus tersebut. Memang, itu bisa dilakukan dengan sempurna dalam sepuluh detik yang membutuhkan waktu sepuluh jam untuk kami lakukan secara manual dengan akurasi yang jauh lebih rendah.
Sebagai seorang penemu di tahun 1970-an, saya menyadari bahwa penemuan saya harus masuk akal dalam kaitannya dengan teknologi yang memungkinkan dan kekuatan pasar yang akan ada ketika penemuan itu diperkenalkan, karena dunia itu akan sangat berbeda dari dunia di mana mereka dikandung. Saya mulai mengembangkan model bagaimana teknologi yang berbeda — elektronik, komunikasi, prosesor komputer, memori, penyimpanan magnetik, dan lain-lain — berkembang dan bagaimana perubahan ini terjadi melalui pasar dan pada akhirnya institusi sosial kita. Saya menyadari bahwa kebanyakan penemuan gagal bukan karena departemen R&D tidak dapat membuatnya berfungsi tetapi karena waktunya salah. Menciptakan sangat mirip dengan berselancar: Anda harus mengantisipasi dan menangkap ombak pada saat yang tepat.
Ketertarikan saya pada tren teknologi dan implikasinya mulai terlihat pada tahun 1980-an, dan saya mulai menggunakan model saya untuk memproyeksikan dan mengantisipasi teknologi masa depan, inovasi yang akan muncul pada tahun 2000, 2010, 2020, dan seterusnya. Ini memungkinkan saya untuk menemukan kemampuan masa depan dengan membayangkan dan merancang penemuan menggunakan kemampuan masa depan ini. Pada pertengahan hingga akhir 1980-an, saya menulis buku pertama saya, The Age of Intelligent Machines. 4 Ini mencakup prediksi yang luas (dan cukup akurat) untuk tahun 1990-an dan 2000-an, dan diakhiri dengan momok kecerdasan mesin yang menjadi tidak dapat dibedakan dari nenek moyang manusianya dalam paruh pertama abad kedua puluh satu. Sepertinya kesimpulan yang pedih, dan dalam hal apa pun saya pribadi merasa sulit untuk melihat lebih jauh sehingga mengubah hasil.
Selama dua puluh tahun terakhir, saya mulai menghargai sebuah meta-ide yang penting: bahwa kekuatan ide untuk mengubah dunia dengan sendirinya semakin cepat. Meskipun orang dengan mudah setuju dengan pengamatan ini ketika dinyatakan secara sederhana, relatif sedikit pengamat yang benar-benar menghargai implikasinya yang mendalam. Dalam beberapa dekade mendatang, kita akan memiliki kesempatan untuk menerapkan ide-ide untuk mengatasi masalah lama — dan memperkenalkan beberapa masalah baru di sepanjang jalan.
Selama tahun 1990-an, saya mengumpulkan data empiris tentang percepatan nyata dari semua teknologi yang berhubungan dengan informasi dan berusaha menyempurnakan model matematika yang mendasari pengamatan ini. Saya mengembangkan teori yang saya sebut hukum pengembalian yang dipercepat, yang menjelaskan mengapa teknologi dan proses evolusi secara umum berkembang secara eksponensial. 5 Dalam The Age of Spiritual Machines (ASM), yang saya tulis pada tahun 1998, saya berusaha untuk mengartikulasikan alam kehidupan manusia seperti yang akan ada melewati titik ketika mesin dan kognisi manusia kabur. Memang, saya telah melihat zaman ini sebagai kolaborasi yang semakin erat antara warisan biologis kita dan masa depan yang melampaui biologi.
Sejak penerbitan ASM, saya mulai merefleksikan masa depan peradaban kita dan hubungannya dengan tempat kita di alam semesta. Meskipun mungkin tampak sulit untuk membayangkan kemampuan peradaban masa depan yang kecerdasannya jauh melebihi kecerdasan kita, kemampuan kita untuk menciptakan model realitas dalam pikiran kita memungkinkan kita untuk mengartikulasikan wawasan yang berarti ke dalam implikasi dari penggabungan yang akan datang dari pemikiran biologis kita dengan nonbiologis, kecerdasan yang kita ciptakan. Inilah kisah yang ingin saya ceritakan dalam buku ini. Cerita ini didasarkan pada gagasan bahwa kita memiliki kemampuan untuk memahami kecerdasan kita sendiri — untuk mengakses kode sumber kita sendiri, jika Anda mau — dan kemudian merevisi dan mengembangkannya.
Beberapa pengamat mempertanyakan apakah kita mampu menerapkan pemikiran kita sendiri untuk memahami pemikiran kita sendiri. Peneliti AI Douglas Hofstadter merenung bahwa “bisa jadi hanya kebetulan bahwa otak kita terlalu lemah untuk memahami diri mereka sendiri. Pikirkan jerapah rendahan, misalnya, yang otaknya jelas jauh di bawah tingkat yang dibutuhkan untuk pemahaman diri — namun sangat mirip dengan otak kita.” 6 Namun, kita telah berhasil memodelkan bagian-bagian otak kita — neuron dan substansial wilayah saraf — dan kompleksitas model tersebut berkembang pesat. Kemajuan kita dalam merekayasa balik otak manusia, masalah utama yang akan saya uraikan secara rinci dalam buku ini, menunjukkan bahwa kita memang memiliki kemampuan untuk memahami, mencontoh, dan memperluas kecerdasan kita sendiri. Inilah salah satu aspek keunikan spesies kita:kecerdasan kita hanya cukup di atas ambang kritis yang diperlukan bagi kita untuk mengukur kemampuan kita sendiri ke ketinggian tak terbatas dari kekuatan kreatif — dan kita memiliki embel-embel berlawanan (ibu jari kita) yang diperlukan untuk memanipulasi alam semesta sesuai keinginan kita.
Sebuah kata tentang sihir: ketika saya membaca buku-buku Tom Swift Jr., saya juga seorang pesulap yang rajin. Saya menikmati kegembiraan penonton saya karena mengalami transformasi realitas yang tampaknya mustahil. Di masa remaja saya, saya mengganti sihir ruang tamu saya dengan proyek teknologi. Saya menemukan bahwa tidak seperti trik biasa, teknologi tidak kehilangan kekuatan transendennya ketika rahasianya terungkap. Saya sering teringat akan hukum ketiga Arthur C. Clarke, bahwa "teknologi yang cukup maju tidak dapat dibedakan dari sihir."
Pertimbangkan cerita Harry Potter JK Rowling dari perspektif ini. Kisah-kisah ini mungkin hanya khayalan, tetapi itu bukanlah visi yang tidak masuk akal tentang dunia kita karena hanya akan ada beberapa dekade dari sekarang. Intinya, semua “keajaiban” Potter akan diwujudkan melalui teknologi yang akan saya gali dalam buku ini. Bermain quid-parit dan mengubah orang dan objek menjadi bentuk lain akan dimungkinkan dalam lingkungan virtual reality yang sepenuhnya mendalam, serta dalam realitas nyata, menggunakan perangkat skala nano. Yang lebih meragukan adalah pembalikan waktu (seperti yang dijelaskan dalam Harry Potter and the Prisoner of Azkaban), meskipun proposal serius bahkan telah diajukan untuk mencapai sesuatu di sepanjang garis ini (tanpa menimbulkan paradoks kausalitas), setidaknya untuk sedikit informasi, yang pada dasarnya adalah apa yang kami susun. (Lihat pembahasan di bab 3 tentang batas akhir penghitungan.)
Pertimbangkan bahwa Harry melepaskan sihirnya dengan mengucapkan mantra yang benar. Tentu saja, menemukan dan menerapkan mantra ini bukanlah hal yang mudah. Harry dan rekan-rekannya perlu mendapatkan urutan, prosedur, dan penekanan yang benar. Proses itu persis seperti pengalaman kami dengan teknologi. Mantra kami adalah rumus dan algoritme yang mendasari keajaiban zaman modern kami. Dengan urutan yang tepat, kita bisa mendapatkan komputer untuk membaca buku dengan suara keras, memahami ucapan manusia, mengantisipasi (dan mencegah) serangan jantung, atau memprediksi pergerakan kepemilikan pasar saham. Jika sebuah mantera hanya sedikit meleset, sihir itu sangat lemah atau tidak berfungsi sama sekali.
Orang mungkin keberatan dengan metafora ini dengan menunjukkan bahwa mantera Hogwartian singkat dan oleh karena itu tidak mengandung banyak informasi dibandingkan dengan, katakanlah, kode untuk program perangkat lunak modern. Tetapi metode penting dari teknologi modern umumnya memiliki keringkasan yang sama. Prinsip pengoperasian kemajuan perangkat lunak seperti pengenalan suara dapat ditulis hanya dalam beberapa halaman rumus. Seringkali kemajuan utama adalah masalah penerapan perubahan kecil pada satu formula.
Pengamatan yang sama berlaku untuk "penemuan" evolusi biologis: pertimbangkan bahwa perbedaan genetik antara simpanse dan manusia, misalnya, hanyalah beberapa ratus ribu byte informasi. Meskipun simpanse mampu melakukan beberapa prestasi intelektual, perbedaan kecil dalam gen kita sudah cukup bagi spesies kita untuk menciptakan keajaiban teknologi.
Muriel Rukeyser mengatakan bahwa "alam semesta terbuat dari cerita, bukan atom". Dalam bab 7, saya mendeskripsikan diri saya sebagai seorang "pembuat pola," seseorang yang memandang pola informasi sebagai realitas fundamental. Misalnya, partikel yang menyusun otak dan tubuh saya berubah dalam beberapa minggu, tetapi ada kontinuitas pada pola yang dibuat oleh partikel-partikel ini. Sebuah cerita dapat dianggap sebagai pola informasi yang bermakna, sehingga kita dapat menafsirkan pepatah Muriel Rukeyser dari perspektif ini. Buku ini, kemudian, adalah kisah takdir peradaban manusia-mesin, takdir yang kita sebut sebagai Singularitas.
BAB SATU
Enam Zaman
Setiap orang mengambil batas visinya sendiri untuk batas dunia.
—ARTHUR SCHOPENHAUER
Saya tidak yakin kapan pertama kali menyadari Singularity. Saya harus mengatakan itu adalah kebangkitan progresif. Dalam hampir setengah abad saya membenamkan diri dalam komputer dan teknologi terkait, saya berusaha memahami arti dan tujuan pergolakan berkelanjutan yang telah saya saksikan di berbagai tingkatan. Berangsur-angsur, saya menyadari peristiwa transformasi yang membayang di paruh pertama abad kedua puluh satu. Sama seperti lubang hitam di ruang angkasa secara dramatis mengubah pola materi dan energi yang semakin cepat menuju cakrawala kejadiannya, Singularitas yang akan datang ini di masa depan kita semakin mengubah setiap institusi dan aspek kehidupan manusia, dari seksualitas hingga spiritualitas.
Lalu, apakah Singularitas itu? Ini adalah periode masa depan di mana laju perubahan teknologi akan begitu cepat, dampaknya begitu dalam, sehingga kehidupan manusia akan berubah secara permanen. Meskipun bukan utopis atau distopia, zaman ini akan mengubah konsep yang kita andalkan untuk memberi makna pada hidup kita, dari model bisnis kita hingga siklus kehidupan manusia, termasuk kematian itu sendiri. Memahami Singularitas akan mengubah perspektif kita tentang pentingnya masa lalu kita dan konsekuensinya bagi masa depan kita. Untuk benar-benar memahaminya secara inheren mengubah pandangan seseorang tentang kehidupan secara umum dan kehidupan khusus seseorang. Saya menganggap seseorang yang memahami Singularitas dan yang telah merefleksikan implikasinya bagi kehidupannya sendiri sebagai "singularitarian." 1
Saya dapat memahami mengapa banyak pengamat tidak langsung menerima implikasi yang jelas dari apa yang saya sebut hukum percepatan pengembalian (percepatan yang melekat pada laju evolusi, dengan evolusi teknologi sebagai kelanjutan dari evolusi biologis). Lagi pula, butuh empat puluh tahun untuk bisa melihat apa yang ada di depan saya, dan saya masih belum bisa mengatakan bahwa saya sepenuhnya nyaman dengan semua konsekuensinya.
Ide kunci yang mendasari Singularitas yang akan datang adalah bahwa laju perubahan teknologi ciptaan manusia kita semakin cepat dan kekuatannya berkembang dengan kecepatan yang eksponensial. Pertumbuhan eksponensial menipu. Itu dimulai hampir tanpa disadari dan kemudian meledak dengan amarah yang tak terduga — tak terduga, yaitu, jika seseorang tidak berhati-hati untuk mengikuti lintasannya. (Lihat grafik “Pertumbuhan Linear vs. Pertumbuhan Eksponensial” di halaman 10.)
Pertimbangkan perumpamaan ini: seorang pemilik danau ingin tinggal di rumah untuk memelihara ikan di danau dan memastikan bahwa danau itu sendiri tidak akan tertutupi oleh bantalan teratai, yang dikatakan akan menggandakan jumlahnya setiap beberapa hari. Bulan demi bulan, ia dengan sabar menunggu, namun hanya sebagian kecil bantalan teratai yang dapat dilihat, dan tampaknya tidak mengembang dengan cara apa pun. Dengan bantalan teratai menutupi kurang dari 1 persen danau, pemilik memperkirakan bahwa aman untuk berlibur dan pergi bersama keluarganya. Ketika dia kembali beberapa minggu kemudian, dia terkejut menemukan bahwa seluruh danau telah tertutup bantalan, dan ikannya punah. Dengan menggandakan jumlah mereka setiap beberapa hari, tujuh penggandaan terakhir cukup untuk memperluas cakupan bantalan ke seluruh danau. (Tujuh penggandaan memperpanjang jangkauannya 128 kali lipat.) Ini adalah sifat pertumbuhan eksponensial.
Pertimbangkan Gary Kasparov, yang mencemooh keadaan catur komputer yang menyedihkan pada tahun 1992. Namun penggandaan kekuatan komputer yang terus menerus setiap tahun memungkinkan komputer untuk mengalahkannya hanya lima tahun kemudian. 2 Daftar cara komputer sekarang dapat melebihi kemampuan manusia berkembang pesat. Selain itu, aplikasi kecerdasan komputer yang dulunya sempit secara bertahap meluas dalam satu jenis aktivitas ke aktivitas lainnya. Misalnya, komputer mendiagnosis elektrokardiogram dan gambar medis, pesawat terbang dan mendarat, mengendalikan keputusan taktis senjata otomatis, membuat keputusan kredit dan keuangan, dan diberi tanggung jawab untuk banyak tugas lain yang biasanya membutuhkan kecerdasan manusia. Kinerja sistem ini semakin didasarkan pada integrasi berbagai jenis kecerdasan buatan (AI). Tetapi selama ada kekurangan AI di bidang usaha apa pun, orang yang skeptis akan menunjuk ke bidang itu sebagai benteng inheren superioritas manusia permanen atas kemampuan ciptaan kita sendiri.
Namun, buku ini akan berargumen bahwa dalam beberapa dekade teknologi berbasis informasi akan mencakup semua pengetahuan dan kemahiran manusia, yang pada akhirnya mencakup kekuatan pengenalan pola, keterampilan memecahkan masalah, dan kecerdasan emosional dan moral otak manusia itu sendiri.
Meskipun mengesankan dalam banyak hal, otak mengalami keterbatasan yang parah. Kami menggunakan paralelisme masifnya (seratus triliun koneksi internal yang beroperasi secara bersamaan) untuk mengenali pola halus dengan cepat. Tetapi pemikiran kami sangat lambat: transaksi saraf dasar beberapa juta kali lebih lambat dari sirkuit elektronik kontemporer. Itu membuat bandwidth fisiologis kita untuk memproses informasi baru sangat terbatas dibandingkan dengan pertumbuhan eksponensial dari keseluruhan basis pengetahuan manusia.
Tubuh biologis versi 1.0 kami juga lemah dan tunduk pada berbagai mode kegagalan, belum lagi ritual pemeliharaan rumit yang mereka butuhkan. Sementara kecerdasan manusia terkadang mampu melonjak dalam kreativitas dan ekspresi, banyak pemikiran manusia adalah turunan, picik, dan terbatas.
Singularitas akan memungkinkan kita mengatasi keterbatasan tubuh dan otak biologis kita ini. Kami akan mendapatkan kekuasaan atas nasib kami. Kematian kita akan ada di tangan kita sendiri. Kita akan dapat hidup selama yang kita inginkan (pernyataan yang sedikit berbeda dari mengatakan kita akan hidup selamanya). Kami akan sepenuhnya memahami pemikiran manusia dan akan sangat memperluas dan memperluas jangkauannya. Pada akhir abad ini, bagian nonbiologis dari kecerdasan kita akan triliunan kali lebih kuat daripada kecerdasan manusia tanpa bantuan.
Kami sekarang berada dalam tahap awal transisi ini. Percepatan pergeseran paradigma (laju di mana kita mengubah pendekatan teknis fundamental) serta pertumbuhan eksponensial kapasitas teknologi informasi, keduanya mulai mencapai "lutut kurva," yang merupakan tahap di mana tren eksponensial menjadi terlihat. Tak lama setelah tahap ini, tren dengan cepat menjadi eksplosif. Sebelum pertengahan abad ini, tingkat pertumbuhan teknologi kita — yang tidak bisa dibedakan dari diri kita sendiri — akan sangat tajam sehingga pada dasarnya tampak vertikal. Dari perspektif matematis yang ketat, tingkat pertumbuhan akan tetap terbatas tetapi begitu ekstrim sehingga perubahan yang ditimbulkannya akan tampak merusak struktur sejarah manusia. Itu, setidaknya, akan menjadi perspektif kemanusiaan biologis yang tidak ditingkatkan.
Singularitas akan mewakili puncak penggabungan pemikiran biologis dan keberadaan kita dengan teknologi kita, menghasilkan dunia yang masih manusia tetapi melampaui akar biologis kita. Tidak akan ada perbedaan, pasca-Singularitas, antara manusia dan mesin atau antara realitas fisik dan virtual. Jika Anda bertanya-tanya apa yang akan tetap menjadi manusia di dunia seperti itu, hanya kualitas ini: milik kita adalah spesies yang secara inheren berusaha memperluas jangkauan fisik dan mentalnya di luar batasan saat ini.
Banyak komentator tentang perubahan ini fokus pada apa yang mereka anggap sebagai hilangnya beberapa aspek penting kemanusiaan kita yang akan diakibatkan dari transisi ini. Namun, perspektif ini berasal dari kesalahpahaman tentang akan menjadi apa teknologi kita nantinya. Semua mesin yang kami temui hingga saat ini tidak memiliki kehalusan yang esensial dari kualitas biologis manusia. Meskipun Singularitas memiliki banyak wajah, implikasi terpentingnya adalah ini: teknologi kami akan cocok dan kemudian jauh melampaui kehalusan dan keluwesan dari apa yang kami anggap sebagai ciri-ciri terbaik manusia.
Pandangan Linear Intuitif Dibandingkan
dengan Pandangan Eksponensial Historis
Ketika kecerdasan transhuman pertama diciptakan dan meluncurkan dirinya sendiri ke dalam perbaikan diri rekursif, kemungkinan besar akan terjadi diskontinuitas mendasar, hal-hal seperti yang bahkan tidak dapat saya prediksi.
—MICHAEL ANISSIMOV
Pada tahun 1950-an, John von Neumann, ahli teori informasi legendaris, dikutip mengatakan bahwa "kemajuan teknologi yang semakin cepat ... memberikan tampilan yang mendekati singularitas esensial dalam sejarah ras yang melampaui urusan manusia, seperti yang kita ketahui, tidak dapat melanjutkan. ”3 Von Neumann membuat dua pengamatan penting di sini: percepatan dan singularitas. Gagasan pertama adalah bahwa kemajuan manusia bersifat eksponensial (yaitu, berkembang dengan berulang kali dikalikan dengan konstanta) daripada linier (yaitu, berkembang dengan menambahkan konstanta berulang kali ).
Linear versus eksponensial : Pertumbuhan linier stabil;
pertumbuhan eksponensial menjadi eksplosif
Yang kedua adalah bahwa pertumbuhan eksponensial itu menggoda, dimulai secara perlahan dan hampir tanpa disadari, tetapi di luar batas kurva itu berubah menjadi eksplosif dan sangat transformatif. Masa depan banyak disalahpahami. Para leluhur kami berharap itu seperti masa kini mereka, yang sangat mirip dengan masa lalu mereka. Tren eksponensial memang ada seribu tahun yang lalu, tetapi tren tersebut berada pada tahap paling awal di mana tren tersebut begitu datar dan sangat lambat sehingga tampak seperti tidak ada tren sama sekali. Hasilnya, ekspektasi pengamat akan masa depan yang tidak berubah pun terpenuhi. Hari ini, kami mengantisipasi kemajuan teknologi yang berkelanjutan dan dampak sosial yang mengikutinya. Tetapi masa depan akan jauh lebih mengejutkan daripada yang disadari kebanyakan orang, karena hanya sedikit pengamat yang benar-benar menginternalisasi implikasi fakta bahwa laju perubahan itu sendiri semakin cepat.
Kebanyakan prakiraan jangka panjang tentang apa yang secara teknis memungkinkan dalam periode waktu mendatang secara dramatis meremehkan kekuatan perkembangan di masa depan karena didasarkan pada apa yang saya sebut sebagai pandangan sejarah “linier intuitif” daripada pandangan “eksponensial historis”. Model saya menunjukkan bahwa kita menggandakan laju pergeseran paradigma setiap dekade, seperti yang akan saya bahas di bab berikutnya. Dengan demikian abad kedua puluh secara bertahap melaju dengan cepat ke tingkat kemajuan saat ini; pencapaiannya, oleh karena itu, setara dengan kemajuan sekitar dua puluh tahun pada tingkat tahun 2000. Kita akan membuat kemajuan dua puluh tahun lagi hanya dalam empat belas tahun (pada 2014), dan kemudian melakukan hal yang sama lagi hanya dalam tujuh tahun. Untuk mengungkapkannya dengan cara lain, kita tidak akan mengalami kemajuan teknologi selama seratus tahun di abad kedua puluh satu; kita akan menyaksikan dalam urutan dua puluh ribu tahun kemajuan (sekali lagi, jika diukur dengan hari ini tingkat kemajuan), atau sekitar seribu kali lebih besar dari apa yang dicapai dalam century. 4 kedua puluh.
Kesalahpahaman tentang bentuk masa depan sering muncul dalam berbagai konteks. Sebagai salah satu contoh dari banyak, dalam debat baru-baru ini di mana saya mengambil bagian tentang kelayakan manufaktur molekuler, seorang panelis pemenang Hadiah Nobel menepis masalah keamanan mengenai nanoteknologi, menyatakan bahwa “kita tidak akan melihat entitas rekayasa nano yang mereplikasi diri [ perangkat membangun fragmen molekul demi fragmen] selama seratus tahun." Saya menunjukkan bahwa seratus tahun adalah perkiraan yang masuk akal dan benar-benar cocok dengan penilaian saya sendiri tentang jumlah kemajuan teknis yang diperlukan untuk mencapai tonggak sejarah khusus ini ketika diukur pada tingkat kemajuan saat ini.(lima kali tingkat perubahan rata-rata yang kita lihat di abad kedua puluh). Tetapi karena kita menggandakan tingkat kemajuan setiap dekade, kita akan melihat kemajuan yang setara dengan satu abad — dengan kecepatan saat ini — hanya dalam dua puluh lima tahun kalender.
Demikian pula pada konferensi Masa Depan Kehidupan majalah Time, yang diadakan pada tahun 2003 untuk merayakan ulang tahun kelima puluh penemuan struktur DNA, semua pembicara yang diundang ditanyai seperti apa pendapat mereka selama lima puluh tahun ke depan, kemajuan lima puluh tahun terakhir dan menggunakannya sebagai model selama lima puluh tahun ke depan. Misalnya, James Watson, penemu kode DNA, mengatakan bahwa dalam lima puluh tahun kita akan memiliki obat-obatan yang memungkinkan kita makan sebanyak yang kita inginkan tanpa menambah berat badan.
Saya menjawab, "Lima puluh tahun?" Kami telah mencapai hal ini pada tikus dengan memblokir gen reseptor insulin lemak yang mengontrol penyimpanan lemak di sel lemak. Obat untuk digunakan manusia (menggunakan interferensi RNA dan teknik lain yang akan kita diskusikan di bab 5) sedang dalam pengembangan sekarang dan akan diuji oleh FDA dalam beberapa tahun. Ini akan tersedia dalam lima sampai sepuluh tahun, bukan lima puluh. Proyeksi lain sama-sama berpandangan sempit, yang mencerminkan prioritas penelitian kontemporer daripada perubahan besar yang akan terjadi pada setengah abad mendatang. Dari semua pemikir di konferensi ini, terutama Bill Joy dan saya yang memperhitungkan sifat eksponensial masa depan, meskipun Joy dan saya tidak setuju tentang impor perubahan ini, seperti yang akan saya bahas di bab 8.
Orang secara intuitif berasumsi bahwa tingkat kemajuan saat ini akan berlanjut untuk periode mendatang. Bahkan bagi mereka yang telah berada cukup lama untuk mengalami bagaimana laju perubahan meningkat dari waktu ke waktu, intuisi yang tidak teruji meninggalkan kesan bahwa perubahan terjadi pada tingkat yang sama dengan yang kita alami baru-baru ini. Dari sudut pandang ahli matematika, alasannya adalah karena kurva eksponensial terlihat seperti garis lurus jika diteliti dalam durasi yang singkat. Akibatnya, para komentator yang canggih sekalipun, ketika mempertimbangkan masa depan, biasanya memperkirakan laju perubahan saat ini selama sepuluh tahun atau seratus tahun ke depan untuk menentukan ekspektasi mereka. Inilah mengapa saya mendeskripsikan cara memandang masa depan ini sebagai pandangan "linier intuitif".
Tetapi penilaian serius terhadap sejarah teknologi mengungkapkan bahwa perubahan teknologi bersifat eksponensial. Pertumbuhan eksponensial adalah ciri dari setiap proses evolusi, di mana teknologi adalah contoh utamanya. Anda dapat memeriksa data dengan berbagai cara, pada rentang waktu yang berbeda, dan untuk berbagai macam teknologi, mulai dari elektronik hingga biologis, serta implikasinya, mulai dari jumlah pengetahuan manusia hingga ukuran ekonomi. Percepatan kemajuan dan pertumbuhan berlaku untuk masing-masing. Memang, kita sering menemukan tidak hanya pertumbuhan eksponensial sederhana, tetapi pertumbuhan eksponensial "ganda", yang berarti bahwa tingkat pertumbuhan eksponensial (yaitu, eksponen) itu sendiri tumbuh secara eksponensial (misalnya, lihat pembahasan tentang kinerja harga komputasi di bab selanjutnya).
Banyak ilmuwan dan insinyur memiliki apa yang saya sebut "pesimisme ilmuwan". Seringkali, mereka begitu tenggelam dalam kesulitan dan detail rumit dari tantangan kontemporer sehingga mereka gagal untuk menghargai implikasi jangka panjang terakhir dari pekerjaan mereka sendiri, dan bidang pekerjaan yang lebih besar tempat mereka beroperasi. Mereka juga gagal memperhitungkan alat yang jauh lebih kuat yang akan mereka miliki dengan setiap generasi teknologi baru.
Ilmuwan dilatih untuk bersikap skeptis, berbicara dengan hati-hati tentang tujuan penelitian saat ini, dan jarang berspekulasi di luar pencarian ilmiah generasi sekarang. Ini mungkin merupakan pendekatan yang memuaskan ketika satu generasi ilmu pengetahuan dan teknologi bertahan lebih lama dari satu generasi manusia, tetapi itu tidak melayani kepentingan masyarakat sekarang karena kemajuan ilmu pengetahuan dan teknologi hanya berlangsung beberapa tahun.
Pertimbangkan ahli biokimia yang, pada tahun 1990, meragukan tujuan menyalin seluruh genom manusia hanya dalam lima belas tahun. Para ilmuwan ini baru saja menghabiskan satu tahun penuh untuk menyalin hanya sepersepuluh ribu genom. Jadi, bahkan dengan kemajuan yang diantisipasi secara masuk akal, tampaknya wajar bagi mereka bahwa dibutuhkan satu abad, jika tidak lebih lama, sebelum seluruh genom dapat diurutkan.
Atau pertimbangkan skeptisisme yang diungkapkan pada pertengahan 1980-an bahwa Internet akan menjadi fenomena yang signifikan, mengingat saat itu Internet hanya mencakup puluhan ribu node (juga dikenal sebagai server). Faktanya, jumlah node bertambah dua kali lipat setiap tahun, sehingga kemungkinan ada puluhan juta node sepuluh tahun kemudian. Tetapi tren ini tidak dihargai oleh mereka yang berjuang dengan teknologi mutakhir pada tahun 1985, yang memungkinkan penambahan hanya beberapa ribu node di seluruh dunia dalam satu tahun.6
Kesalahan konseptual yang berlawanan terjadi ketika fenomena eksponensial tertentu pertama kali dikenali dan diterapkan dengan cara yang terlalu agresif tanpa memodelkan laju pertumbuhan yang sesuai. Sementara pertumbuhan eksponensial bertambah cepat dari waktu ke waktu, itu tidak seketika. Meningkatnya nilai modal (yaitu, harga pasar saham) selama “gelembung Internet” dan gelembung telekomunikasi terkait (1997–2000) sangat melebihi ekspektasi yang masuk akal bahkan pertumbuhan eksponensial. Seperti yang saya tunjukkan di bab berikutnya, adopsi aktual Internet dan e-commerce memang menunjukkan pertumbuhan eksponensial yang mulus melalui boom dan bust; ekspektasi pertumbuhan yang berlebihan hanya mempengaruhi penilaian modal (saham). Kami telah melihat kesalahan serupa selama pergeseran paradigma sebelumnya — misalnya, selama era perkeretaapian awal (1830-an),ketika ledakan dan kehancuran Internet menyebabkan hiruk-pikuk ekspansi kereta api.
Kesalahan lain yang dibuat para peramal adalah mempertimbangkan transformasi yang akan dihasilkan dari satu tren di dunia saat ini seolah-olah tidak ada hal lain yang akan berubah. Contoh yang baik adalah kekhawatiran bahwa perpanjangan kehidupan radikal akan mengakibatkan kelebihan populasi dan habisnya sumber daya material yang terbatas untuk menopang kehidupan manusia, yang mengabaikan penciptaan kekayaan radikal yang sebanding dari nanoteknologi dan AI yang kuat. Misalnya, perangkat manufaktur berbasis nanoteknologi pada tahun 2020-an akan mampu menciptakan hampir semua produk fisik dari bahan mentah dan informasi yang tidak mahal.
Saya menekankan perspektif eksponensial-versus-linier karena ini adalah kegagalan terpenting yang dibuat para prognostikator dalam mempertimbangkan tren masa depan. Sebagian besar prakiraan dan peramal teknologi mengabaikan sama sekali pandangan eksponensial historis kemajuan teknologi ini. Memang, hampir setiap orang yang saya temui memiliki pandangan linier tentang masa depan. Itulah mengapa orang cenderung melebih-lebihkan apa yang bisa dicapai dalam jangka pendek (karena kita cenderung mengabaikan detail yang diperlukan) tetapi meremehkan apa yang bisa dicapai dalam jangka panjang (karena pertumbuhan eksponensial diabaikan).
Enam Zaman
Pertama kami membangun alat, lalu mereka membangun kami.
—MARSHALL MCLUHAN
Masa depan tidak seperti dulu lagi.
—YOGI BERRA
Evolusi adalah proses menciptakan pola keteraturan yang meningkat. Saya akan membahas konsep ketertiban di bab berikutnya; penekanan pada bagian ini adalah pada konsep pola. Saya percaya bahwa evolusi pola-lah yang membentuk kisah pamungkas dunia kita. Evolusi bekerja melalui tipuan: setiap tahap atau epoch menggunakan metode pemrosesan informasi dari epoch sebelumnya untuk membuat epoch berikutnya. Saya mengkonseptualisasikan sejarah evolusi — baik biologis maupun teknologi — terjadi dalam enam zaman. Seperti yang akan kita diskusikan, Singularitas akan dimulai dengan Epoch Five dan akan menyebar dari Bumi ke seluruh alam semesta di Epoch Six.
Epoch One: Fisika dan Kimia. Kita dapat menelusuri asal-usul kita ke keadaan yang merepresentasikan informasi dalam struktur dasarnya: pola materi dan energi. Teori gravitasi kuantum baru-baru ini menyatakan bahwa ruang dan waktu dipecah menjadi kuanta diskrit, yang pada dasarnya merupakan fragmen informasi. Ada kontroversi mengenai apakah materi dan energi pada akhirnya bersifat digital atau analog, tetapi terlepas dari penyelesaian masalah ini, kita tahu bahwa struktur atom menyimpan dan merepresentasikan informasi diskrit.
Beberapa ratus ribu tahun setelah Big Bang, atom mulai terbentuk, karena elektron terperangkap dalam orbit di sekitar inti yang terdiri dari proton dan neutron. Struktur listrik atom membuatnya "lengket". Kimia lahir beberapa juta tahun kemudian ketika atom berkumpul untuk menciptakan struktur yang relatif stabil yang disebut molekul. Dari semua elemen, karbon terbukti paling serbaguna; ia mampu membentuk ikatan dalam empat arah (versus satu hingga tiga untuk sebagian besar elemen lainnya), memunculkan struktur tiga dimensi yang rumit dan kaya informasi.
Aturan alam semesta kita dan keseimbangan konstanta fisik yang mengatur interaksi gaya dasar begitu indah, halus, dan tepat tepat untuk kodifikasi dan evolusi informasi (menghasilkan peningkatan kompleksitas) sehingga orang bertanya-tanya bagaimana situasi yang luar biasa tidak mungkin seperti itu. muncul. Di mana beberapa melihat tangan ilahi, yang lain melihat tangan kita sendiri — yaitu, prinsip antropik, yang menyatakan bahwa hanya di alam semesta yang memungkinkan evolusi kita sendiri, kita akan berada di sini untuk mengajukan pertanyaan semacam itu. 7 Teori fisika mutakhir tentang banyak alam semesta berspekulasi bahwa alam semesta baru dibuat secara teratur, masing-masing dengan aturan uniknya sendiri,tetapi sebagian besar darinya akan mati dengan cepat atau terus berlanjut tanpa evolusi pola yang menarik (seperti yang diciptakan oleh biologi berbasis Bumi) karena aturan mereka tidak mendukung evolusi bentuk yang semakin kompleks. 8 Sulit membayangkan bagaimana kita bisa menguji teori-teori evolusi ini yang diterapkan pada kosmologi awal, tetapi jelas bahwa hukum fisika alam semesta kita tepat seperti yang mereka butuhkan untuk memungkinkan evolusi meningkatkan tingkat keteraturan dan kompleksitas 9
Epoch Dua: Biologi dan DNA. Pada zaman kedua, dimulai beberapa miliar tahun yang lalu, senyawa berbasis karbon menjadi semakin rumit sampai agregasi molekul yang kompleks membentuk mekanisme penggandaan diri, dan kehidupan bermula. Pada akhirnya, sistem biologis mengembangkan mekanisme digital (DNA) yang tepat untuk menyimpan informasi yang menggambarkan masyarakat molekul yang lebih besar. Molekul ini dan mesin pendukungnya dari kodon dan ribosom memungkinkan penyimpanan catatan eksperimen evolusi dari zaman kedua ini.
Epoch Tiga: Otak. Setiap zaman melanjutkan evolusi informasi melalui pergeseran paradigma ke tingkat "tipuan" lebih lanjut. (Artinya, evolusi menggunakan hasil dari satu zaman untuk menciptakan zaman berikutnya.) Misalnya, di zaman ketiga, evolusi yang dipandu oleh DNA menghasilkan organisme yang dapat mendeteksi informasi dengan organ inderanya sendiri dan memproses serta menyimpan informasi itu di otak mereka sendiri, dan sistem saraf. Ini dimungkinkan oleh mekanisme zaman kedua (DNA dan informasi epigenetik protein dan fragmen RNA yang mengontrol ekspresi gen), yang (secara tidak langsung) memungkinkan dan menentukan mekanisme pemrosesan informasi zaman ketiga (otak dan sistem saraf organisme). Zaman ketiga dimulai dengan kemampuan hewan purba untuk mengenali pola, yang masih menyumbang sebagian besar aktivitas di otak kita.10 Pada akhirnya, spesies kita sendiri mengembangkan kemampuan untuk menciptakan model mental abstrak dari dunia yang kita alami dan untuk merenungkan implikasi rasional dari model-model ini. Kami memiliki kemampuan untuk mendesain ulang dunia dalam pikiran kami sendiri dan untuk mewujudkan ide-ide ini menjadi tindakan.
Epoch Four: Teknologi. Menggabungkan anugerah pemikiran rasional dan abstrak dengan ibu jari berlawanan kita, spesies kita mengantar ke zaman keempat dan tingkat tipuan berikutnya: evolusi teknologi ciptaan manusia. Ini dimulai dengan mekanisme sederhana dan berkembang menjadi automata yang rumit (mesin mekanis otomatis). Pada akhirnya, dengan perangkat komputasi dan komunikasi yang canggih, teknologi itu sendiri mampu merasakan, menyimpan, dan mengevaluasi pola informasi yang rumit. Untuk membandingkan laju kemajuan evolusi biologis kecerdasan dengan evolusi teknologi, pertimbangkan bahwa mamalia paling maju telah menambahkan sekitar satu inci kubik materi otak setiap seratus ribu tahun, sedangkan kita secara kasar menggandakan kapasitas komputasi komputer setiap tahun. (lihat bab selanjutnya). Tentu saja, baik ukuran otak maupun kapasitas komputer bukanlah satu-satunya penentu kecerdasan, tetapi mereka memang mewakili faktor-faktor pendukung.
Jika kita menempatkan tonggak penting dari evolusi biologis dan perkembangan teknologi manusia pada grafik tunggal yang menggambarkan sumbu x (jumlah tahun yang lalu) dan sumbu y (waktu pergeseran paradigma) pada skala logaritmik, kita menemukan yang cukup lurus garis (percepatan berkelanjutan), dengan evolusi biologis yang mengarah langsung ke perkembangan yang diarahkan manusia.
Hitung Mundur ke Singularitas: Evolusi biologi dan teknologi manusia sama-sama menunjukkan percepatan yang terus-menerus, yang ditunjukkan oleh waktu yang lebih singkat menuju peristiwa berikutnya (dua miliar tahun dari asal mula kehidupan ke sel; empat belas tahun dari PC ke World Wide Web).
Pandangan linier evolusi: Versi gambar sebelumnya menggunakan data yang sama tetapi dengan skala linier untuk waktu sebelum sekarang, bukan yang logaritmik. Ini menunjukkan percepatan yang lebih dramatis, tetapi detailnya tidak terlihat. Dari perspektif linier, sebagian besar peristiwa penting baru saja terjadi "baru-baru ini".
Gambar di atas mencerminkan pandangan saya tentang perkembangan utama dalam sejarah biologi dan teknologi. Akan tetapi, perhatikan bahwa garis lurus, yang menunjukkan percepatan evolusi yang berkelanjutan, tidak bergantung pada pilihan peristiwa khusus saya. Banyak pengamat dan buku referensi telah menyusun daftar peristiwa penting dalam evolusi biologi dan teknologi, yang masing-masing memiliki keistimewaan tersendiri. Terlepas dari keragaman pendekatan, bagaimanapun, jika kita menggabungkan daftar dari berbagai sumber (misalnya, Encyclopaedia Britannica, Museum Sejarah Alam Amerika, "kalender kosmik" Carl Sagan, dan lain-lain), kami mengamati percepatan halus yang jelas terlihat sama. Plot berikut menggabungkan lima belas daftar peristiwa utama yang berbeda. 12 Karena pemikir yang berbeda menetapkan tanggal yang berbeda untuk peristiwa yang sama, dan daftar yang berbeda menyertakan peristiwa yang serupa atau tumpang tindih yang dipilih berdasarkan kriteria yang berbeda, kita melihat "penebalan" garis tren yang diharapkan karena "kebisingan" (varians statistik) dari data ini. Tren keseluruhan, bagaimanapun, sangat jelas.
Lima belas pandangan evolusi: Perubahan paradigma besar dalam sejarah dunia, seperti yang terlihat oleh lima belas daftar peristiwa kunci yang berbeda. Ada kecenderungan yang jelas dari percepatan halus melalui evolusi biologi dan kemudian teknologi.
Ahli teori fisika dan kompleksitas Theodore Modis menganalisis daftar ini dan menentukan dua puluh delapan kelompok peristiwa (yang disebut tonggak kanonik) dengan menggabungkan peristiwa identik, serupa, dan / atau terkait dari daftar yang berbeda. 13 Proses ini pada dasarnya menghilangkan "kebisingan" ( misalnya, variabilitas tanggal antar daftar) dari daftar, mengungkapkan lagi perkembangan yang sama:
Tonggak sejarah kanonis berdasarkan kelompok peristiwa dari tiga belas daftar.
Atribut yang tumbuh secara eksponensial dalam bagan ini adalah keteraturan dan kompleksitas, konsep yang akan kita bahas di bab berikutnya. Akselerasi ini cocok dengan pengamatan akal sehat kami. Satu miliar tahun yang lalu, tidak banyak yang terjadi selama satu juta tahun. Tetapi seperempat juta tahun yang lalu, peristiwa penting seperti evolusi spesies kita terjadi dalam kerangka waktu yang hanya seratus ribu tahun. Dalam teknologi, jika kita mundur lima puluh ribu tahun, tidak banyak yang terjadi selama periode seribu tahun. Namun di masa lalu, kita melihat paradigma baru, seperti World Wide Web, berkembang dari awal ke adopsi massal (artinya bahwa mereka digunakan oleh seperempat populasi di negara-negara maju) hanya dalam satu dekade.
Epoch Five: Penggabungan Teknologi Manusia dengan Kecerdasan Manusia.
Melihat beberapa dekade ke depan, Singularitas akan dimulai dengan zaman kelima. Ini akan dihasilkan dari penggabungan pengetahuan luas yang tertanam di otak kita sendiri dengan kapasitas, kecepatan, dan kemampuan berbagi pengetahuan yang jauh lebih besar dari teknologi kita. Zaman kelima akan memungkinkan peradaban manusia-mesin kita melampaui keterbatasan otak manusia yang hanya mencapai seratus triliun koneksi yang sangat lambat.14
Singularitas akan memungkinkan kita untuk mengatasi masalah manusia kuno dan sangat memperkuat kreativitas manusia. Kami akan melestarikan dan meningkatkan kecerdasan yang dianugerahkan evolusi kepada kami sambil mengatasi keterbatasan mendalam evolusi biologis. Tetapi Singularitas juga akan memperkuat kemampuan untuk bertindak berdasarkan kecenderungan destruktif kita, jadi cerita lengkapnya belum ditulis.
Epoch Enam: Semesta Terbangun.
Saya akan membahas topik ini di bab 6, di bawah tajuk “… tentang Takdir Cerdas dari Kosmos.” Sebagai buntut dari Singularitas, kecerdasan, yang berasal dari asal-usul biologisnya dalam otak manusia dan asal-usul teknologinya dalam kecerdasan manusia, akan mulai memenuhi materi dan energi di tengah-tengahnya. Ini akan mencapai ini dengan mengatur kembali materi dan energi untuk memberikan tingkat komputasi yang optimal (berdasarkan batas yang akan kita bahas di bab 3) untuk menyebar dari asalnya di Bumi.
Saat ini kami memahami kecepatan cahaya sebagai faktor pembatas dalam transfer informasi. Mengakali batas ini harus dianggap sangat spekulatif, tetapi ada petunjuk bahwa kendala ini mungkin dapat diatasi. 15 Bahkan jika ada penyimpangan yang tidak kentara, pada akhirnya kami akan memanfaatkan kemampuan superluminal ini. Apakah peradaban kita menanamkan seluruh alam semesta dengan kreativitas dan kecerdasannya dengan cepat atau lambat tergantung pada kekekalannya. Bagaimanapun juga, materi "bodoh" dan mekanisme alam semesta akan diubah menjadi bentuk kecerdasan yang sangat luhur, yang akan menjadi zaman keenam dalam evolusi pola informasi.
Ini adalah takdir terakhir dari Singularitas dan alam semesta.
Singularitas Sudah Dekat
Anda tahu, segalanya akan menjadi sangat berbeda! … Tidak, tidak, maksudku sangat berbeda!
—MARK MILLER (ILMU KOMPUTER) KE ERIC DREXLER, SEKITAR 1986
Apa akibat dari peristiwa ini? Ketika kecerdasan yang lebih besar dari manusia mendorong kemajuan, kemajuan itu akan jauh lebih cepat. Nyatanya, tampaknya tidak ada alasan mengapa kemajuan itu sendiri tidak melibatkan penciptaan entitas yang lebih cerdas lagi — dalam skala waktu yang masih lebih pendek. Analogi terbaik yang saya lihat adalah dengan evolusi masa lalu: Hewan dapat beradaptasi dengan masalah dan membuat penemuan, tetapi seringkali tidak lebih cepat daripada yang dapat dilakukan oleh seleksi alam — dunia bertindak sebagai simulatornya sendiri dalam kasus seleksi alam. Kita manusia memiliki kemampuan untuk menginternalisasi dunia dan melakukan "bagaimana jika" di kepala kita; kita dapat memecahkan banyak masalah ribuan kali lebih cepat daripada seleksi alam. Sekarang, dengan menciptakan sarana untuk menjalankan simulasi tersebut pada kecepatan yang jauh lebih tinggi,kita memasuki rezim yang sangat berbeda dari masa lalu manusia kita seperti kita manusia dari hewan yang lebih rendah. Dari sudut pandang manusia, perubahan ini akan membuang semua aturan sebelumnya, mungkin dalam sekejap mata, pelarian eksponensial di luar harapan kendali.
—VERNOR VINGE, “THE TECHNOLOGICAL SINGULARITY,” 1993
Biarlah mesin yang sangat cerdas didefinisikan sebagai mesin yang jauh melampaui semua aktivitas intelektual siapa pun, betapapun pintarnya. Karena desain mesin adalah salah satu dari aktivitas intelektual ini, mesin yang sangat cerdas dapat merancang mesin yang lebih baik; maka tidak diragukan lagi akan ada "ledakan kecerdasan", dan kecerdasan manusia akan tertinggal jauh di belakang. Jadi, mesin ultraintelligent pertama adalah penemuan terakhir yang dibutuhkan manusia.
—IRVING JOHN GOOD, “SPEKULASI MENGENAI MESIN ULTRAINTELLIGENT PERTAMA,” 1965
Untuk menempatkan konsep Singularitas ke dalam perspektif yang lebih jauh, mari kita telusuri sejarah kata itu sendiri. "Singularity" adalah kata dalam bahasa Inggris yang berarti peristiwa unik dengan implikasi tunggal. Kata tersebut diadopsi oleh ahli matematika untuk menunjukkan nilai yang melampaui batasan terbatas apa pun, seperti ledakan besaran yang terjadi saat membagi konstanta dengan angka yang semakin mendekati nol. Perhatikan, misalnya, fungsi sederhana y = 1 / x . Ketika nilai x mendekati nol, nilai fungsi ( y ) meledak menjadi nilai yang semakin besar.
Singularitas matematis: Ketika x mendekati nol (dari kanan ke kiri), 1 / x (atau y ) mendekati tak terhingga.
Fungsi matematis seperti itu tidak pernah benar-benar mencapai nilai tak hingga, karena membagi dengan nol secara matematis "tidak ditentukan" (tidak mungkin dihitung). Tetapi nilai y melebihi batas hingga yang mungkin (mendekati tak terhingga) saat pembagi x mendekati nol.
Bidang berikutnya yang mengadopsi kata itu adalah astrofisika. Jika sebuah bintang masif mengalami ledakan supernova, sisa-sisanya pada akhirnya runtuh ke titik yang tampaknya volume nol dan kepadatan tak terhingga, dan "singularitas" tercipta di pusatnya. Karena cahaya dianggap tidak dapat melepaskan diri dari bintang setelah mencapai kerapatan tak hingga ini, 16 ia disebut lubang hitam.17 Ini merupakan retakan pada struktur ruang dan waktu.
Satu teori berspekulasi bahwa alam semesta itu sendiri dimulai dengan Singularitas18 Menariknya, bagaimanapun, horizon peristiwa (permukaan) lubang hitam berukuran terbatas, dan gaya gravitasi hanya secara teoritis tak terhingga di pusat ukuran nol lubang hitam. Di lokasi mana pun yang sebenarnya bisa diukur, gaya-gaya itu terbatas, meskipun sangat besar.
Referensi pertama tentang Singularitas sebagai peristiwa yang mampu memecahkan struktur sejarah manusia adalah pernyataan John von Neumann yang dikutip di atas. Pada 1960-an, IJ Good menulis tentang "ledakan kecerdasan" yang dihasilkan dari mesin cerdas yang merancang generasi berikutnya tanpa campur tangan manusia. Vernor Vinge, seorang matematikawan dan ilmuwan komputer di San Diego State University, menulis tentang "singularitas teknologi" yang semakin mendekat dengan cepat dalam sebuah artikel untuk majalah Omni pada tahun 1983 dan dalam novel fiksi ilmiah, Marooned in Realtime , pada tahun 1986.19
Buku saya tahun 1989, The Age of Intelligent Machines, menyajikan masa depan yang tak terelakkan menuju mesin yang jauh melebihi kecerdasan manusia pada paruh pertama abad kedua puluh satu. 20 Buku Hans Moravec 1988 Mind Children sampai pada kesimpulan yang sama dengan menganalisis perkembangan robotika. 21 Pada tahun 1993 Vinge mempresentasikan makalah untuk simposium yang
diorganisir NASA yang menggambarkan Singularitas sebagai peristiwa yang akan datang yang terutama dihasilkan dari munculnya "entitas dengan kecerdasan lebih besar dari manusia," yang dilihat Vinge sebagai pertanda fenomena pelarian. 22 Buku saya 1999, The Age of Spiritual Machines: When Computers Exceed Human Intelligence, menggambarkan hubungan yang semakin intim antara kecerdasan biologis kita dan kecerdasan buatan yang kita ciptakan. 23 Buku Hans Moravec Robot: Mere Machine to Transcendent Mind, juga diterbitkan pada tahun 1999, menggambarkan robot tahun 2040-an sebagai "ahli waris evolusioner," mesin yang akan “tumbuh dari kita, mempelajari keterampilan kita, dan berbagi tujuan dan nilai kita,… anak-anak pikiran kita.” 24 Buku sarjana Australia Damien Broderick tahun 1997 dan 2001, keduanya berjudul The Spike, menganalisis dampak yang menyebar luas dari fase ekstrim akselerasi teknologi diantisipasi dalam beberapa dekade. 25 Dalam serangkaian tulisan yang ekstensif, John Smart menggambarkan Singularitas sebagai hasil yang tak terelakkan dari apa yang disebut kompresi “MEST” (materi, energi, ruang, dan waktu ).26
Dari sudut pandang saya, Singularitas memiliki banyak wajah. Ini mewakili fase pertumbuhan eksponensial yang hampir vertikal yang terjadi ketika kecepatannya begitu ekstrem sehingga teknologi tampak berkembang dengan kecepatan tak terbatas. Tentu saja, dari perspektif matematis, tidak ada diskontinuitas, tidak ada perpecahan, dan tingkat pertumbuhan tetap terbatas, meskipun luar biasa besar. Namun dari kerangka kerja kami yang saat ini terbatas, peristiwa yang akan segera terjadi ini tampaknya menjadi penghentian yang akut dan mendadak dalam kesinambungan kemajuan. Saya menekankan kata "saat ini" karena salah satu implikasi yang menonjol dari Singularitas adalah perubahan sifat kemampuan kita untuk memahami. Kami akan menjadi jauh lebih pintar saat kami bergabung dengan teknologi kami.
Bisakah laju kemajuan teknologi terus meningkat tanpa batas? Bukankah ada titik di mana manusia tidak dapat berpikir cukup cepat untuk mengikuti? Untuk manusia yang tidak ditingkatkan, jelas begitu. Tapi apa yang akan dicapai oleh 1.000 ilmuwan, masing-masing 1.000 kali lebih cerdas daripada ilmuwan manusia saat ini, dan masing-masing bekerja 1.000 kali lebih cepat daripada manusia kontemporer (karena pemrosesan informasi di otak nonbiologis utamanya lebih cepat)? Satu tahun kronologis akan seperti satu milenium bagi mereka.27 Apa yang akan mereka hasilkan?
Nah, untuk satu hal, mereka akan datang dengan teknologi untuk menjadi lebih cerdas (karena kecerdasan mereka tidak lagi dalam kapasitas tetap). Mereka akan mengubah proses berpikir mereka sendiri untuk memungkinkan mereka berpikir lebih cepat. Ketika para ilmuwan menjadi jutaan kali lebih cerdas dan beroperasi satu juta kali lebih cepat, satu jam akan menghasilkan kemajuan selama satu abad (dalam istilah sekarang).
Singularitas melibatkan prinsip-prinsip berikut, yang akan saya dokumentasikan, dikembangkan, dianalisis, dan direnungkan di sepanjang sisa buku ini:
• Tingkat pergeseran paradigma (inovasi teknis) semakin cepat, sekarang berlipat ganda setiap dekade.28
• Kekuatan (kinerja harga, kecepatan, kapasitas, dan bandwidth) teknologi informasi tumbuh secara eksponensial pada kecepatan yang bahkan lebih cepat, sekarang berlipat ganda setiap tahun. 29 Prinsip ini berlaku untuk berbagai ukuran, termasuk jumlah pengetahuan manusia.
• Untuk teknologi informasi, ada tingkat pertumbuhan eksponensial kedua: yaitu, pertumbuhan eksponensial dalam tingkat pertumbuhan eksponensial (eksponen). Alasannya: ketika teknologi menjadi lebih hemat biaya, lebih banyak sumber daya dikerahkan untuk kemajuannya, sehingga laju pertumbuhan eksponensial meningkat seiring waktu. Misalnya, industri komputer di tahun 1940-an terdiri dari beberapa proyek yang sekarang penting secara historis. Saat ini total pendapatan dalam industri komputer lebih dari satu triliun dolar, sehingga anggaran penelitian dan pengembangan lebih tinggi.
• Pemindaian otak manusia adalah salah satu dari teknologi yang meningkat secara eksponensial ini. Seperti yang akan saya tunjukkan di Bab 4, resolusi temporal dan spasial serta bandwidth pemindaian otak berlipat ganda setiap tahun. Kami baru saja mendapatkan alat yang cukup untuk memulai rekayasa balik (decoding) yang serius dari prinsip-prinsip operasi otak manusia. Kita sudah memiliki model dan simulasi yang mengesankan dari beberapa lusin wilayah otak. Dalam dua dekade, kita akan memiliki pemahaman terperinci tentang bagaimana semua wilayah otak manusia bekerja.
• Kami akan memiliki perangkat keras yang diperlukan untuk meniru kecerdasan manusia dengan superkomputer pada akhir dekade ini dan dengan perangkat berukuran komputer pribadi pada akhir dekade berikutnya. Kami akan memiliki model perangkat lunak kecerdasan manusia yang efektif pada pertengahan 2020-an.
• Dengan perangkat keras dan perangkat lunak yang diperlukan untuk sepenuhnya meniru kecerdasan manusia, kita dapat mengharapkan komputer lulus uji Turing, yang menunjukkan kecerdasan yang tidak dapat dibedakan dari kecerdasan manusia biologis, pada akhir tahun 2020. 30
• Ketika mereka mencapai tingkat perkembangan ini, komputer akan dapat menggabungkan kekuatan tradisional dari kecerdasan manusia dengan kekuatan kecerdasan mesin.
• Kekuatan tradisional kecerdasan manusia mencakup kemampuan yang luar biasa untuk mengenali pola. Sifat otak manusia yang paralel dan mengatur dirinya sendiri secara masif merupakan arsitektur yang ideal untuk mengenali pola yang didasarkan pada sifat-sifat yang halus dan tidak berubah. Manusia juga mampu mempelajari pengetahuan baru dengan menerapkan wawasan dan menyimpulkan prinsip-prinsip dari pengalaman, termasuk informasi yang dikumpulkan melalui bahasa. Kemampuan kunci dari kecerdasan manusia adalah kemampuan untuk menciptakan model mental dari realitas dan untuk melakukan eksperimen mental "bagaimana-jika" dengan berbagai aspek model ini.
• Kekuatan tradisional dari kecerdasan mesin mencakup kemampuan untuk mengingat miliaran fakta dengan tepat dan langsung mengingatnya.
• Keuntungan lain dari kecerdasan nonbiologis adalah bahwa sekali suatu keterampilan dikuasai oleh mesin, ia dapat dilakukan berulang kali dengan kecepatan tinggi, dengan akurasi yang optimal, dan tanpa melelahkan.
• Mungkin yang paling penting, mesin dapat membagikan pengetahuan mereka dengan kecepatan yang sangat tinggi, dibandingkan dengan kecepatan yang sangat lambat dalam berbagi pengetahuan melalui bahasa oleh manusia.
• Kecerdasan nonbiologis akan dapat mengunduh keterampilan dan pengetahuan dari mesin lain, pada akhirnya juga dari manusia.
• Mesin akan memproses dan mengalihkan sinyal dengan kecepatan mendekati kecepatan cahaya (sekitar tiga ratus juta meter per detik), dibandingkan dengan sekitar seratus meter per detik untuk sinyal elektrokimia yang digunakan dalam otak biologis mamalia.31 Rasio kecepatan ini setidaknya tiga juta banding satu.
• Mesin akan memiliki akses melalui Internet ke semua pengetahuan tentang peradaban manusia-mesin kita dan akan mampu menguasai semua pengetahuan ini.
• Mesin dapat mengumpulkan sumber daya, kecerdasan, dan ingatannya. Dua mesin — atau satu juta mesin — dapat bergabung menjadi satu dan kemudian menjadi terpisah lagi. Beberapa mesin dapat melakukan keduanya sekaligus: menjadi satu dan terpisah secara bersamaan. Manusia menyebutnya jatuh cinta, tetapi kemampuan biologis kita untuk melakukan ini cepat berlalu dan tidak dapat diandalkan.
• Kombinasi dari kekuatan tradisional ini (kemampuan pengenalan pola kecerdasan biologis manusia dan kecepatan, kapasitas dan akurasi memori, serta pengetahuan dan kemampuan berbagi keterampilan dari kecerdasan nonbiologis) akan menjadi luar biasa.
• Kecerdasan mesin akan memiliki kebebasan penuh dalam desain dan arsitektur (yaitu, mereka tidak akan dibatasi oleh batasan biologis, seperti kecepatan peralihan yang lambat dari koneksi interneuronal kita atau ukuran tengkorak yang tetap) serta kinerja yang konsisten setiap saat.
• Setelah kecerdasan nonbiologis menggabungkan kekuatan tradisional manusia dan mesin, bagian nonbiologis dari kecerdasan peradaban kita akan terus mendapatkan keuntungan dari pertumbuhan eksponensial ganda dari kinerja harga, kecepatan, dan kapasitas mesin.
• Setelah mesin mencapai kemampuan untuk merancang dan merekayasa teknologi seperti yang dilakukan manusia, hanya pada kecepatan dan kapasitas yang jauh lebih tinggi, mereka akan memiliki akses ke desain mereka sendiri (kode sumber) dan kemampuan untuk memanipulasinya. Manusia sekarang mencapai sesuatu yang serupa melalui bioteknologi (mengubah proses genetik dan informasi lain yang mendasari biologi kita), tetapi dengan cara yang jauh lebih lambat dan jauh lebih terbatas daripada yang dapat dicapai mesin dengan memodifikasi program mereka sendiri.
• Biologi memiliki keterbatasan yang melekat. Misalnya, setiap organisme hidup harus dibangun dari protein yang dilipat dari untaian asam amino satu dimensi. Mekanisme berbasis protein kurang dalam kekuatan dan kecepatan. Kita akan mampu merekayasa ulang semua organ dan sistem dalam tubuh dan otak biologis kita agar jauh lebih mampu.
• Seperti yang akan kita bahas di Bab 4, kecerdasan manusia memang memiliki sejumlah plastisitas (kemampuan untuk mengubah strukturnya), lebih dari yang dipahami sebelumnya. Namun arsitektur otak manusia masih sangat terbatas. Misalnya, hanya ada ruang untuk sekitar seratus triliun koneksi interneuronal di setiap tengkorak kita. Perubahan genetik kunci yang memungkinkan kemampuan kognitif manusia lebih besar dibandingkan dengan nenek moyang primata kita adalah perkembangan korteks serebral yang lebih besar serta perkembangan volume jaringan materi abu-abu yang meningkat di wilayah tertentu di otak. 32 Namun, perubahan terjadi pada skala waktu yang sangat lambat dari evolusi biologis dan masih melibatkan batas yang melekat pada kapasitas otak.Mesin akan dapat merumuskan ulang desainnya sendiri dan menambah kapasitasnya sendiri tanpa batas. Dengan menggunakan desain berbasis nanoteknologi, kemampuan mereka akan jauh lebih besar daripada otak biologis tanpa peningkatan ukuran atau konsumsi energi.
• Mesin juga akan mendapatkan keuntungan dari penggunaan sirkuit molekul tiga dimensi yang sangat cepat. Sirkuit elektronik saat ini lebih dari satu juta kali lebih cepat daripada sakelar elektrokimia yang digunakan dalam otak mamalia. Sirkuit molekuler masa depan akan didasarkan pada perangkat seperti tabung nano, yang merupakan silinder kecil atom karbon yang mengukur sekitar sepuluh atom dan lima ratus kali lebih kecil dari transistor berbasis silikon saat ini. Karena sinyal memiliki jarak tempuh yang lebih kecil, mereka juga akan dapat beroperasi pada kecepatan terahertz (triliunan operasi per detik) dibandingkan dengan kecepatan beberapa gigahertz (miliar operasi per detik) dari chip saat ini.
• Laju perubahan teknologi tidak akan terbatas pada kecepatan mental manusia. Kecerdasan mesin akan meningkatkan kemampuannya sendiri dalam siklus umpan balik yang tidak dapat diikuti oleh kecerdasan manusia tanpa bantuan.
• Siklus kecerdasan mesin ini yang secara berulang meningkatkan desainnya sendiri akan menjadi lebih cepat dan lebih cepat. Inilah kenyataannya persis seperti yang diprediksi oleh rumus untuk percepatan lanjutan laju pergeseran paradigma. Salah satu keberatan yang diajukan terhadap kelanjutan percepatan pergeseran paradigma adalah bahwa pada akhirnya hal tersebut menjadi terlalu cepat bagi manusia untuk mengikutinya, sehingga menurut pendapatnya, hal tersebut tidak dapat terjadi. Namun, pergeseran dari kecerdasan biologis ke nonbiologis akan memungkinkan tren ini terus berlanjut.
• Seiring dengan siklus peningkatan yang semakin cepat dari kecerdasan nonbiologis, nanoteknologi akan memungkinkan manipulasi realitas fisik pada tingkat molekuler.
• Nanoteknologi akan memungkinkan desain nanobots: robot yang dirancang pada tingkat molekuler, diukur dalam mikron (sepersejuta meter), seperti "respirosit" (sel darah merah mekanis). 33 Nanobots akan memiliki banyak sekali peran dalam tubuh manusia, termasuk membalikkan penuaan manusia (sejauh tugas ini belum diselesaikan melalui bioteknologi, seperti rekayasa genetika).
• Nanobots akan berinteraksi dengan neuron biologis untuk memperluas pengalaman manusia dengan menciptakan realitas virtual dari dalam sistem saraf.
• Miliaran robot nano di kapiler otak juga akan sangat memperluas kecerdasan manusia.
• Begitu kecerdasan nonbiologis mendapat pijakan di otak manusia (ini sudah dimulai dengan implan saraf terkomputerisasi), kecerdasan mesin di otak kita akan tumbuh secara eksponensial (seperti yang telah terjadi selama ini), setidaknya dua kali lipat kekuatannya setiap tahun. Sebaliknya, kecerdasan biologis secara efektif memiliki kapasitas tetap. Jadi, bagian nonbiologis dari kecerdasan kita pada akhirnya akan mendominasi.
• Nanobots juga akan meningkatkan lingkungan dengan membalikkan polusi dari industrialisasi sebelumnya.
• Nanobots yang disebut foglet yang dapat memanipulasi gambar dan gelombang suara akan membawa kualitas morphing dari virtual reality ke dunia nyata. 34
• Kemampuan manusia untuk memahami dan merespon emosi secara tepat (disebut juga kecerdasan emosional) merupakan salah satu bentuk kecerdasan manusia yang akan dipahami dan dikuasai oleh kecerdasan mesin di masa depan. Beberapa respons emosional kita disetel untuk mengoptimalkan kecerdasan kita dalam konteks tubuh biologis kita yang terbatas dan lemah. Kecerdasan mesin di masa depan juga akan memiliki "tubuh" (misalnya, benda virtual dalam realitas maya, atau proyeksi dalam realitas nyata menggunakan foglet) untuk berinteraksi dengan dunia, tetapi benda rekayasa nano ini akan jauh lebih mampu dan tahan lama daripada tubuh biologis manusia. Dengan demikian, beberapa tanggapan "emosional" dari kecerdasan mesin di masa depan akan didesain ulang untuk mencerminkan kemampuan fisik mereka yang jauh lebih baik 35
• Saat realitas virtual dari dalam sistem saraf menjadi kompetitif dengan realitas nyata dalam hal resolusi dan kepercayaan, pengalaman kita akan semakin terjadi di lingkungan virtual.
• Dalam realitas maya, kita bisa menjadi orang yang berbeda baik secara fisik maupun emosional. Faktanya, orang lain (seperti pasangan romantis Anda) akan dapat memilih tubuh yang berbeda untuk Anda daripada yang mungkin Anda pilih untuk diri Anda sendiri (dan sebaliknya).
• Hukum percepatan pengembalian akan berlanjut sampai kecerdasan nonbiologis mendekati "menjenuhkan" materi dan energi di sekitar alam semesta kita dengan kecerdasan manusia-mesin kita. Dengan menjenuhkan, maksud saya memanfaatkan materi dan pola energi untuk komputasi ke tingkat yang optimal, berdasarkan pemahaman kita tentang fisika komputasi. Saat kita mendekati batas ini, kecerdasan peradaban kita akan melanjutkan perluasan kemampuannya dengan menyebar keluar ke seluruh alam semesta. Kecepatan perluasan ini akan dengan cepat mencapai kecepatan maksimum di mana informasi dapat bergerak.
• Pada akhirnya, seluruh alam semesta akan dipenuhi dengan kecerdasan kita. Ini adalah takdir alam semesta. (Lihat bab 6.) Kita akan menentukan nasib kita sendiri daripada membuatnya ditentukan oleh gaya "bodoh", sederhana, seperti mesin yang mengatur mekanika angkasa.
• Lamanya waktu yang dibutuhkan alam semesta untuk menjadi cerdas sejauh ini bergantung pada apakah kecepatan cahaya merupakan batas yang tidak dapat diubah atau tidak. Ada indikasi kemungkinan pengecualian (atau pengelakan) halus untuk batas ini, yang, jika ada, kecerdasan luas peradaban kita di masa mendatang akan dapat dieksploitasi.
Ini, kemudian, adalah Singularitas. Beberapa orang akan mengatakan bahwa kita tidak dapat memahaminya, setidaknya dengan tingkat pemahaman kita saat ini. Oleh karena itu, kita tidak dapat melihat melewati cakrawala peristiwa dan memahami sepenuhnya apa yang ada di baliknya. Inilah salah satu alasan kami menyebut transformasi ini Singularitas.
Secara pribadi saya merasa sulit, meskipun bukan tidak mungkin, untuk melihat melampaui cakrawala peristiwa ini, bahkan setelah memikirkan implikasinya selama beberapa dekade. Namun, pandangan saya adalah bahwa, terlepas dari keterbatasan pemikiran kita yang mendalam, kita memiliki kekuatan abstraksi yang cukup untuk membuat pernyataan yang bermakna tentang sifat kehidupan setelah Singularitas. Yang terpenting, kecerdasan yang akan muncul akan terus merepresentasikan peradaban manusia yang sudah menjadi peradaban manusia-mesin. Dengan kata lain, mesin masa depan akan menjadi manusia, meskipun tidak biologis. Ini akan menjadi langkah evolusi berikutnya, pergeseran paradigma tingkat tinggi berikutnya, tingkat tipuan berikutnya. Sebagian besar kecerdasan peradaban kita pada akhirnya bersifat nonbiologis. Pada akhir abad ini,ini akan menjadi triliunan triliunan kali lebih kuat daripada kecerdasan manusia. 36 Namun, untuk mengatasi keprihatinan yang sering diungkapkan, ini tidak berarti akhir dari kecerdasan biologis, bahkan jika ia terlempar dari tempat kedudukan superioritas evolusionernya. Bahkan bentuk nonbiologis akan diturunkan dari rancangan biologis. Peradaban kita akan tetap manusia — memang, dalam banyak hal ia akan lebih menjadi contoh dari apa yang kita anggap sebagai manusia daripada saat ini, meskipun pemahaman kita tentang istilah tersebut akan melampaui asal-usul biologisnya.dalam banyak hal ini akan menjadi contoh yang lebih baik dari apa yang kita anggap sebagai manusia daripada saat ini, meskipun pemahaman kita tentang istilah tersebut akan melampaui asal-usul biologisnya.dalam banyak hal ini akan menjadi contoh yang lebih baik dari apa yang kita anggap sebagai manusia daripada saat ini, meskipun pemahaman kita tentang istilah tersebut akan melampaui asal-usul biologisnya.
Banyak pengamat telah menyatakan kekhawatirannya atas kemunculan bentuk-bentuk kecerdasan nonbiologis yang lebih unggul dari kecerdasan manusia (masalah yang akan kita bahas lebih lanjut di Bab 9). Potensi untuk menambah kecerdasan kita sendiri melalui hubungan yang intim dengan substrat berpikir lain tidak serta merta menghilangkan kekhawatiran, karena beberapa orang telah menyatakan keinginan untuk tetap "tidak berkembang" sementara pada saat yang sama menjaga tempat mereka di puncak rantai makanan intelektual. Dari perspektif kemanusiaan biologis, kecerdasan manusia super ini akan tampak seperti hamba kita yang setia, memuaskan kebutuhan dan keinginan kita. Tetapi memenuhi keinginan warisan biologis yang dihormati hanya akan menempati sebagian kecil dari kekuatan intelektual yang akan dibawa oleh Singularity.
Deskripsi
"Mengejutkan dalam ruang lingkup dan keberanian." —Janet Maslin, The New York Times
"Dengan artistik membayangkan dunia yang menakjubkan dan lebih baik." - Los Angeles Times
"Rumit, cerdas, dan persuasif". - The Boston Globe
“Senang membaca.” - The Wall Street Journal
Salah satu Buku Musim Gugur Terbaik CBS News tahun 2005 • Di antara Buku Nonfiksi Terbaik St Louis
Post-Dispatch tahun 2005 • Salah satu Buku Sains Terbaik Amazon.com tahun 2005
Pandangan radikal dan optimis tentang masa depan perkembangan manusia dari penulis buku laris How to Create a Mind and The Singularity is Nearer yang Bill Gates sebut sebagai "orang terbaik yang saya kenal dalam memprediksi masa depan kecerdasan buatan"
Selama lebih dari tiga dekade, Ray Kurzweil telah menjadi salah satu pendukung peran teknologi yang paling dihormati dan provokatif di masa depan kita. Dalam klasiknya The Age of Spiritual Machines, dia berpendapat bahwa komputer akan segera menyaingi berbagai kecerdasan manusia yang terbaik. Sekarang dia memeriksa langkah selanjutnya dalam proses evolusi yang tak terhindarkan ini: penyatuan manusia dan mesin, di mana pengetahuan dan keterampilan yang tertanam di otak kita akan digabungkan dengan kapasitas, kecepatan, dan kemampuan berbagi pengetahuan yang jauh lebih besar dari ciptaan kita.
Ulasan
“Siapa pun dapat memahami gagasan utama Tuan Kurzweil: bahwa pengetahuan teknologi umat manusia telah berkembang pesat, dengan prospek masa depan yang memusingkan. Dasar-dasarnya diungkapkan dengan jelas. Tetapi bagi mereka yang lebih berpengetahuan dan ingin tahu, penulis memperdebatkan kasusnya dengan detail yang menarik. . . . Singularity Is Near mencengangkan dalam cakupan dan keberaniannya."
—Janet Maslin, The New York Times
“Dipenuhi dengan spekulasi yang berlandaskan ilmiah dan imajinatif. . . . Singularity Is Near layak dibaca hanya karena kekayaan informasinya, semua disajikan dengan gamblang. . . . [Itu] sebuah buku penting. Tidak semua yang diprediksi Kurzweil akan terjadi, tetapi banyak yang akan terjadi, dan bahkan jika Anda tidak setuju dengan semua yang dia katakan, itu semua perlu diperhatikan. ”
- The Philadelphia Inquirer
“[Sebuah] pandangan mendalam yang menggembirakan dan menakutkan tentang tujuan kita sebagai spesies. . . . Tuan Kurzweil adalah ilmuwan dan futuris yang brilian, dan dia membuat kasus yang menarik dan, memang, sangat mengharukan untuk pandangannya tentang masa depan."
- The New York Sun
"Menarik."
- Berita San Jose Mercury
“Kurzweil menghubungkan proyeksi kenaikan kecerdasan buatan ke masa depan proses evolusi itu sendiri. Hasilnya menakutkan dan mencerahkan. . . . Singularity Is Near adalah sejenis peta ensiklopedis dari apa yang pernah disebut Bill Gates sebagai 'jalan di depan.' "
- The Oregonian
" Visi yang bermata jernih dan tajam tentang masa depan yang tidak terlalu jauh "
- Matahari Baltimore
“Buku ini menawarkan tiga hal yang akan membuatnya menjadi dokumen penting. 1) Ini menjadi perantara ide baru, tidak dikenal secara luas, 2) Ide itu sebesar yang bisa Anda dapatkan: Singularitas — semua perubahan dalam jutaan tahun terakhir akan digantikan oleh perubahan dalam lima menit ke depan, dan 3 ) Ini adalah ide yang menuntut tanggapan yang terinformasi. Klaim buku tersebut begitu dicatat, didokumentasikan, dibuat grafiknya, diperdebatkan, dan masuk akal dalam detail kecil, sehingga membutuhkan tanggapan yang sama. Namun klaimnya sangat keterlaluan sehingga jika benar, itu berarti. . . baik. . . akhir dunia seperti yang kita kenal, dan awal utopia. Ray Kurzweil telah mengambil semua untaian meme Singularity yang beredar dalam beberapa dekade terakhir dan telah menyatukannya menjadi satu buku besar yang telah dipaku di pintu depan kami. Saya menduga ini akan menjadi salah satu buku yang paling banyak dikutip pada dekade ini.Seperti buku Paul Ehrlich tahun 1972 yang mengecewakan Population Bomb, fan or foe, it's the wave at episentrum yang harus Anda mulai. "
—Kevin Kelly, pendiri Wired
“Benar-benar di luar sana. Sangat menyenangkan. ”
—Businessweek.com
“Visi utopis yang menakjubkan tentang masa depan yang akan datang saat kecerdasan mesin melampaui otak biologis dan seperti apa bentuknya saat itu terjadi. . . . Mudah didekati dan menarik. ”
—Blog tidak resmi Microsoft
“Salah satu pemikir terpenting di zaman kita, Kurzweil telah menindaklanjuti karya-karyanya sebelumnya. . . dengan karya yang luar biasa luasnya dan cakupannya yang berani. "
—Newmediamusings.com
“Gambaran menarik tentang masa depan yang masuk akal.”
- Ulasan Kirkus
“Kurzweil adalah ilmuwan sejati — seorang yang berpikiran besar pada saat itu. . . . Apa yang menarik bukanlah sejauh mana visi Kurzweil yang kuat dan kokoh gagal meyakinkan — mengingat cakupan proyeksinya, itu tidak bisa dihindari — tetapi sejauh mana hal itu tampaknya benar-benar masuk akal.”
- Publishers Weekly (ulasan berbintang)
“[T] sepanjang tur ini menunjukkan kekuatan optimisme teknologi yang tak terbatas, seseorang terkesan oleh integritas intelektual yang teguh dari pengarang. . . . Jika Anda tertarik pada evolusi teknologi di abad ini dan konsekuensinya bagi manusia yang menciptakannya, tentu buku ini harus Anda baca.”
—John Walker, penemu Autodesk, di Fourmilab Change Log
“Ray Kurzweil adalah orang terbaik yang saya kenal dalam memprediksi masa depan kecerdasan buatan. Buku barunya yang menarik membayangkan masa depan di mana teknologi informasi telah berkembang begitu jauh dan cepat sehingga memungkinkan umat manusia untuk melampaui batasan biologisnya — mengubah hidup kita dengan cara yang belum dapat kita bayangkan.”
—Bill Gates
“Jika Anda pernah bertanya-tanya tentang sifat dan dampak dari diskontinuitas mendalam berikutnya yang secara fundamental akan mengubah cara kita hidup, bekerja, dan memandang dunia kita, bacalah buku ini. Singularitas Kurzweil adalah tur de force, membayangkan hal yang tak terbayangkan dan dengan fasih mengeksplorasi peristiwa mengganggu yang akan datang yang akan mengubah perspektif fundamental kita seperti halnya listrik dan komputer.”
—Dean Kamen, penerima National Medal of Technology, fisikawan, dan penemu pompa insulin pertama yang dapat dikenakan, mesin dialisis portabel HomeChoice, Sistem Mobilitas IBOT, dan Segway Human Transporter
“Salah satu praktisi AI terkemuka kami, Ray Kurzweil, sekali lagi menciptakan buku yang 'harus dibaca' bagi siapa pun yang tertarik dengan masa depan sains, dampak sosial teknologi, dan masa depan spesies kita. Bukunya yang menggugah pikiran membayangkan masa depan di mana kita melampaui batasan biologis kita, sambil membuat kasus yang meyakinkan bahwa peradaban manusia dengan kemampuan manusia super lebih dekat daripada yang disadari kebanyakan orang."
—Raj Reddy, direktur pendiri Institut Robotika di Universitas Carnegie Mellon dan penerima Turing Award dari Association for Computing Machinery
“Buku optimis Ray layak dibaca dan ditanggapi dengan bijaksana. Bagi mereka seperti saya yang pandangannya berbeda dari Ray tentang keseimbangan antara janji dan bahaya, Singularity Is Near adalah seruan yang jelas untuk dialog berkelanjutan guna mengatasi masalah yang lebih besar yang timbul dari kemungkinan yang semakin cepat ini. ”
—Bill Joy, salah satu pendiri dan mantan kepala ilmuwan, Sun Microsystems
tentang Penulis
Ray Kurzweil adalah salah satu penemu, pemikir, dan futuris terkemuka dunia, dengan rekam jejak dua puluh tahun prediksi yang akurat. Disebut "si jenius yang gelisah" oleh The Wall Street Journal dan "mesin pemikir terhebat" oleh majalah Forbes, Kurzweil terpilih sebagai salah satu pengusaha top oleh Inc. majalah, yang menggambarkannya sebagai "pewaris sah Thomas Edison." PBS memilihnya sebagai salah satu dari "enam belas revolusioner yang membuat Amerika," bersama dengan penemu lain selama dua abad terakhir. Penerima penghargaan National Inventors Hall of Fame dan penerima National Medal of Technology, Lemelson-MIT Prize (penghargaan terbesar di dunia untuk inovasi), tiga belas gelar doktor kehormatan, dan penghargaan dari tiga presiden AS, dia adalah penulis dari lima lainnya buku: Fantastic Voyage: Live Long Enough to Live Forever (ditulis bersama Terry Grossman, MD), The Age of Spiritual Machines, The 10% Solution for a Healthy Life , and The Age of Intelligent Machines, dan How to Create a Mind.
AOS
Posted by aos
Email ThisBlogThis!Share to TwitterShare to FacebookShare to Pinterest
No comments:
Post a Comment
Newer Post Older Post Home
Subscribe to: Post Comments (Atom)
Follow @7_AOS
salamkasih
“…Baik dan Buruk tidak memiliki inti pada dirinya sendiri… Suci dan Tidak Suci adalah kata-kata kosong…Sebelum semuanya, yang ada hanya ketenangan dan cahaya… Musim hujan datang, air jatuh dari langit dengan sendirinya…” #Zen
Blog ini didedikasikan untuk mewadahi buah pikir dan hasil olah batin para penulis. Sebuah upaya untuk memahami hidup dan realitas dengan cara yang sublim dan bermakna. Ia memadukan nalar, rasa, dan jiwa dalam denyut nadi semesta. Semacam spiritualitas. Kesediaan untuk dengan rendah hati menyerap berbagai tanda dan penanda setiap gerak kehidupan.
Spiritualitas adalalah pengalaman pada domain kesadaran di mana kita mengalami universalitas kita.
Spiritualitas adalah kendaraan untuk memahami alam raya melalui segenap kesadaran. Ia menghadirkan kepekaan akal, hati, dan nurani dalam setiap detak jantung dan tarikan nafas. Merayakan ikhtiar menembus batas realitas. Melalui blog ini, upaya itu menemukan ruang ekspresinya. Selamat membaca!
jaringan
AOSFaceBook
AOS&Partner
Blog Archive
► 2012 (455)
► April (224)
► May (81)
► June (3)
► July (1)
► August (21)
► September (1)
► October (76)
► November (38)
► December (10)
► 2013 (5)
► January (1)
► April (1)
► September (3)
► 2016 (44)
► August (1)
► September (6)
► October (5)
► November (10)
► December (22)
► 2017 (23)
► January (9)
► February (3)
► March (2)
► May (1)
► August (7)
► September (1)
► 2018 (101)
► May (17)
► June (38)
► July (9)
► August (3)
► September (6)
► October (8)
► November (20)
► 2019 (104)
► July (3)
► August (75)
► September (20)
► November (2)
► December (4)
► 2020 (12)
► April (1)
► May (4)
► September (5)
► November (2)
▼ 2021 (15)
► February (1)
▼ April (10)
Apakah Sains itu Agama?
Teori Kemunculan Islam dan Kristen
PENGANTAR TEORI AKHIR
Jared Diamond: Bagaimana COVID-19 dapat mengubah d...
The Great Unknown
Life 3.0 Tiga Tahap Kehidupan
Ulasan Life 3.0 oleh Max Tegmark - kami mengabaika...
Daya Tarik Keabadian: Awal, Akhir, dan Sesudahnya
THE SINGULARITY IS NEAR: When Humans Transcend Bio...
SINGULARITAS SUDAH DEKAT: Ketika Manusia Melampaui...
► May (4)
Entri Populer
Kosmologi Filsafat
Ruang Lingkup Kosmologi Filsafat Kosmologi berasal dari kata Yunani “kosmos” dan “logos”. “Kosmos” berarti susunan, atau ketersusunan y...
Dimensi Ke 11 Menembus Alam Semesta
Perkembangan ilmu pengetahuan memprediksikan bahwa alam semesta memiliki lebih dari tiga ruang dimensi , yang disebut Dimensi Ke 11 Teor...
Rumus Semesta atau Theory of Everything
Ini adalah suatu dalil universal yang menjelaskan keseluruhan jagad raya. Mulai dari partikel terkecil sampai bintang terbesar. Bagaimana ...
Kecerdasan Spiritual Danah Zohar Sebuah telaah kritis tentang SQ
Buku Danah Zohar telah terbit lagi. Buku itu berjudul sangat bombastis SQ, Spiritual Intelligence, the Ultimate Intelligence (Bloomsbury...
Fisika Kuantum Pengaruhi Kekuatan Pikiran
Dalam fisika kuantum, energi tidak memiliki bentuk dan kekuatan pikiran manusia membentuknya ketika mengamati objek. Jika Anda dapat meli...
PENEGAKAN HAM DI INDONESIA : Antara Mengadili dan Memaafkan
Diskursus mengenai penegakan hukum dan keadilan merupakan masalah besar di negara-negara yang mengalami transisi dari otoritarianisme ke de...
Penjelasan Tentang Teori Fisika Kuantum
Teori kuantumWheeler sebenarnya sudah muncul sejak pasca Perang Dunia II, digagas oleh fisikawan John A. Wheeler. Kalo kita bicara tent...
Cinta Ibnu Arabi Kepada Perempuan
Buku Tarjuman al Asywaq Buku Tarjuman al Asywaq (Tafsir Kerinduan) berisi kumpulan (kompilasi) puisi dengan komposisi notasi yang beraga...
Kebangkitan Besar Manusia
Kryon yang disalurkan oleh David Brown Salam sayang, saya adalah Kryon Layanan Magnetik. Ini adalah hari yang luar biasa untuk berada ...
Ether, Energi Misteri Alam Semesta
Ada beberapa cara berbeda untuk menunjukkan bahwa kita dikelilingi oleh udara tapi tidak menyadari bahwa kita hidup di dasar ‘lautan e...


content:
Indecent Proposal adalah film drama Amerika tahun 1993 yang berdasarkan pada novel dengan judul yang sama oleh Jack Engelhard. Yang mana hubungan pasangan yang sudah menikah menjadi kacau oleh tawaran satu juta dolar dari orang asing untuk istri menghabiskan malam bersamanya. Film dengan sutradara Adrian Lyne dan pemerannya adalah Robert Redford, Demi Moore, dan Woody Harrelson. Film ini sukses box-office, meskipun sebagian besar mendapatkan ulasan negatif dari para kritikus, meraup hampir $ 267 juta pada seluruh dunia dengan anggaran $ 38 juta. David dan Diana Murphy menikah kekasih SMA, tinggal berada California. Sedangkan sang istri bekerja sebagai agen real estate, sementara David berharap dapat memantapkannya sebagai arsitek dengan mendesain rumah impian mereka. Pasangan itu menginvestasikan semua yang mereka miliki dalam proyek David.
Ia membeli properti tepi pantai pada Santa Monica dan memulai konstruksi, tetapi resesi membuat ia tanpa rumah untuk menjual dan David tanpa pekerjaan. Karena sangat membutuhkan $ 50.000 untuk menyelamatkan tanah mereka agar tidak pindah tangan. Mereka pergi ke Las Vegas, bertekad untuk memenangkan uang tersebut. Pada kasino, Diana menarik perhatian miliarder John Gage, sementara David memenangkan lebih dari $ 25.000 dengan dadu. Bersenang-senang dengan kemenangan mereka, Ia meyakinkan David bahwa ia mencintainya terlepas dari uangnya. Keesokan harinya, mereka kehilangan segalanya pada roulette. Dan meninggalkan kasino, mereka melihat kerumunan berkumpul untuk menonton Gage bermain poker. Gage meminta ia untuk bergabung dengannya untuk mendapatkan keberuntungan.
Dan ia berhasil memenangkan taruhannya sebesar $ 1 juta. Sebagai ucapan terima kasih, Gage bersikeras untuk membayar masa inap keluarga Murphy, memberi mereka suite hotel mewah dan gaun yang ia kagumi Diana. Setelah malam yang menyenangkan bersama, Gage menawarkan pasangan itu $ 1 juta untuk mengizinkannya menghabiskan malam bersama dengannya, tetapi ia dan David menolak. Setelah malam tanpa tidur, keluarga Murphy menyetujui proposal Gage, dan David menghubungi pengacaranya, yang menyiapkan kontrak untuk pengaturan tersebut. Meninggalkan Diana bersama Gage, David berubah pikiran dan berlomba untuk menghentikan mereka, tetapi tiba saat mereka berangkat dengan helikopter. Gage menerbangkan ia ke kapal pesiar pribadinya, dan menawarkan padanya kesempatan untuk membatalkan kesepakatan mereka.
Kecemerlangan subversif murni
Dan kembali ke suaminya jika ia kehilangan lemparan koin keberuntungannya. Ia memenangkan undian, dan ia menghabiskan malam bersamanya. Setuju untuk melupakan kejadian itu, Murphy kembali ke rumah, dan mengetahui bahwa properti mereka telah tersita dan terjual kembali. Dan karena dengan rasa cemburu, David menuduh ia terus menemui Gage setelah menemukan kartu namanya pada dompetnya, yang ia sangkal. Mengetahui bahwa Gage-lah yang membeli tanah mereka, ia dengan marah menghadapkannya. Dan menolak upayanya untuk mengejarnya. Ketika ia memberi tahu David, ketegangan mereka mencapai titik puncak dan mereka berpisah. Diana kemudian memintanya untuk menyimpan semua uangnya. Beberapa minggu kemudian, Gage mengunjunginya pada tempat kerja dan memperbarui kemajuannya.
Awalnya menolak, ia akhirnya setuju untuk menghabiskan waktu bersamanya, dan romansa berkembang pada antara mereka. Merasa bersalah karena kenangan indah tentang istrinya, David mencapai titik terendah, yang menyebabkan konfrontasi publik dengan Gage dan Istrinya. Ia memulihkan hidupnya kembali dan menemukan posisi mengajar, dan istrinya mengajukan gugatan cerai. Menemukannya yang kebun binatang mendapatkan keuntungan bersama Gage, David menyumbangkan seluruh $ 1 juta dalam tawaran lelang amal, kemudian berdamai dengan istrinya dan menandatangani surat cerai mereka. Menyadari bahwa ia tidak akan pernah mencintainya seperti ia mencintai suaminya. Gage berbohong kepadanya bahwa ia hanyalah anggota terbaru dari “klub jutaan dolar” wanita. Melihat melalui tipuannya, ia dengan penuh syukur mengakhiri hubungan mereka.
Sebelum berpisah, ia memberinya koin keberuntungannya, yang ternyata berkepala dua. Diana kembali ke dermaga tempat David melamarnya tujuh tahun sebelumnya, menemukannya berada sana. Mengulangi pernyataan cinta unik mereka, mereka bergandengan tangan.
Terkejut dengan rating Indecent Proposal rendah
Film ini umumnya mendapat ulasan negatif dari para kritikus pada saat rilis. Gene Siskel mengacungkan jempol ke film itu. Roger Ebert, bagaimanapun, memberikan acungan jempol pada Siskel & Ebert. Dan juga menulis review cetak yang positif. Susan Faludi, seorang penulis feminis, keberatan dengan posisi karakter wanita dalam film tersebut. Feminis lain mencirikannya sebagai film “wanita di penjara”. Hari ini, ia mempertahankan peringkat “busuk” 35% pada Rotten Tomatoes berdasarkan 46 ulasan, dengan peringkat rata-rata 4.67 / 10. Konsensus tersebut berbunyi, “Seram tetapi bertindak dengan penuh semangat, Proposal Tidak Senonoh mengalami kesulitan untuk mempertahankannya melampaui premis awalnya yang menggugah selera.” “INDECENT PROPOSAL” nominasikan untuk tujuh Razzie Awards pada tahun 1994 termasuk Aktor Terburuk (Robert Redford).
Aktris Terburuk (Demi Moore), Sutradara Terburuk dan Lagu Asli Terburuk. Pada Semua Tempat yang Tepat”). Ini pada akhirnya akan memenangkan tiga trofi untuk Film Terburuk, Aktor Pendukung Terburuk (Woody Harrelson) dan Skenario Terburuk. Film ini terdaftar dalam buku pendiri Golden Raspberry Award John Wilson The Official Razzie Movie Guide sebagai salah satu dari 100 Film terburuk paling menyenangkan yang pernah ada. Pada Stinkers Bad Movie Awards 1993, Redford dan Moore masing-masing nominasi untuk Aktor dan Aktris Terburuk. Tanggapan penonton yang sangat berbeda karena dengan yang survei oleh CinemaScore memberikan nilai rata-rata “B” pada skala A + hingga F. “INDECENT PROPOSAL” adalah contoh yang bagus dari premis yang bagus untuk sebuah film.
Dan tidak terlalu sulit untuk memahami mengapa film ini begitu ramai membicarakan pada awal rilisnya. Baik kan? Satu masalah yang pada cerita film ini adalah bahwa Robert Redford berperan sebagai John Gage. Miliarder paruh baya yang menginginkan menemani karakter Demi Moore Murphy. Robert Redford yang berusia pertengahan lima puluhan terlihat sekitar sepuluh tahun lebih muda dan yang masih penggemar wanita hingga hari ini. Orang tidak dapat berhenti berpikir bahwa Adrian Lyne akan jauh lebih baik mengeksploitasi premis lebih jauh dengan memasukkan aktor yang jauh lebih menjijikkan secara fisik sebagai Gage. Beberapa pembela mungkin mengklaim bahwa Redford sama dengan box office yang bagus dan tentu saja film ini berhasil dengan sangat baik sejauh penerimaan dunia luas, tetapi ini adalah film yang titik penjualan utamanya harus menjadi ide utama.

warc-type: conversion

content-type: text/plain

warc-identified-content-language: ind,eng

label: id