Kecerdasan super

Kecerdasan super adalah agen kecerdasan buatan hipotetis yang memiliki kecerdasan jauh melampaui pikiran manusia yang paling cerdas dan paling berbakat sekalipun. "Kecerdasan super" juga dapat merujuk kepada masalah mengenai apakah kompetensi intelektual tingkat tinggi ini bisa diwujudkan dalam agen kecerdasan buatan di dunia nyata. Sebuah kecerdasan super kemungkinan diciptakan oleh ledakan kecerdasan dan terkait dengan singularitas teknologi. Filsuf Universitas Oxford Nick Bostrom mendefinisikan kecerdasan super sebagai "setiap kecerdasan yang jauh melampaui kinerja kognitif manusia dalam hampir semua bidang yang diminati". Program Fritz tidak memiliki kecerdasan super—walaupun jauh lebih baik daripada manusia dalam bermain catur—karena Fritz tidak dapat mengungguli manusia dalam tugas-tugas lain. Mengikuti Hutter dan Legg, Bostrom memperlakukan kecerdasan super sebagai dominasi umum pada perilaku berorientasi tujuan, dan membiarkan kemungkinan terbuka tentang apakah kecerdasan super buatan atau manusia akan memiliki kapasitas seperti intensionalitas atau kesadaran orang pertama. Peneliti teknologi tidak setuju tentang seberapa besar kemungkinan kecerdasan manusia saat ini akan dilampaui. Beberapa berpendapat bahwa kemajuan dalam kecerdasan buatan (AI) mungkin akan menghasilkan sistem penalaran umum yang tidak memiliki keterbatasan kognitif manusia. Sementara peneliti lain percaya bahwa manusia akan berevolusi atau secara langsung memodifikasi biologi mereka untuk mencapai kecerdasan yang lebih besar secara radikal. Sejumlah skenario studi masa depan menggabungkan elemen dari kedua kemungkinan ini, menunjukkan bahwa manusia cenderung berinteraksi dengan komputer, atau mengunggah pikiran mereka ke komputer, dengan cara yang memungkinkan adanya amplifikasi kecerdasan secara substansial. Beberapa peneliti percaya bahwa kecerdasan super kemungkinan akan muncul segera setelah pengembangan kecerdasan umum buatan. Mesin pertama yang umumnya cerdas cenderung segera memiliki keuntungan besar dalam setidaknya beberapa bentuk kemampuan mental, termasuk kapasitas mengingat sempurna, basis pengetahuan yang jauh lebih unggul, dan kemampuan untuk melakukan banyak tugas dengan cara yang tidak mungkin dilakukan oleh entitas biologis. Hal ini mungkin memberi mereka kesempatan untuk—baik sebagai makhluk tunggal atau sebagai spesies baru—menjadi jauh lebih kuat daripada manusia, dan untuk melampaui manusia sepenuhnya. Sejumlah ilmuwan dan futurolog berpendapat mengenai pentingnya melakukan penelitian awal tentang kemungkinan manfaat dan risiko peningkatan kognitif manusia dan mesin, karena potensi dampak sosial dari teknologi tersebut.