Kecerdasan super

Kecerdasan super adalah agen kecerdasan buatan hipotetis yang memiliki kecerdasan jauh melampaui pikiran manusia yang paling cerdas dan paling berbakat sekalipun. "Kecerdasan super" juga dapat merujuk kepada masalah mengenai apakah kompetensi intelektual tingkat tinggi ini bisa diwujudkan dalam agen kecerdasan buatan di dunia nyata (misalnya, penerjemah bahasa supercerdas atau asisten teknik). Sebuah kecerdasan super kemungkinan diciptakan oleh ledakan kecerdasan dan terkait dengan singularitas teknologi.

Filsuf Universitas Oxford Nick Bostrom mendefinisikan kecerdasan super sebagai "setiap kecerdasan yang jauh melampaui kinerja kognitif manusia dalam hampir semua bidang yang diminati". Program Fritz tidak memiliki kecerdasan super—walaupun jauh lebih baik daripada manusia dalam bermain catur—karena Fritz tidak dapat mengungguli manusia dalam tugas-tugas lain. Mengikuti Hutter dan Legg, Bostrom memperlakukan kecerdasan super sebagai dominasi umum pada perilaku berorientasi tujuan, dan membiarkan kemungkinan terbuka tentang apakah kecerdasan super buatan atau manusia akan memiliki kapasitas seperti intensionalitas (lih. argumen ruang Cina) atau kesadaran orang pertama (lih. masalah pelik kesadaran).

Peneliti teknologi tidak setuju tentang seberapa besar kemungkinan kecerdasan manusia saat ini akan dilampaui. Beberapa berpendapat bahwa kemajuan dalam kecerdasan buatan (AI) mungkin akan menghasilkan sistem penalaran umum yang tidak memiliki keterbatasan kognitif manusia. Sementara peneliti lain percaya bahwa manusia akan berevolusi atau secara langsung memodifikasi biologi mereka untuk mencapai kecerdasan yang lebih besar secara radikal. Sejumlah skenario studi masa depan menggabungkan elemen dari kedua kemungkinan ini, menunjukkan bahwa manusia cenderung berinteraksi dengan komputer, atau mengunggah pikiran mereka ke komputer, dengan cara yang memungkinkan adanya amplifikasi kecerdasan secara substansial.

Beberapa peneliti percaya bahwa kecerdasan super kemungkinan akan muncul segera setelah pengembangan kecerdasan umum buatan. Mesin pertama yang umumnya cerdas cenderung segera memiliki keuntungan besar dalam setidaknya beberapa bentuk kemampuan mental, termasuk kapasitas mengingat sempurna, basis pengetahuan yang jauh lebih unggul, dan kemampuan untuk melakukan banyak tugas dengan cara yang tidak mungkin dilakukan oleh entitas biologis. Hal ini mungkin memberi mereka kesempatan untuk—baik sebagai makhluk tunggal atau sebagai spesies baru—menjadi jauh lebih kuat daripada manusia, dan untuk melampaui manusia sepenuhnya.

Sejumlah ilmuwan dan futurolog berpendapat mengenai pentingnya melakukan penelitian awal tentang kemungkinan manfaat dan risiko peningkatan kognitif manusia dan mesin, karena potensi dampak sosial dari teknologi tersebut.

Penciptaan superkecerdasan buatan (Artificial Superintelligence/ASI) telah menjadi topik yang semakin banyak dibicarakan dalam beberapa tahun terakhir, khususnya dengan pesatnya perkembangan teknologi kecerdasan buatan (AI).

Feasibility kecerdasan buatan super
Penciptaan superkecerdasan buatan (Artificial Superintelligence/ASI) telah menjadi topik yang semakin banyak dibicarakan dalam beberapa tahun terakhir, khususnya dengan pesatnya kemajuan teknologi kecerdasan buatan (AI).
Perkembangan AI dan klaim AGI

Kemajuan terbaru dalam AI, khususnya pada model bahasa besar (large language models/LLM) yang berbasis arsitektur transformer, telah menghasilkan peningkatan signifikan dalam berbagai tugas. Model seperti GPT-3, GPT-4, Claude 3.5, dan lainnya menunjukkan kemampuan yang oleh sebagian peneliti dianggap mendekati atau bahkan menampilkan aspek-aspek dari kecerdasan buatan umum (Artificial General Intelligence/AGI).

Namun, klaim bahwa LLM saat ini sudah merupakan AGI masih kontroversial. Para pengkritik berpendapat bahwa model-model tersebut, meskipun mengesankan, masih belum memiliki pemahaman sejati dan sebagian besar bergantung pada penghafalan.

Jalur perkembangan menuju kecerdasan super
Filsuf David Chalmers berpendapat bahwa AGI merupakan jalur yang mungkin menuju ASI. Ia mengemukakan bahwa AI dapat mencapai tingkat kecerdasan setara dengan manusia, kemudian melampauinya, dan selanjutnya diperkuat hingga mampu mendominasi manusia dalam berbagai tugas.

Penelitian terbaru mengeksplorasi berbagai kemungkinan jalur menuju kecerdasan super, antara lain:

Penskalaan sistem AI saat ini – Beberapa peneliti berpendapat bahwa peningkatan skala arsitektur AI yang ada, khususnya model berbasis transformer, dapat mengarah pada terciptanya AGI dan berpotensi ASI.

Arsitektur baru – Ada pula yang mengajukan ide bahwa diperlukan arsitektur AI baru, mungkin dengan inspirasi dari ilmu saraf, untuk mencapai AGI dan ASI.

Sistem hibrida – Penggabungan berbagai pendekatan AI, termasuk AI simbolik dan jaringan saraf, dipandang berpotensi menghasilkan sistem yang lebih tangguh dan mumpuni.

Keunggulan komputasional

Sistem buatan memiliki sejumlah keunggulan potensial dibandingkan kecerdasan biologis, antara lain:

Kecepatan – Komponen komputer beroperasi jauh lebih cepat dibandingkan neuron biologis. Mikroprosesor modern, dengan kecepatan komputasi 2 GHz, tujuh orde magnitudo lebih cepat daripada neuron, yang beroperasi di sekitar 200 Hz).

Skalabilitas– Sistem AI dapat diperbesar ukuran dan kapasitas komputasinya dengan lebih mudah dibandingkan otak biologis.

Modularitas – Berbagai komponen dalam sistem AI dapat ditingkatkan atau diganti secara independen.

Memori – Sistem AI dapat memiliki daya ingat sempurna serta basis pengetahuan yang sangat luas, dengan keterbatasan memori kerja yang jauh lebih sedikit dibandingkan manusia.

Multitasking – AI dapat melakukan banyak tugas secara bersamaan dengan cara yang tidak mungkin dilakukan oleh entitas biologis.

Jalur potensial melalui model transformer

Kemajuan terkini pada model berbasis transformer membuat sebagian peneliti berspekulasi bahwa jalur menuju ASI mungkin terletak pada penskalaan dan penyempurnaan arsitektur ini. Pandangan ini menyatakan bahwa peningkatan berkelanjutan pada model transformer atau arsitektur serupa dapat secara langsung mengarah pada ASI.

Beberapa pakar bahkan berpendapat bahwa model bahasa besar saat ini, seperti GPT-4, mungkin sudah menunjukkan tanda-tanda awal kemampuan AGI atau bahkan ASI. Perspektif ini mengisyaratkan bahwa transisi dari AI yang sempit menuju ASI bisa lebih berkesinambungan dan cepat daripada perkiraan sebelumnya, sehingga batas antara AI sempit, AGI, dan ASI menjadi kabur.

Namun, pandangan ini tetap kontroversial. Para pengkritik menekankan bahwa model saat ini, meskipun canggih, masih kekurangan aspek penting dari kecerdasan umum seperti pemahaman sejati, penalaran, dan kemampuan beradaptasi di berbagai domain. Perdebatan mengenai apakah jalur menuju ASI akan melibatkan fase AGI yang jelas, atau langsung melalui penskalaan teknologi yang ada, masih berlangsung, dengan implikasi besar bagi strategi pengembangan AI dan pertimbangan keselamatan.

Tantangan dan ketidakpastian

Meskipun terdapat berbagai potensi keunggulan, pencapaian ASI menghadapi sejumlah tantangan dan ketidakpastian, antara lain:

Etika dan keselamatan – Perkembangan ASI menimbulkan banyak pertanyaan etis dan risiko potensial yang perlu ditangani.

Kebutuhan komputasi – Sumber daya komputasi yang diperlukan untuk mewujudkan ASI mungkin jauh melampaui kemampuan saat ini.

Batasan fundamental – Mungkin terdapat batasan mendasar terhadap kecerdasan yang berlaku baik bagi sistem buatan maupun biologis.

Ketidakpastian – Jalur menuju ASI dan konsekuensinya sangat tidak pasti serta sulit diprediksi.

Seiring dengan kemajuan penelitian AI yang sangat cepat, pertanyaan mengenai kelayakan penciptaan ASI tetap menjadi topik perdebatan dan kajian intensif di kalangan ilmiah.

Feasibility kecerdasan super biologis
Carl Sagan berpendapat bahwa hadirnya operasi sesar dan fertilisasi in vitro memungkinkan manusia berevolusi dengan ukuran kepala yang lebih besar, sehingga menghasilkan peningkatan komponen hereditas dari kecerdasan manusia melalui seleksi alam. Sebaliknya, Gerald Crabtree berargumen bahwa berkurangnya tekanan seleksi justru menyebabkan penurunan kecerdasan manusia secara perlahan selama berabad-abad, dan proses ini kemungkinan besar akan terus berlanjut. Tidak ada konsensus ilmiah mengenai kedua kemungkinan tersebut, dan dalam kedua kasus, perubahan biologis akan berlangsung lambat, terutama jika dibandingkan dengan laju perubahan kultural.

Pembiakan selektif, nootropik, modulasi epigenetik, dan rekayasa genetika dapat meningkatkan kecerdasan manusia dengan lebih cepat. Nick Bostrom menulis bahwa apabila komponen genetik dari kecerdasan dapat dipahami, diagnosis genetik pra-implantasi dapat digunakan untuk memilih embrio dengan peningkatan IQ sekitar 4 poin (jika satu embrio dipilih dari dua), atau peningkatan yang lebih besar (misalnya hingga 24,3 poin IQ jika satu embrio dipilih dari 1000). Jika proses ini diulang selama banyak generasi, peningkatannya bisa mencapai skala satu orde magnitudo. Bostrom juga menyarankan bahwa pengambilan gamet baru dari sel punca embrionik dapat digunakan untuk mempercepat iterasi proses seleksi tersebut. Sebuah masyarakat yang terorganisasi dengan baik dan terdiri atas manusia berinteligensi tinggi semacam itu berpotensi mencapai superkecerdasan kolektif.

Alternatif lain adalah kecerdasan kolektif dapat dibangun dengan mengorganisasi manusia secara lebih baik pada tingkat kecerdasan individu yang ada saat ini. Beberapa penulis berpendapat bahwa peradaban manusia, atau sebagian aspeknya (misalnya Internet atau perekonomian), sedang berkembang menjadi semacam otak global dengan kapasitas yang jauh melampaui para agen penyusunnya. Pasar prediksi kadang dianggap sebagai contoh sistem kecerdasan kolektif yang berfungsi, yang sepenuhnya terdiri dari manusia (dengan asumsi algoritma tidak digunakan untuk membantu pengambilan keputusan).

Metode terakhir untuk memperkuat kecerdasan adalah dengan secara langsung meningkatkan individu manusia, alih-alih meningkatkan dinamika sosial atau reproduktif mereka. Hal ini dapat dilakukan melalui nootropik, terapi gen somatik, atau antarmuka otak–komputer. Namun, Bostrom menyatakan keraguannya terhadap skalabilitas dua pendekatan pertama, serta berpendapat bahwa merancang antarmuka manusia–mesin supercerdas merupakan masalah yang setara dengan tantangan penciptaan kecerdasan buatan umum.

Prediksi ke depan
Sebagian besar peneliti AI yang disurvei memperkirakan bahwa mesin pada akhirnya akan mampu menandingi kecerdasan manusia, meskipun tidak ada konsensus mengenai kapan hal ini kemungkinan besar akan terjadi. Pada konferensi AI@50 tahun 2006, sebanyak 18% peserta melaporkan bahwa mereka memperkirakan mesin akan mampu "mensimulasikan pembelajaran dan setiap aspek lain dari kecerdasan manusia" pada tahun 2056; 41% peserta memperkirakan hal ini akan terjadi setelah tahun 2056; dan 41% lainnya memperkirakan mesin tidak akan pernah mencapai tonggak tersebut.

Dalam sebuah survei terhadap 100 penulis paling banyak disitasi dalam bidang AI (per Mei 2013, menurut Microsoft Academic Search), tahun median ketika responden memperkirakan mesin "dapat menjalankan sebagian besar profesi manusia setidaknya sebaik manusia rata-rata" (dengan asumsi tidak terjadi bencana global) dengan tingkat keyakinan 10% adalah 2024 (rata-rata 2034, deviasi standar 33 tahun); dengan tingkat keyakinan 50% adalah 2050 (rata-rata 2072, deviasi standar 110 tahun); dan dengan tingkat keyakinan 90% adalah 2070 (rata-rata 2168, deviasi standar 342 tahun). Estimasi ini mengecualikan 1,2% responden yang menyatakan tidak ada tahun yang akan mencapai 10% keyakinan, 4,1% yang menjawab "tidak pernah" untuk keyakinan 50%, serta 16,5% yang menjawab "tidak pernah" untuk keyakinan 90%. Responden memberikan probabilitas median 50% bahwa superkecerdasan mesin akan ditemukan dalam waktu 30 tahun setelah terciptanya mesin dengan kecerdasan setara manusia.

Dalam survei tahun 2022, tahun median ketika responden memperkirakan akan tercapainya "kecerdasan mesin tingkat tinggi" dengan keyakinan 50%, adalah 2061. Survei tersebut mendefinisikan pencapaian kecerdasan mesin tingkat tinggi sebagai saat mesin tanpa bantuan manusia dapat menyelesaikan setiap tugas lebih baik dan lebih murah daripada pekerja manusia.

Pada tahun 2023, pimpinan OpenAI Sam Altman, Greg Brockman, dan Ilya Sutskever menerbitkan rekomendasi mengenai tata kelola superkecerdasan, yang mereka perkirakan dapat terjadi dalam waktu kurang dari 10 tahun. Pada tahun 2024, Ilya Sutskever keluar dari OpenAI untuk mendirikan startup Safe Superintelligence, yang berfokus secara eksklusif pada penciptaan kecerdasan super yang aman sejak awal perancangannya, sembari menghindari "gangguan akibat beban manajemen atau siklus produk". Meskipun belum menawarkan produk apa pun, pada Februari 2025 startup tersebut bernilai 30 miliar dolar AS. Pada tahun 2025, skenario perkiraan "AI 2027" yang dipimpin oleh Daniel Kokotajlo memprediksi kemajuan pesat dalam otomatisasi pemrograman dan riset AI, yang kemudian diikuti oleh terciptanya ASI.

Referensi

 Paper 
 .





 Buku 






 Pranala luar 
 Bill Gates Joins Stephen Hawking in Fears of a Coming Threat from "Superintelligence"
 Will Superintelligent Machines Destroy Humanity?
 Apple Co-founder Has Sense of Foreboding About Artificial Superintelligence

Kategori:Teknologi hipotetis
Kategori:Singularitarianisme
Kategori:Kecerdasan
Kategori:Risiko eksistensial kecerdasan umum buatan