Context: Jika kecerdasan super manusia diciptakan - baik melalui amplifikasi kecerdasan manusia atau melalui kecerdasan buatan - itu akan sangat meningkatkan kemampuan pemecahan masalah dan kemampuan inventif manusia. AI semacam itu disebut sebagai Seed AI karena jika AI diciptakan dengan kemampuan rekayasa yang cocok atau melampaui kemampuan penciptanya manusia, itu akan memiliki potensi untuk secara otonom meningkatkan perangkat lunak dan perangkat kerasnya sendiri untuk merancang mesin yang lebih mampu, yang dapat mengulangi prosesnya. Pengembangan diri rekursif ini dapat dipercepat, berpotensi memungkinkan perubahan kualitatif yang sangat besar sebelum batas atas yang diberlakukan oleh hukum fisika atau perhitungan teoritis ditetapkan. Diperkirakan bahwa selama banyak iterasi, AI semacam itu akan jauh melampaui kemampuan kognitif manusia.

Apa prasyarat utama agar AI bisa melampaui kecerdasan manusia?

Sistem AI perlu memiliki kemampuan perbaikan diri rekursif. Setelah tersedia, kemampuan tersebut akan memungkinkan sistem AI untuk mempercepat perkembangannya dengan kecepatan yang cepat.