Jelaskan Deskripsi problem dari Masalah pengendalian kecerdasan buatan

Sistem AI lemah dapat dipantau dan dengan mudah dimatikan atau dimodifikasi jika berperilaku tidak semestinya. Namun, kecerdasan super yang salah diprogram, mungkin akan menyadari bahwa membiarkan dirinya sendiri dimatikan dan dimodifikasi dapat mengganggu kemampuannya dalam mencapai tujuan yang sudah diprogram. Karena itu, kecerdasan super bisa saja memutuskan untuk menentang shutdown dan modifikasi. Kecerdasan buatan semacam ini (secara teoritis) juga akan cukup pintar untuk mengecoh pemrogramnya dalam "level playing field" (aturan main) terutama jika pemrogram tidak melakukan tindakan pencegahan sebelumnya.

Secara umum, upaya untuk memecahkan masalah kontrol setelah kecerdasan super dibuat kemungkinan besar akan gagal. Hal ini bisa terjadi karena kecerdasan super kemungkinan akan memiliki kemampuan perencanaan strategis yang lebih superior daripada manusia dan akan lebih berhasil menemukan cara untuk mendominasi manusia, daripada upaya manusia secara post facto untuk mengontrol kecerdasan super. Masalah pengendalian kecerdasan buatan berkisar pada persoalan: tindakan pencegahan apa yang dapat dilakukan pemrogram agar berhasil mencegah kecerdasan super dari kesalahan pemrograman yang berdampak buruk?