Hentikan Eksperimen Kecerdasan Buatan Besar: Surat Terbuka

**Hentikan Eksperimen Kecerdasan Buatan Besar: Surat Terbuka** adalah surat yang diterbitkan oleh Future of Life Institute pada Maret 2023. Surat ini menyerukan agar laboratorium-laboratorium kecerdasan buatan menghentikan sementara selama minimal enam bulan pelatihan sistem yang lebih kuat daripada GPT-4, dengan alasan risiko yang terkait dengan propaganda yang dihasilkan, otomasi pekerjaan secara masif, keterpinggiran manusia, dan potensi hilangnya kendali masyarakat.  Surat ini mendapatkan lebih dari 30.000 tanda tangan, termasuk dari peneliti kecerdasan buatan dan eksekutif perusahaan, seperti  Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak dan Yuval Noah Harari.

## Motivasi
Surat ini diterbitkan seminggu setelah peluncuran model bahasa besar OpenAI yaitu GPT-4. Surat menyatakan bahwa model bahasa besar saat ini menjadi kompetitif dengan manusia dalam tugas-tugas umum, dengan merujuk pada makalah yang membahas eksperimen awal GPT-4 yang disebut memiliki "percikan kecerdasan umum buatan". Kecerdasan umum buatan dipandang menimbulkan berbagai risiko, khususnya dalam konteks dinamika persaingan balapan ke bawah di mana beberapa laboratorium kecerdasan buatan dapat terdorong untuk mengabaikan aspek keamanan demi mempercepat peluncuran produk.

Surat ini meminta agar penelitian kecerdasan buatan difokuskan pada pengembangan sistem kecerdasan buatan yang lebih akurat, aman, dapat diinterpretasikan, transparan, tangguh, selaras, terpercaya, dan loyal. Surat tersebut juga merekomendasikan peningkatan regulasi pemerintah, audit independen sebelum pelatihan sistem kecerdasan buatan, pelacakan sistem yang canggih dan kapasitas komputasi besar, serta pendanaan publik yang kuat untuk penelitian keamanan teknis kecerdasan buatan. Future of Life Institute menyarankan penggunaan jumlah komputasi yang digunakan dalam pelatihan sebagai indikator kekuatan kecerdasan buatan dan sebagai ambang batas untuk sistem yang perlu dihentikan sementara.

## Penerimaan
Surat ini menerima cakupan pemberitaan luas dan memperoleh dukungan dari sejumlah tokoh terkemuka. Hingga Juli 2024, penghentian sementara pelatihan sistem kecerdasan buatan belum diterapkan. Pada peringatan satu tahun surat tersebut, Future of Life Institute mencatat bahwa perusahaan kecerdasan buatan telah menginvestasikan sumber daya besar dalam infrastruktur untuk melatih sistem kecerdasan buatan yang semakin besar. Surat ini dianggap menimbulkan urgensi baru di kalangan pemerintah terkait langkah menghadapi kemajuan pesat kecerdasan buatan dan mencerminkan meningkatnya perhatian publik terhadap risiko kecerdasan buatan.

Eliezer Yudkowsky menilai bahwa surat tersebut tidak cukup tegas dan menyatakan bahwa seharusnya penghentian sementara dilakukan tanpa batas waktu. Ia menyebut bahwa menemukan solusi untuk masalah pengendalian kecerdasan buatan dapat memakan waktu beberapa dekade, dan kecerdasan buatan yang tidak selaras serta cukup cerdas berpotensi menimbulkan risiko kepunahan manusia.

Beberapa anggota  Institute of Electrical and Electronics Engineers (IEEE) menjelaskan bahwa alasan mereka menandatangani surat tersebut antara lain karena banyaknya kemungkinan penyalahgunaan sistem kecerdasan buatan, distribusi sistem yang bebas, dan tidak adanya regulasi atau tinjauan yang mencegah potensi kerugian. Seorang ahli etika kecerdasan buatan menyatakan bahwa surat tersebut meningkatkan kesadaran terhadap isu seperti kloning suara, namun dianggap tidak dapat ditindaklanjuti dan tidak dapat diberlakukan secara hukum.

Surat ini juga mendapat kritik karena dianggap mengalihkan perhatian dari risiko masyarakat yang lebih mendesak, seperti bias algoritmik. Timnit Gebru dan pihak lain menilai surat ini bersifat sensasional dan menekankan skenario fiksi ilmiah futuristik dan distopia dibandingkan dengan isu kecerdasan buatan yang ada saat ini.

Mantan Direktur utama Microsoft, Bill Gates, memilih untuk tidak menandatangani surat tersebut dengan alasan bahwa meminta satu kelompok tertentu menghentikan aktivitas tidak menyelesaikan tantangan yang ada. Sam Altman, Direktur utama OpenAI, menyatakan bahwa surat tersebut kurang menyertakan nuansa teknis terkait area yang membutuhkan penghentian sementara dan menjelaskan bahwa versi awal surat mengklaim OpenAI sedang melatih GPT-5, padahal pelatihan tersebut belum dilakukan dan tidak akan dilakukan dalam waktu dekat. Reid Hoffman menilai surat ini sebagai bentuk isyarat kebajikan tanpa dampak nyata. Eksperimen pelatihan kecerdasan buatan tetap berlanjut dan GPT-5 diumumkan pada 2025. 
## Referensi