Pernyataan tentang Risiko Kecerdasan Buatan

Pada tanggal 30 Mei 2023 ratusan pakar kecerdasan buatan dan tokoh publik menandatangani Pernyataan tentang Risiko Kecerdasan Buatan:Mengurangi risiko kepunahan akibat kecerdasan buatan harus menjadi prioritas global di samping risiko skala sosial lain seperti pandemi dan perang nuklir.Penandatangan pernyataan tersebut mencakup lebih dari 100 profesor kecerdasan buatan, termasuk dua ilmuwan komputer penerima penghargaan Turing, Geoffrey Hinton dan Yoshua Bengio. Selain itu, pernyataan ini juga ditandatangani oleh pimpinan ilmiah dan eksekutif beberapa perusahaan kecerdasan buatan termasuk OpenAI, Google DeepMind, dan Anthropic serta ahli di bidang pandemi, perubahan iklim, perlucutan senjata nuklir, filsafat, ilmu sosial, dan disiplin terkait lainnya. Pernyataan ini dirilis tidak lama setelah surat terbuka yang menyerukan penghentian sementara eksperimen kecerdasan buatan.

Pernyataan ini dimuat di situs web Center for AI Safety, sebuah organisasi nirlaba yang bergerak dalam penelitian dan advokasi kecerdasan buatan. Ide pernyataan satu kalimat ini awalnya diusulkan oleh David Scott Krueger, seorang profesor di Universitas Cambridge. Pernyataan ini dirilis bersamaan dengan teks pendamping yang menekankan kesulitan dalam membicarakan risiko ekstrem kecerdasan buatan. Direktur utama Center for AI Safety, Dan Hendrycks, menyatakan bahwa risiko kecerdasan buatan juga mencakup bias sistemik, misinformasi, penyalahgunaan, serangan siber, dan pengembangan senjata selain dari adanya risiko kepunahan.

Beberapa penandatangan yang dikenal secara publik antara lain: Sam Altman, Bill Gates, Dario Amodei, Peter Singer, Daniel Dennett, Sam Harris, Grimes, Stuart J. Russell, Jaan Tallinn, Vitalik Buterin, David Chalmers, Ray Kurzweil, Max Tegmark, Lex Fridman, Martin Rees, Demis Hassabis, Dawn Song, Ted Lieu, Ilya Sutskever, Martin Hellman, Bill McKibben, Angela Kane, Audrey Tang, David Silver, Andrew Barto, Mira Murati, Pattie Maes, Eric Horvitz, Peter Norvig, Joseph Sifakis, Erik Brynjolfsson, Ian Goodfellow, Baburam Bhattarai, Kersti Kaljulaid, Rusty Schweickart, Nicholas Fairfax, David Haussler, Peter Railton, Bart Selman, Dustin Moskovitz, Scott Aaronson, Bruce Schneier, Martha Minow, Andrew Revkin, Rob Pike, Jacob Tsimerman, Ramy Youssef, James Pennebaker, dan Ronald C. Arkin . 

 Penerimaan 
Perdana Menteri Britania Raya, Rishi Sunak, membagikan pernyataan tersebut melalui media sosial Twitter dan menyatakan bahwa pemerintah meninjaunya secara cermat.  Sekretaris Pers Gedung Putih, Karine Jean-Pierremenyatakan bahwa kecerdasan buatan merupakan merupakan salah satu teknologi yang paling kuat saat ini, dan untuk memanfaatkan peluangnya risiko kecerdasan buatan perlu diminimalkan terlebih dahulu.

Beberapa pengamat kritis mencatat bahwa kecerdasan buatan belum mencapai beberapa tonggak tertentu, seperti prediksi terkait mobil otonom. Mereka juga mencatat bahwa beberapa penandatangan pernyataan tetap mendanai penelitian kecerdasan buatan. Pihak-pihak ini menyatakan bahwa perusahaan dapat memperoleh manfaat dari persepsi publik bahwa algoritma kecerdasan buatan lebih maju daripada kenyataannya. Human Rights Watch dan beberapa pengamat lainnya menekankan pentingnya fokus pada risiko kecerdasan buatan yang sudah diketahui dibandingkan dengan risiko spekulatif di masa depan. Timnit Gebru mengkritik peningkatan perhatian terhadap risiko agensi kecerdasan buatan, khususnya oleh pihak-pihak yang telah menginvestasikan dana besar ke perusahaan kecerdasan buatan. Émile P. Torres dan Gebru menyatakan bahwa pernyataan tersebut mungkin terkait dengan ideologi TESCREAL.

 Referensi