Keamanan kecerdasan buatan

Keamanan kecerdasan buatan adalah sebuah bidang interdisipliner yang berfokus pada pencegahan kecelakaan, penyalahgunaan, atau konsekuensi berbahaya lainnya yang mungkin timbul dari sistem kecerdasan buatan. Bidang ini mencakup penyelarasan kecerdasan buatan (yang bertujuan memastikan sistem kecerdasan buatan bertindak sesuai dengan maksud yang diharapkan), pemantauan risiko dari sistem kecerdasan buatan, serta peningkatan ketahanannya. Perhatian utama dalam bidang ini tertuju pada risiko eksistensial yang berpotensi ditimbulkan oleh model kecerdasan buatan tingkat lanjut.

Selain penelitian teknis, keamanan kecerdasan buatan juga mencakup pengembangan norma serta kebijakan yang mendukung keselamatan. Bidang ini memperoleh perhatian luas pada tahun 2023, seiring dengan kemajuan pesat dalam kecerdasan buatan generatif dan meningkatnya kekhawatiran publik yang disuarakan oleh para peneliti maupun CEO mengenai potensi bahayanya. Pada KTT Keamanan Kecerdasan Buatan tahun 2023, Amerika Serikat dan Britania Raya masing-masing membentuk Institut Keamanan Kecerdasan Buatan mereka sendiri. Namun demikian, sejumlah peneliti menyampaikan kekhawatiran bahwa langkah-langkah keamanan kecerdasan buatan masih belum sejalan dengan kecepatan perkembangan kapabilitas kecerdasan buatan.

 Motivasi 
Para ilmuwan mendiskusikan risiko terkini dari kegagalan sistem kritis, bias, dan pengawasan yang didukung AI, as well as emerging risks like technological unemployment, digital manipulation, weaponization, AI-enabled cyberattacks and bioterrorism. Mereka juga membahas risiko spekulatif dari hilangnya kendali atas agen kecerdasan umum buatan (AGI) di masa depan., atau dari AI yang memungkinkan kediktatoran yang selalu stabil.

 Keamanan eksistensial 

Beberapa pihak mengkritik kekhawatiran mengenai AGI, seperti Andrew Ng yang membandingkannya pada tahun 2015 dengan “kekhawatiran mengenai kelebihan populasi di Mars padahal kita bahkan belum menginjakkan kaki di planet tersebut”. Stuart J. Russell di sisi lain mendesak kehati-hatian, dengan menyatakan bahwa "lebih baik mengantisipasi kecerdikan manusia daripada meremehkannya".

Para peneliti AI memiliki pendapat yang sangat berbeda tentang tingkat keparahan dan sumber utama risiko yang ditimbulkan oleh teknologi AI. – Meskipun survei menunjukkan bahwa para ahli menganggap serius risiko dengan konsekuensi tinggi. Dalam dua survei peneliti AI, responden median optimis terhadap AI secara keseluruhan, tetapi menempatkan probabilitas 5% pada hasil "sangat buruk (misalnya kepunahan manusia)" dari AI tingkat lanjut.. Dalam survei komunitas pemrosesan bahasa alami tahun 2022, 37% setuju atau agak setuju bahwa masuk akal jika keputusan AI dapat menyebabkan bencana yang "setidaknya seburuk perang nuklir besar-besaran".

 Referensi 

 Pranala luar 
 Unsolved Problems in ML Safety
 On the Opportunities and Risks of Foundation Models
 An Overview of Catastrophic AI Risks
 AI Accidents: An Emerging Threat
 Engineering a Safer World

Kategori:Kecerdasan buatan
Kategori:Risiko eksistensial dari kecerdasan buatan
Kategori:Sibernetika