Kongres Keamanan Kecerdasan Buatan

**Kongres Keamanan Kecerdasan Buatan** adalah sebuah pertemuan internasional yang diselenggarakan oleh negara-negara secara berkala untuk membahas keselamatan dan regulasi kecerdasan buatan, terutama yang berkaitan dengan sistem AI canggih. Kongres ini secara perdana diadakan di Inggris pada tahun 2023 diakui sebagai pertemuan global pertama yang secara khusus berfokus pada Kecerdasan Buatan.

Tujuan resmi KTT pertama yang diselenggarakan pada 1–2 November 2023 di Bletchley Park adalah (1) mempertimbangkan risiko AI, khususnya pada batas pengembangan teknologi, dan (2) mendiskusikan cara mitigasi risiko tersebut melalui tindakan yang terkoordinasi secara internasional. Diskusi ini secara spesifik diarahkan pada risiko yang ditimbulkan oleh model AI serba guna yang sangat mumpuni (*highly capable general-purpose AI models*), atau yang dikenal sebagai *Frontier AI*. Model ini mencakup *foundation models* yang dapat menyamai atau melampaui kemampuan model tercanggih saat ini.

Penetapan KTT ini sebagai pertemuan internasional yang direncanakan secara berkesinambungan mencerminkan pengakuan formal bahwa tata kelola AI membutuhkan dialog struktural yang berkelanjutan.

## Latar Belakang Pembentukan Kongres
Inisiasi Kongres Keamanan AI didorong oleh urgensi perkembangan teknologi yang cepat dan meningkatnya kekhawatiran mengenai dampak yang mungkin ditimbulkan oleh sistem kecerdasan buatan paling canggih. Perdana Menteri Inggris saat itu, Rishi Sunak, menjadikan keselamatan AI sebagai salah satu prioritas utama pemerintahannya dan mengambil langkah untuk mengumumkan Inggris sebagai tuan rumah konferensi global ini.

Latar belakang utamanya adalah kecepatan pengembangan sistem AI oleh perusahaan-perusahaan besar yang terlibat dalam "perlombaan" global untuk mencapai kemampuan AI yang lebih maju. Para pemimpin dunia yang menghadiri KTT mengakui bahwa di samping peluang besar, AI juga menimbulkan risiko signifikan. Negara-negara penandatangan Deklarasi Bletchley secara tegas mengakui potensi kerugian serius, bahkan bencana, baik yang disengaja maupun tidak disengaja, yang berasal dari kemampuan model AI *frontier*.

Kekhawatiran yang diangkat melampaui isu etika harian dan masuk ke ranah ancaman eksistensial dan keamanan global:

# **Potensi Penyalahgunaan:** Kelompok berbahaya dapat menyalahgunakan kemampuan AI canggih untuk melancarkan serangan siber yang terkoordinasi pada infrastruktur digital penting atau bahkan untuk merancang senjata biokimia baru.
# **Masalah Kontrol dan Ketidaksengajaan:** Risiko substansial dapat timbul dari masalah kontrol yang tidak disengaja terkait dengan keselarasan AI dengan niat manusia (*alignment with human intent*).
# **Konsolidasi Kekuasaan:** Kemajuan teknologi AI yang cepat berisiko mengonsolidasikan kekuasaan dan kontrol teknologi kunci di tangan sejumlah terbatas perusahaan swasta, yang dapat menimbulkan tantangan bagi tata kelola demokrasi.

Fokus pada risiko bencana dan ancaman keamanan nasional/global membenarkan perlunya intervensi pemerintah tingkat tinggi dan koordinasi internasional untuk memitigasi risiko tersebut.

## Kongres Keamanan AI 2023 di Bletchley Park
Kongres Keamanan AI pertama diselenggarakan selama dua hari, yaitu pada 1–2 November 2023. Lokasi yang dipilih adalah Bletchley Park Mansion, yang terletak di Milton Keynes, Inggris.

Pemilihan Bletchley Park sebagai tempat penyelenggaraan memegang signifikansi historis yang mendalam. Selama Perang Dunia II, Bletchley Park berfungsi sebagai fasilitas pemecah kode Inggris, tempat di mana komputasi modern pertama kali dikembangkan.

KTT perdana ini diselenggarakan oleh beberapa lembaga pemerintah Inggris, termasuk Foreign, Commonwealth & Development Office (FCDO), Department for Science, Innovation and Technology (DSIT), dan AI Safety Institute (AISI).

## Hasil Kunci: Deklarasi Bletchley
Hasil terpenting dari KTT Bletchley Park adalah Deklarasi Bletchley, sebuah perjanjian yang digambarkan oleh Pemerintah Inggris sebagai kesepakatan "dunia pertama" mengenai keselamatan AI. Deklarasi ini diadopsi pada awal KTT dan didukung oleh 28 negara serta Uni Eropa.

#### Poin Utama dan Komitmen
Deklarasi Bletchley secara eksplisit mengakui "peluang global yang sangat besar" yang dihadirkan oleh AI, yang berpotensi meningkatkan kesejahteraan, perdamaian, dan kemakmuran. Untuk mencapai potensi ini, AI harus dikembangkan secara aman, berpusat pada manusia (*human-centric*), dan bertanggung jawab.

Fokus utama Deklarasi Bletchley adalah menetapkan pemahaman global yang sama mengenai risiko *Frontier AI* dan menyerukan kerja sama internasional yang inklusif untuk mengatasi risiko-risiko tersebut.

Deklarasi menetapkan dua agenda inti untuk kerja sama internasional :

# **Mengidentifikasi Risiko Keselamatan AI yang menjadi Perhatian Bersama:** Membangun pemahaman ilmiah dan berbasis bukti bersama tentang risiko, dan mempertahankan pemahaman tersebut seiring dengan terus meningkatnya kemampuan AI.
# **Membangun Kebijakan Berbasis Risiko:** Mengembangkan kebijakan berbasis risiko di masing-masing negara untuk memastikan keselamatan. Ini mencakup kolaborasi yang mengakui bahwa pendekatan regulasi dapat berbeda berdasarkan keadaan nasional dan kerangka hukum yang berlaku.

Komitmen yang disepakati menuntut peran aktif dari pengembang swasta dan sektor publik:

* **Tanggung Jawab Pengembang Swasta:** Pihak yang mengembangkan kemampuan AI *frontier* memikul tanggung jawab yang sangat kuat untuk memastikan keselamatan sistem mereka, termasuk melalui sistem untuk pengujian keselamatan dan evaluasi.
* **Transparansi dan Akuntabilitas:** Semua aktor didorong untuk menyediakan transparansi dan akuntabilitas yang sesuai dengan konteks mengenai rencana mereka untuk mengukur, memantau, dan memitigasi kemampuan yang berpotensi merugikan.
* **Tata Kelola Pro-Inovasi:** Negara-negara berkomitmen untuk mempertahankan pendekatan tata kelola dan regulasi yang pro-inovasi dan proporsional (*pro-innovation and proportionate governance*) yang memaksimalkan manfaat sambil mempertimbangkan risiko yang terkait dengan AI.

Ringkasan Deklarasi Bletchley: Fokus, Risiko, dan Komitmen

## Peserta dan Dinamika Geopolitik
KTT Keamanan AI 2023 mempertemukan berbagai aktor kunci di panggung global, dengan delegasi dihadiri oleh lebih dari seratus perwakilan dari seluruh dunia.

### Tokoh Utama dan Delegasi
Di antara delegasi tingkat tinggi yang hadir adalah Perdana Menteri Inggris (Rishi Sunak), Wakil Presiden Amerika Serikat (Kamala Harris), Presiden Komisi Eropa (Ursula von der Leyen), dan eksekutif terkemuka industri AI seperti Sam Altman (CEO OpenAI), Elon Musk (CEO xAI), dan Nick Clegg (Meta Platforms).

Total 28 negara, ditambah Uni Eropa, menandatangani Deklarasi Bletchley. Daftar negara penandatangan menunjukkan cakupan global yang luas, termasuk negara-negara Asia seperti Tiongkok, India, Indonesia, Jepang, dan Korea Selatan.

### Nuansa Partisipasi Tiongkok
Partisipasi Tiongkok, diwakili oleh Wakil Menteri Ilmu Pengetahuan dan Teknologi Wu Zhaohui, dalam KTT ini menjadi sorotan diplomatik. Tiongkok adalah penandatangan Deklarasi Bletchley, tetapi kehadirannya diwarnai kontroversi geopolitik.

Meskipun Tiongkok berpartisipasi dalam hari pertama KTT, delegasi tersebut tidak termasuk dalam daftar peserta sesi senior pada hari kedua dan tidak muncul dalam sesi jabat tangan atau "foto keluarga" resmi. Deputi Perdana Menteri Inggris Oliver Dowden mengisyaratkan bahwa beberapa sesi hanya dihadiri oleh negara-negara yang memiliki "pikiran sama" (*like-minded*), sehingga Tiongkok mungkin tidak sesuai untuk bergabung. Hal ini menggarisbawahi bahwa forum keselamatan AI ini memiliki dimensi geopolitik, terutama mengingat Tiongkok adalah pemimpin dalam riset AI secara global.

## Kongres AI Lanjutan (Seoul 2024 dan Paris 2025)
Deklarasi Bletchley menetapkan komitmen untuk melanjutkan dialog global. Setelah KTT perdana, format pertemuan kemudian dipercepat dan diperluas menjadi rangkaian KTT yang memperkuat agenda tata kelola AI.

### KTT Seoul 2024: Keselamatan, Inovasi, dan Inklusi
Kongres kedua, *AI Seoul Summit*, diselenggarakan enam bulan setelah Bletchley, pada 21–22 Mei 2024. Pertemuan ini diampu bersama (*co-hosted*) oleh Korea Selatan dan Inggris Raya.

KTT Seoul memperluas fokus kerja sama global di tiga pilar: Keselamatan (*Safety*), Inovasi (*Innovation*), dan Inklusi (*Inclusion*).

**Hasil Kunci KTT Seoul meliputi:**

* **Komitmen Sukarela Industri:** Sebanyak 16 perusahaan teknologi terkemuka menandatangani *Frontier AI Safety Commitments*.
* **Jaringan Institut Keamanan AI Internasional:** 10 negara sepakat untuk meluncurkan jaringan internasional bagi institut keselamatan AI, yang bertujuan menyelaraskan upaya penelitian dan membangun metodologi pengujian bersama.
* **Pernyataan Menteri Seoul (''Seoul Ministerial Statement''):** Pernyataan ini diadopsi oleh 27 negara, termasuk Indonesia. Negara-negara berkomitmen untuk mengembangkan proposal dalam menilai risiko AI, menyepakati ambang risiko bersama, dan mengidentifikasi risiko parah, seperti kemampuan AI membantu aktor jahat mengakuisisi atau menggunakan senjata kimia atau biologis, atau kemampuan AI untuk menghindari pengawasan manusia (*evade human oversight*).

### KTT Aksi AI Paris 2025
Kongres ketiga, sering disebut sebagai *AI Action Summit*, akan diselenggarakan oleh Prancis pada Februari 2025.

CEO OpenAI Sam Altman mencatat bahwa dialog di forum lanjutan semakin didominasi oleh tema potensi ekonomi dan kebutuhan negara-negara untuk meningkatkan investasi dalam infrastruktur AI, alih-alih hanya berfokus pada risiko.

Indonesia memanfaatkan KTT Paris sebagai platform untuk memamerkan kesiapan AI domestiknya. Indonesia membagikan pengalamannya dalam melakukan *Readiness Assessment Methodology* (RAM) UNESCO, sebuah alat yang digunakan untuk mengukur kesiapan ekosistem AI nasional. Indonesia mendapat apresiasi sebagai negara Asia Tenggara pertama yang mengadopsi alat penilaian ini.

Perbandingan Kongres Keamanan AI (2023–2025)

## Analisis dan Konteks Lokal Indonesia
Indonesia memainkan peran aktif dalam dialog tata kelola AI global. Keikutsertaan Indonesia sebagai salah satu dari 28 negara penandatangan Deklarasi Bletchley dan sebagai pendukung Pernyataan Menteri Seoul menempatkannya di garis depan diskusi kebijakan AI global.

Keterlibatan Indonesia menunjukkan komitmen untuk memastikan bahwa tata kelola AI tidak hanya berfokus pada risiko *frontier*, tetapi juga pada aspek inklusi, manfaat sosial, dan kesiapan infrastruktur di negara berkembang.

Upaya Indonesia untuk melokalisasi agenda global terlihat jelas dari inisiatif domestik:

# **Penggunaan RAM UNESCO:** Indonesia adalah negara Asia Tenggara pertama yang mengadopsi *Readiness Assessment Methodology* (RAM) UNESCO untuk menilai kesiapan ekosistem AI-nya. Pengalaman ini dipamerkan di KTT Paris 2025, di mana Indonesia berbagi praktik terbaik.

**Fokus Infrastruktur dan Inklusi:** Berdasarkan penilaian UNESCO, Indonesia disarankan untuk membentuk badan nasional yang didedikasikan untuk mengelola teknologi digital dan memastikan akses yang merata bagi masyarakat terhadap layanan pendidikan dan infrastruktur terkait AI. Secara paralel, perwakilan pemerintah dan KORIKA (Koalisi Riset dan Inovasi Kecerdasan Artifisial) berpartisipasi dalam forum domestik, seperti *Artificial Intelligence Innovation Summit* 2024 di Jakarta, untuk merumuskan strategi infrastruktur dan inovasi nasional.

## Referensi