Institut Penelitian Kecerdasan Mesin

**Institut Penelitian Kecerdasan Mesin** () adalah lembaga penelitian nirlaba yang berfokus pada pengembangan teori dan metodologi untuk memastikan bahwa kecerdasan buatan tingkat lanjut beroperasi secara selaras dengan tujuan manusia. Lembaga ini memusatkan perhatian pada risiko eksistensial yang dapat muncul dari sistem cerdas yang mampu melampaui kemampuan manusia. Dalam berbagai laporan mengenai ancaman teknologi masa depan, lembaga ini digambarkan sebagai organisasi yang mempelajari implikasi jangka panjang dari sistem yang memiliki kemampuan optimasi mandiri dan potensi dampaknya terhadap peradaban manusia.

## Sejarah
Akar berdirinya lembaga ini berhubungan dengan kelompok peneliti dan pendukung awal kecerdasan buatan yang menilai bahwa teknologi tersebut memiliki potensi menimbulkan konsekuensi yang belum dipahami sepenuhnya. Pada pertengahan 2000-an, sejumlah laporan media menggambarkan organisasi ini sebagai bagian dari diskusi publik yang berkaitan dengan masa depan kecerdasan buatan dan dinamika perkembangan teknologi.

Tema “singularitas teknologi” semakin mengemuka pada awal 2010-an dan menempatkan organisasi ini dalam jaringan diskusi mengenai kemungkinan konsekuensi dari kemunculan kecerdasan buatan yang sangat maju. Pada 2012, berlangsung perubahan dinamika terkait penyelenggaraan konferensi tentang singularitas setelah Singularity University mengambil alih pengelolaan acara tersebut.

Nama “Machine Intelligence Research Institute” mulai digunakan secara resmi pada 2013 sebagai penegasan fokus organisasi terhadap penelitian keselamatan kecerdasan mesin.

Sejumlah hibah besar dari lembaga filantropi kemudian memperluas kapasitas penelitian organisasi ini, termasuk dukungan dari Open Philanthropy Project pada 2019 dan 2020.

Pada 2020, lembaga ini menerima salah satu hibah terbesar dalam sejarahnya. Diskursus mengenai donasi filantropis teknologi juga mencakup pemberian besar oleh sejumlah tokoh industri, termasuk kontribusi terkait bantuan pandemi.

## Penelitian dan pendekatan
Kegiatan penelitian lembaga ini berfokus pada perumusan dasar-dasar teoretis yang diperlukan untuk memastikan bahwa sistem kecerdasan buatan tingkat lanjut dapat beroperasi secara dapat diprediksi dan selaras dengan tujuan manusia. Berbagai laporan yang membahas risiko teknologi masa depan mengaitkan organisasi ini dengan upaya merumuskan pendekatan yang dapat mencegah sistem cerdas mengembangkan tujuan yang tidak diinginkan seiring peningkatan kemampuan optimasinya.

Pendekatan tersebut mempertimbangkan potensi bahwa sistem cerdas dapat memperoleh kemampuan yang jauh melampaui kecakapan manusia, sebuah tema yang sering dibahas dalam diskusi mengenai singularitas teknologi.

Kajian mengenai desain tujuan bagi agen cerdas didasarkan pada analisis formal untuk memahami bagaimana instruksi ditafsirkan dan bagaimana struktur tujuan dapat disusun agar konsisten meski terjadi peningkatan kemampuan secara cepat. Pandangan ini sejalan dengan diskursus dalam literatur dasar kecerdasan buatan mengenai pentingnya pendekatan sistematis untuk memitigasi risiko dari sistem yang memiliki kemampuan optimasi tinggi.

Diskursus mengenai altruisme efektif dan teknologi turut menempatkan organisasi ini dalam lingkup pemikiran yang mempertimbangkan dampak sosial dan moral dari sistem cerdas.

## Referensi