Komunitas rasionalis

**Komunitas rasionalis** (*rationalist community*) adalah sekelompok individu yang mengidentifikasi diri sebagai "rasionalis", yang bertujuan untuk menjaga pemikiran mereka tetap tidak bias, bahkan ketika menghadapi kesimpulan yang dianggap menakutkan. Gerakan ini, yang berkembang dari forum-forum daring, tumpang tindih secara signifikan dengan filosofi moral altruisme efektif (EA) dan para peneliti di bidang keselamatan kecerdasan buatan (AI safety). Subkultur yang dihasilkan—terdiri dari rasionalis, penganut EA, dan peneliti keselamatan AI—telah menjadi kelompok yang sangat berpengaruh di Silicon Valley, dipersatukan oleh keyakinan akan pentingnya mencegah AI menimbulkan ancaman eksistensial bagi umat manusia. Gerakan abad ke-21 ini terbentuk di sekitar sekelompok blog internet, terutama LessWrong dan *Astral Codex Ten* (sebelumnya dikenal sebagai *[[Slate Star Codex]]*). Gerakan ini awalnya menonjol di Wilayah Teluk San Francisco. Para anggotanya berupaya menggunakan rasionalitas untuk menghindari bias kognitif. Minat yang sama meliputi probabilitas, altruisme efektif, transhumanisme, dan mitigasi risiko eksistensial dari kecerdasan umum buatan.

Batas-batas komunitas rasionalis masih kabur dan menjadi bahan perdebatan di antara komunitas dan kelompok-kelompok di sekitarnya. Anggota yang menyimpang dari keyakinan rasionalis yang umum sering kali menyebut diri mereka sebagai "rasionalis-berdekatan", "pasca-rasionalis" (juga dikenal sebagai "ingroup" dan "TPOT", akronim untuk "bagian Twitter ini" ) atau "berdekatan-EA".

## Deskripsi

Eliezer Yudkowsky dianggap sebagai figur intelektual utama dalam komunitas ini, yang sejak awal 2000-an telah mengemukakan argumen bahwa AI yang bermusuhan dapat menghancurkan kemanusiaan dalam beberapa dekade. Komunitas ini awalnya menarik individu yang diidentifikasi sebagai "orang luar yang cerdas". Salah satu alat perekrutan yang signifikan adalah karya fiksi penggemar Yudkowsky, *Harry Potter and the Methods of Rationality*, yang menggambarkan ulang karakter utamanya sebagai seorang empiris yang kaku dan menggunakan metode ilmiah untuk menguji sihir. Karya ini dilaporkan menarik bagi individu neurodivergen atau mereka yang mencari komunitas.

### Keamanan AI
Salah satu minat utama komunitas rasionalis adalah memerangi risiko eksistensial yang ditimbulkan oleh kemunculan superintelijensi buatan. Banyak anggota komunitas rasionalis percaya bahwa komunitas ini merupakan satu-satunya komunitas yang memiliki peluang untuk menyelamatkan umat manusia dari kepunahan. Tekanan yang terkait dengan tanggung jawab konsekuensial ini telah menjadi faktor penyebab krisis kesehatan mental di antara beberapa rasionalis.

### Nilai-nilai ekstrem
Jurnalis *[[Bloomberg Businessweek]]*, Ellen Huet, menambahkan bahwa gerakan rasionalis "menghargai nilai-nilai ekstrem: mencari kebenaran rasional di atas segalanya, menyumbangkan uang sebanyak-banyaknya, dan melakukan kebaikan semaksimal mungkin untuk alasan yang paling penting. Cara berpikir seperti ini dapat memberikan kejelasan yang menarik, tetapi juga dapat menutupi perilaku destruktif atau tercela".

### Gaya hidup
Secara sosial, komunitas ini mengembangkan klaster di Bay Area, di mana para anggotanya diketahui bekerja bersama, berinvestasi di perusahaan satu sama lain, tinggal di rumah komunal, dan bersosialisasi secara eksklusif, terkadang dalam jaringan hubungan poliamori.

## Sejarah
Perjalanan komunitas ini berkaitan erat dengan perhatian utama mereka akan risiko yang ditimbulkan oleh kecerdasan buatan. Yudkowsky mendirikan *[[Machine Intelligence Research Institute]]* (MIRI) di Berkeley untuk mengatasi masalah ini, dengan pendanaan awal dari Peter Thiel dan Jaan Tallinn. Pada tahun 2009, Yudkowsky juga membuat forum daring *[[LessWrong]]*, yang menjadi pusat debat rasionalis dan eksperimen pemikiran mengenai AI. Kekhawatiran ini mendapatkan perhatian yang lebih luas pada tahun 2014 setelah publikasi buku *Superintelligence* karya Nick Bostrom, yang membandingkan pengembangan AI dengan "anak-anak kecil yang bermain dengan bom". Peringatan serupa digaungkan oleh tokoh-tokoh teknologi terkemuka seperti Bill Gates dan Elon Musk, yang pada tahun 2014 menyebut AI sebagai "panggilan iblis". Para pendiri Silicon Valley seperti Vitalik Buterin dan Dustin Moskovitz juga memberikan sumbangan kepada komunitas ini. Pergeseran fokus kepada "longtermisme"—sebuah ideologi yang memprioritaskan penyelamatan triliunan potensi kehidupan di masa depan di atas miliaran kehidupan saat ini— membuat mereka mengarahkan sumber daya yang signifikan untuk mengatasi risiko kiamat AI. *[[Open Philanthropy]]*, sebuah organisasi nirlaba EA, meningkatkan hibahnya untuk tujuan longtermis dari $2 juta pada tahun 2015 menjadi lebih dari $100 juta pada tahun 2021. Sam Bankman-Fried, sebelum keruntuhan bisnisnya, adalah salah satu pendukung finansial utama, dimana ia menginvestasikan hampir $600 juta, termasuk $580 juta di Anthropic, sebuah perusahaan riset AI yang didirikan oleh mantan eksekutif OpenAI yang khawatir tentang percepatan risiko AI.

## Cabang-cabang

### Altruisme efektif
Komunitas rasionalis sangat terkait dengan gerakan altruisme efektif (EA), sebuah filosofi moral yang berakar pada karya Peter Singer. EA menekankan penggunaan pemikiran rasional dan data untuk mencapai dampak positif yang paling efisien secara maksimal di dunia. Awalnya, penganut EA berfokus pada filantropi terukur, seperti mendanai jaring anti-malaria daripada opera, yang perhitungannya berdasarkan penelitian kuantitatif. Kedua gerakan ini, rasionalisme dan EA, berbagi keyakinan bahwa matematika dapat membantu menjawab pertanyaan moral yang rumit. Seiring waktu, dunia rasionalis, EA, dan peneliti keselamatan AI mulai menyatu. EA menjadi wajah publik yang lebih utama untuk beberapa ide rasionalis yang lebih berada di pinggir, terutama kebutuhan mendesak akan keselamatan AI. Namun, batasan antara kelompok-kelompok ini tetap kabur; beberapa individu mengidentifikasi diri dengan istilah-istilah seperti "pasca-rasionalis" atau "berdekatan dengan EA" (*EA-adjacent)* untuk menunjukkan perbedaan keyakinan mereka.

## Referensi