Deklarasi Toronto

Deklarasi Toronto: Perlindungan Hak atas Kesetaraan dan Non-Diskriminasi dalam Sistem Pembelajaran Mesin adalah sebuah deklarasi internasional yang menekankan praktik bertanggung jawab dalam pengembangan dan penerapan sistem pembelajaran mesin. Dokumen ini diterbitkan secara bersama oleh sejumlah organisasi hak asasi manusia, termasuk Amnesty International dan Access Now, dengan penandatangan tambahan dari Human Rights Watch dan Yayasan Wikimedia. Deklarasi ini pertama kali dipublikasikan pada konferensi RightsCon pada tanggal 16 Mei 2018.

Deklarasi Toronto menyoroti masalah bias algoritmik dan potensi diskriminasi yang dapat muncul dari penggunaan pembelajaran mesin dan kecerdasan buatan dalam berbagai konteks, termasuk penegakan hukum, sistem kesejahteraan sosial, layanan kesehatan, dan platform komunikasi daring. Dokumen ini juga menyinggung risiko privasi informasi data sebagai dampak sekunder dari penerapan teknologi tersebut.

Tujuan utama Deklarasi  Toronto adalah menetapkan standar yang konkret dan dapat diterapkan bagi pemerintah dan sektor swasta, termasuk rekomendasi tindakan reparatif bagi individu yang menjadi korban diskriminasi algoritmik.

 Isi 
Deklarasi ini terdiri atas 59 pasal yang terbagi ke dalam enam bagian, membahas mengenai Hukum internasional tentang hak asasi manusia, tugas negara, tanggung jawab aktor sektor swasta,  dan hak atas pemulihan yang efektif.

 Pembukaan 
Deklarasi diawali dengan pertanyaan mengenai pertanggungjawaban atas pelanggaran hak asasi manusia yang mungkin timbul dari sistem pembelajaran mesin. Dokumen ini menegaskan bahwa semua pihak yang terlibat dalam pengembangan dan penerapan teknologi, baik di sektor publik maupun swasta, harus mempertimbangkan dampak terhadap hak asasi manusia, sesuai dengan hukum, prinsip, dan standar internasional yang berlaku. Hak asasi manusia yang disebutkan meliputi hak atas privasi dan perlindungan data, hak atas kebebasan berekspresi dan berserikat, hak untuk berpartisipasi dalam kehidupan budaya, kesetaraan di hadapan hukum, dan akses terhadap pemulihan yang efektif. Fokus utama deklarasi adalah pada hak atas kesetaraan dan non-diskriminasi.

 Kerangka hukum hak asasi manusia internasional 
Deklarasi menggunakan kerangka hukum hak asasi manusia internasional untuk mendefinisikan diskriminasi, menyediakan mekanisme pertanggungjawaban, serta menjamin pemulihan bagi korban. Diskriminasi menurut definisi Komite Hak Asasi Manusia PBB didefinisikan sebagai setiap perbedaan, pengecualian, pembatasan, atau preferensi berdasarkan ras, warna kulit, jenis kelamin, bahasa, agama, pandangan politik atau lainnya, asal-usul sosial atau nasional, status harta, kelahiran, atau status lainnya, yang bertujuan atau berdampak mengurangi pengakuan dan pelaksanaan hak secara setara oleh semua individu.
 Referensi 

Kategori:Komputer dan masyarakat
Kategori:Pemelajaran mesin
Kategori:Regulasi kecerdasan buatan