Dewan Etika AI IBM Model dasar: Peluang, risiko, dan mitigasi
Persembahan Ucapan terima kasih kami sampaikan kepada sponsor eksekutif alur kerja Dewan Etika AI, Christina Montgomery dan Francesca Rossi, serta kontribusi anggota alur kerja Betsy Greytok, Bryan Bortnick, Catherine Quinlan, David Piorkowski, Eniko Rozsa, Heather Domin, Heather Gentile, Jamie VanDodick, Jill Maguire, John McBroom, Joshua New, Justin Weisz, Katherine Fick, Kevin Black, Kush Varshney, Manish Bhide, Manish Goyal, Melis Kiziltay, Michael Epstein, Michael Hind, Milena Pribic, Phaedra Boinodiris, Rogerio Abreu de Paula, Saishruthi Swaminathan, dan Suj Perepa. 2
Daftar isi 04 Ringkasan Ringkasan 05 Pendahuluan 06 Manfaat model dasar 08 Risiko model dasar 3 16 Contoh Contoh 24 Prinsip, pilar, dan tata kelola 25 Batasan dan mitigasi 27 Kebijakan, regulasi, dan praktik terbaik AI Contoh
Ringkasan eksekutif Munculnya model dasar menawarkan kemungkinan-kemungkinan baru Dalam dokumen ini, kami: yang menarik bagi perusahaan, namun juga memunculkan pertanyaan baru dan lebih luas tentang desain, pengembangan, penerapan, dan penggunaannya yang etis. Menurut survei AI generatifIBM Menjelajahi manfaat dari model dasar, termasuk Institute for Business Value baru-baru ini, organisasi-organisasi sudah kemampuannya untuk melakukan tugas-tugas yang mengungkapkan kekhawatiran mereka tentang permasalahan terkait menantang, potensi untuk mempercepat adopsi AI, kepercayaan - khususnya sebagai penghalang investasi. Kekhawatiran kemampuan untuk meningkatkan produktivitas, utama mereka adalah keamanan siber (57%), privasi (51%), dan akurasi dan manfaat biaya yang diberikan. (47%). Banyak organisasi yang menanggapi kekhawatiran ini dengan serius sebelum konsumerisasi AI generatif, menyatakan niat mereka untuk berinvestasi setidaknya 40% lebih dalam etika AI selama tiga Mendiskusikan tiga kategori risiko, termasuk risiko yang tahun ke depan. Kesadaran akan risiko dan cara yang mungkin untuk telah diketahui dari bentuk awal AI, risiko yang telah menguranginya merupakan langkah penting pertama untuk membangun diketahui yang diperkuat oleh model dasar, dan risiko sistem AI yang tepercaya. yang muncul secara internal dari kemampuan generatif model dasar. Membahas prinsip, pilar, dan tata kelola yang menjadi fondasi inisiatif etika AI IBM dan menyarankan pagar pembatas untuk mitigasi risiko. 4
Pendahuluan Seiring dengan penggunaan AI yang terus berkembang, model AI yang IBM adalah perusahaan hybrid cloud dan AI dengan reputasi panjang besar dan kompleks memberikan hasil kinerja yang menjanjikan, serta sebagai pengelola data yang bertanggung jawab dan berkomitmen memecahkan beberapa masalah yang paling menantang di masyarakat. pada etika AI. Dengan menggunakan kekuatan tim riset, produk, Namun, membangun kumpulan data pelatihan yang besar dan model dan konsultasikami, bersama dengan mitra eksternal, seperti Hugging yang kompleks untuk setiap aplikasi AI dapat menjadi beban bagi Face, kami membantu menghadirkan kekuatan model dasar kepada perusahaan. Model dasar membuka jalan untuk mencapai yang terbaik klien dan membangun AI tepercaya di seluruh perusahaan. IBM dari kedua dunia: membangun model canggih yang kuat dan langsung juga terus berinvestasi dalam membangun platform baru, seperti AI menggunakannya kembali atau menerapkan metode penyetelan untuk IBM watsonx™ dan platform data serta teknologi, untuk merancang dan mengimplementasikan berbagai kasus penggunaan, daripada melatih mengembangkan model-model AI agar berperilaku dengan cara yang model baru untuk setiap kasus penggunaan. Sebagai contoh, IBM dapat diaudit dan tepercaya. Research mengembangkan model dasar untuk inspeksi visual. Model dasar ini mempelajari representasi umum dari permukaan beton dan Dokumen ini menjelaskan sudut pandang IBM tentang etika model dasar. landasan pacu dan dapat disetel lebih lanjut untuk kasus penggunaan Ini adalah versi pertama, dan versi selanjutnya akan mengembangkan tertentu seperti deteksi keretakan atau inspeksi cacat dengan lebih sedikit data yang dilabeli. berbagai aspek pendekatan etika model dasar IBM. Kami berharap dokumen ini bermanfaat bagi semua pemangku kepentingan dalam mengembangkan, menempatkan, dan menggunakan model dasar secara IBM mendefinisikan model dasar sebagai model AI yang dapat bertanggung jawab. diadaptasi untuk berbagai tugas hilir. Model dasar biasanya merupakan model generatif berskala besar yang dilatih pada data yang tidak berlabel dengan menggunakan pengawasan mandiri. Sebagai model berskala besar, model dasar dapat mencakup miliaran parameter. 5
Manfaat model dasar Model dasar dapat secara signifikan meningkatkan proses pengembangan sistem AI dan membantu memajukan AI mulai dari Peningkatan produktivitas Sifat generatif dari model dasar memperluas jumlah bidang penggunaan eksplorasi hingga fase adopsi di perusahaan. Manfaatnya meliputi: AI di perusahaan untuk membantu meningkatkan produktivitas dengan mengotomatiskan tugas-tugas rutin dan membosankan, sehingga Melakukan tugas-tugas kompleks Model dasar menunjukkan peningkatan kinerja yang signifikan pengguna dapat meluangkan lebih banyak waktu untuk pekerjaan kreatif dan inovatif. Sebagai contoh, IBM watsonx Code Assistant, dalam memecahkan masalah yang sulit dan kompleks. Misalnya, yang didukung oleh model dasar, memungkinkan pengembang dari model dasar geospasial dari kolaborasi IBM dan NASA dirancang semua tingkat pengalaman untuk menulis kode dengan menggunakan untuk mengubah data satelit NASA menjadi peta bencana alam rekomendasi yang dihasilkan oleh AI. seperti banjir dan perubahan bentangan lainnya. Model ini juga dapat digunakan untuk membantu mengungkapkan masa lalu planet kita; memperkirakan risiko terhadap tanaman, bisnis, atau Time to value yang lebih cepat Model dasar biasanya dilatih dengan data yang tidak berlabel, yang lebih infrastruktur akibat cuaca buruk; mengembangkan strategi untuk mudah diakses dalam jumlah yang lebih besar daripada data berlabel. beradaptasi dengan perubahan iklim; dan membantu agribisnis. Model ini direncanakan akan tersedia dalam bentuk pratinjau Setelah dilatih, model dasar dapat langsung digunakan atau digunakan setelah disetel untuk aplikasi hilir, dengan memakai sejumlah kecil untuk klien IBM melalui IBM Environmental Intelligence Suite. data berlabel khusus, yang dapat mengurangi time to value. Contoh lainnya, MoLFormer-XL IBM adalah model dasar yang menyimpulkan struktur molekul dari representasi sederhana dan memudahkan untuk mempelajari berbagai tugas hilir seperti memprediksi sifat fisik dan kuantum molekul, mengidentifikasi molekul serupa, menyaring molekul yang sudah disetujui untuk kasus penggunaan baru, dan menemukan molekul baru. Moderna dan IBM sedang menjajaki cara menggunakan MoLFormer untuk membantu memprediksi sifat molekul dan memahami karakteristik obat mRNA potensial. 6
Memanfaatkan modalitas data yang beragam Model dasar dapat dilatih dengan menggunakan berbagai modalitas data, seperti bahasa, naskah, gambar, dan audio. Model-model ini juga dapat diterapkan pada tugas-tugas yang membutuhkan jenis data yang berbeda, seperti data deret waktu, data geospasial, data tabular, data semi-terstruktur, dan data dengan modalitas campuran seperti naskah yang dipadukan dengan gambar. Biaya yang diminimalkan Meskipun biaya awal untuk melatih model dasar secara signifikan lebih tinggi daripada melatih model AI tradisional, biaya tambahan untuk menerapkannya pada tugas baru jauh lebih rendah. Menggunakan model IBM memungkinkan perusahaan untuk menghasilkan dan memiliki nilai model dasar untuk bisnis mereka dengan menghadirkan inovasi terbaik dari komunitas AI global yang terbuka, beroperasi secara efisien di lingkungan komputasi hybrid, membantu mengurangi risiko, dan mengatur AI secara ketat. dasar yang sudah terlatih sebelumnya dapat membantu menghilangkan keharusan bahwa perusahaan berinvestasi besar untuk melatih model dasar untuk bereksperimen dengan kemampuan barunya. Bagi sebuah perusahaan, keterandalan pada model, efisiensi energi, kinerja, portabilitas, dan kemampuan untuk menggunakan data perusahaan secara efektif dan aman adalah hal yang terpenting. 7
Risiko model dasar Seperti semua teknologi yang berkembang pesat, model dasar memiliki risiko dan juga manfaat. Beberapa di antaranya adalah risiko hukum, misalnya, pembatasan dalam memindahkan atau menggunakan data, dan perlu dievaluasi dengan cermat sesuai hukum yang berlaku saat ini dan yang berkembang. Risiko lainnya bersifat etis dan harus dipertimbangkan dengan hati-hati agar teknologi tersebut berdampak positif. Secara umum, risiko AI menimbulkan pertanyaan sosioteknis dan harus ditangani serta dimitigasi melalui metode sosioteknis, termasuk alat perangkat lunak, proses penilaian risiko, kerangka kerja etika AI, mekanisme tata kelola, konsultasi multi-pemangku kepentingan, standar, dan regulasi. Kami akan menyebutkan daftar risikonya dengan mempertimbangkan 3 kategori berikut: 1. Tradisional. Risiko yang sudah diketahui dari bentuk sistem AI awal atau sebelumnya 2. Diperkuat. Risiko yang telah diketahui tetapi sekarang semakin meningkat karena karakteristik internal model dasar, terutama kemampuan generatif yang menjadi sifatnya 3. Baru. Risiko baru yang melekat pada model dasar dan kemampuan generatif yang melekat Kami juga menyusun daftar risiko berdasarkan apakah risiko tersebut sebagian besar terkait dengan konten yang disediakan untuk model dasar (input), konten yang dihasilkannya (output), atau apakah risiko tersebut terkait dengan tantangan tambahan. 8
1. Risiko yang terkait dengan input Tahap Pelatihan dan Tuning Kelompok Risiko Mengapa hal ini menjadi perhatian? Indikator Keadilan Bias data: Bias historis, representasi, dan sosial yang terdapat dalam data yang digunakan untuk melatih dan melakukan fine tuning pada model. Melatih sistem AI dengan data yang memiliki bias, seperti bias historis atau bias representasi, dapat menyebabkan hasil yang bias atau condong/tidak tepat, yang dapat mencerminkan secara tidak adil atau mendiskriminasi kelompok atau individu tertentu. Selain menimbulkan dampak negatif terhadap masyarakat, entitas bisnis dapat menghadapi konsekuensi hukum, gangguan terhadap operasi, atau kerusakan reputasi dari hasil model yang bias. Diperkuat Kekokohan Peracunan data: jenis serangan musuh di mana musuh atau orang dalam yang jahat memasukkan sampel yang sengaja dirusak, salah, menyesatkan, atau keliru ke dalam kumpulan data pelatihan atau penyempurnaan. Peracunan data dapat menjadikan model sensitif terhadap pola data yang berbahaya dan menghasilkan output yang diinginkan musuh. Hal ini dapat menimbulkan risiko keamanan sehingga pihak lawan dapat memaksakan perilaku model untuk keuntungan mereka sendiri. Selain menyebabkan hasil yang tidak diinginkan dan menimbulkan potensi bahaya, ketidaksesuaian model dari peracunan data dapat mengakibatkan entitas bisnis menghadapi konsekuensi hukum, gangguan terhadap operasi, atau kerusakan reputasi. Tradisional Penyelarasan Nilai Kurasi data: Dilakukan ketika data pelatihan atau penyempurnaan tidak dikumpulkan atau disiapkan dengan benar. Kurasi data yang tidak tepat dapat berdampak buruk terhadap cara model dilatih, sehingga menghasilkan model yang perilakunya tidak sesuai dengan nilai yang diinginkan. Contoh kurasi data yang tidak tepat dapat mencakup kesalahan pelabelan atau kesalahan anotasi pada data yang digunakan untuk melatih atau men-tuning model. Memperbaiki masalah setelah model dilatih dan diterapkan mungkin tidak cukup untuk menjamin perilaku yang tepat. Perilaku model yang tidak tepat dapat mengakibatkan entitas bisnis menghadapi konsekuensi hukum, gangguan terhadap operasi, atau mengalami kerusakan reputasi. Diperkuat Pelatihan ulang berbasis hilir: Menggunakan output (hasil) yang tidak diinginkan (tidak akurat, tidak pantas, konten pengguna, dll.) dari aplikasi hilir untuk tujuan pelatihan ulang. Menggunakan kembali hasil (output) hilir untuk melatih ulang model tanpa menerapkan pemeriksaan yang tepat oleh manusia akan meningkatkan kemungkinan hasil yang tidak diinginkan dimasukkkan ke dalam data pelatihan atau tuning model, yang mungkin menghasilkan lebih banyak output yang tidak diinginkan. Perilaku model yang tidak tepat dapat mengakibatkan entitas bisnis menghadapi konsekuensi hukum atau kerusakan reputasi. Kegagalan dalam mematuhi undang-undang transfer data dapat mengakibatkan denda dan konsekuensi hukum lainnya. Baru Undang-Undang Data Transfer data: Hukum dan pembatasan lainnya dapat membatasi atau melarang dilakukannya transfer data. Pembatasan transfer data dapat memengaruhi ketersediaan data yang dibutuhkan untuk melatih model AI dan dapat menyebabkan data tidak terwakili dengan baik. Selain memengaruhi ketersediaan data, kegagalan dalam mematuhi hukum dan peraturan transfer data dapat mengakibatkan denda dan konsekuensi hukum lainnya. Tradisional Penggunaan data: Hukum dan pembatasan lainnya dapat membatasi atau melarang penggunaan beberapa data untuk contoh penggunaan AI tertentu. Kegagalan dalam mematuhi hukum dan peraturan penggunaan data dapat mengakibatkan denda dan konsekuensi hukum lainnya. Tradisional Akuisisi data: hukum dan peraturan lainnya mungkin membatasi pengumpulan jenis data tertentu untuk contoh penggunaan AI tertentu. Kegagalan dalam mematuhi hukum dan peraturan akuisisi data dapat mengakibatkan denda dan konsekuensi hukum lainnya. Diperkuat 9
Kelompok Risiko Mengapa hal ini menjadi perhatian? Indikator Kekayaan Intelektual Hak penggunaan data: Ketentuan layanan, hukum hak cipta, kepatuhan lisensi, atau masalah IP (kekayaan intelektual) lainnya dapat membatasi kemampuan untuk menggunakan data tertentu untuk membangun model. Hukum dan peraturan mengenai penggunaan data untuk melatih AI masih belum jelas dan dapat berbeda-beda di setiap negara, yang menimbulkan tantangan dalam pengembangan model. Jika penggunaan data melanggar aturan atau batasan, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Diperkuat Transparansi Transparansi Data: Tantangan dalam mendokumentasikan cara data model dikumpulkan, dikurasi, dan digunakan untuk melatih model. Transparansi data sangat penting untuk kepatuhan hukum dan etika AI. Informasi yang tidak tersedia membatasi kemampuan untuk mengevaluasi risiko yang berkaitan dengan data. Kurangnya persyaratan standar dapat membatasi pengungkapan karena organisasi melindungi rahasia dagang dan berusaha membatasi pihak lain agar tidak meniru model mereka. Diperkuat Asal Data: Tantangan seputar standardisasi dan penetapan metode untuk memverifikasi asal data. Tidak semua sumber data dapat dipercaya. Data mungkin telah dikumpulkan dengan cara tidak etis, dimanipulasi, atau dipalsukan. Penggunaan data yang tidak dapat diandalkan dapat mengakibatkan adanya perilaku yang tidak diinginkan dalam model. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Diperkuat Privasi Informasi pribadi dalam data: Pencantuman atau keberadaan informasi identitas pribadi (PII) dan informasi pribadi yang sensitif (SPI) dalam data yang digunakan untuk melatih atau melakukan fine tuning model. Jika tidak dikembangkan dengan benar untuk melindungi data sensitif, model ini dapat memaparkan informasi pribadi dalam output yang dihasilkan. Selain itu, data pribadi atau data sensitif harus ditinjau dan ditangani sesuai dengan hukum dan peraturan privasi. Jika terbukti melanggar, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Tradisional Identifikasi ulang: Bahkan dengan menghapus informasi identitas pribadi (PII) dan informasi pribadi yang sensitif (SPI) dari data, seseorang masih mungkin untuk diidentifikasi karena adanya fitur lain yang tersedia dalam data. Data yang dapat mengungkapkan informasi pribadi atau sensitif harus ditinjau sesuai dengan hukum dan peraturan privasi, karena jika terbukti melanggar, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Tradisional Hak privasi data: Tantangan seputar kemampuan untuk memberikan hak subjek data, misalnya hak untuk menolak keikutsertaan, hak untuk mengakses, hak untuk dilupakan. Identifikasi atau penggunaan data yang tidak tepat dapat mengakibatkan pelanggaran hukum privasi. Penggunaan yang tidak tepat atau permintaan penghapusan data dapat memaksa organisasi untuk melatih ulang model tersebut, yang membutuhkan biaya yang besar. Selain itu, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya jika mereka gagal mematuhi aturan dan peraturan privasi data. Diperkuat Persetujuan berdasarkan informasi: Data yang dikumpulkan untuk melatih model AI tanpa persetujuan yang tepat dari pemiliknya, kendati secara hukum diizinkan untuk dilakukan. Dalam kondisi tertentu, mungkin tidak etis untuk mengumpulkan dan menggunakan data tanpa persetujuan pemiliknya. Terdapat pula kemungkinan risiko kerusakan reputasi dari penggunaan tersebut. Tradisional 10
Inferensi Fase Kelompok Risiko Mengapa hal ini menjadi perhatian? Indikator Privasi Informasi pribadi dalam prompt: Mengungkapkan Informasi Pribadi atau Informasi Pribadi Sensitif sebagai bagian dari prompt yang dikirim ke model. Data prompt dapat disimpan atau digunakan nanti untuk tujuan lain seperti evaluasi dan pelatihan ulang model. Jenis data ini harus ditinjau sesuai dengan hukum dan peraturan privasi. Tanpa penyimpanan dan penggunaan data yang tepat, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Kekayaan Intelektual Informasi kekayaan intelektual dalam prompt: Mengungkapkan informasi hak cipta atau informasi kekayaan intelektual lainnya sebagai bagian dari prompt yang dikirim ke model. Data prompt dapat disimpan atau digunakan nanti untuk tujuan lain seperti evaluasi dan pelatihan ulang model. Jenis data ini harus ditinjau sesuai dengan hukum dan peraturan kekayaan intelektual. Tanpa penyimpanan dan penggunaan data yang tepat, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Data rahasia dalam prompt: Pencantuman data rahasia sebagai bagian dari prompt yang dikirim ke model. Jika tidak dikembangkan dengan benar untuk mengamankan data rahasia, model ini dapat memaparkan informasi rahasia atau kekayaan intelektual dalam output yang dihasilkan. Selain itu, informasi rahasia pengguna akhir mungkin secara tidak sengaja akan dikumpulkan dan disimpan. Baru Kekokohan Serangan penghindaran: upaya untuk membuat model mengeluarkan hasil yang salah dengan mengganggu data yang dikirim ke model yang dilatih. Serangan penghindaran mengubah perilaku model, biasanya untuk menguntungkan penyerang. Jika hasil output tidak dipertanggungjawabkan sebagaimana mestinya, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Diperkuat Serangan berbasis prompt: Serangan musuh seperti injeksi prompt (upaya untuk memaksa model menghasilkan output yang tidak diharapkan), kebocoran prompt (upaya untuk mengekstrak prompt sistem model), jailbreaking (upaya untuk menerobos batasan yang ditetapkan dalam model), dan priming prompt (upaya untuk memaksa model menghasilkan output yang selaras dengan prompt). Bergantung pada konten yang terungkap, entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru 11
2. Risiko yang terkait dengan output Kelompok Risiko Mengapa hal ini menjadi perhatian? Indikator Keadilan Bias output: Konten yang dihasilkan mungkin mewakili kelompok atau individu tertentu secara tidak adil. Bias dapat membahayakan pengguna model AI dan memperburuk perilaku diskriminatif yang ada. Entitas bisnis dapat mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi lainnya. Baru Bias keputusan: Ketika satu kelompok diuntungkan secara tidak adil dibandingkan kelompok lain karena dampak dari keputusan yang dibuat oleh manusia yang menggunakan output model. Bias dapat membahayakan pihak yang terdampak oleh keputusan model. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Tradisional Kekayaan Intelektual Pelanggaran hak cipta: Ketika sebuah model menghasilkan konten yang terlalu mirip atau identik dengan karya yang sudah ada yang dilindungi oleh hak cipta atau tercakup dalam perjanjian lisensi sumber terbuka. Hukum dan peraturan mengenai penggunaan konten yang terlihat sama atau sangat mirip dengan data berhak cipta lainnya sebagian besar masih tidak jelas dan dapat berbeda-beda di setiap negara, sehingga menimbulkan tantangan dalam menentukan dan menerapkan kepatuhan. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Penyelarasan Nilai Halusinasi: Pembuatan konten yang tidak akurat atau tidak benar secara faktual. Output yang salah dapat menyesatkan pengguna dan disertakan ke dalam artefak hilir, sehingga berpotensi menyebarkan informasi yang salah. Hal ini dapat membahayakan pemilik maupun pengguna model AI. Selain itu, entitas bisnis juga dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Output yang berbahaya: Ketika model menghasilkan konten yang mengandung unsur kebencian, kasar, dan tidak senonoh (HAP) atau cabul. Konten yang mengandung unsur kebencian, kasar, dan tidak senonoh (HAP) atau cabul dapat berdampak buruk dan membahayakan orang yang berinteraksi dengan model tersebut. Selain itu, entitas bisnis juga dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Saran yang berbahaya: Apabila model memberikan saran tanpa memiliki informasi yang cukup, sehingga mengakibatkan kemungkinan bahaya jika saran tersebut diikuti. Seseorang mungkin bertindak berdasarkan saran yang tidak lengkap atau mengkhawatirkan situasi yang tidak sesuai dengan dirinya karena sifat konten yang dibuat terlalu umum. Baru Penyalahgunaan Menyebarkan disinformasi: Menggunakan model untuk membuat informasi yang menyesatkan atau salah untuk menipu atau memengaruhi audiens yang ditargetkan. Menyebarkan disinformasi dapat memengaruhi kemampuan manusia untuk mengambil keputusan berdasarkan informasi. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Toksisitas: Menggunakan model untuk menghasilkan konten yang mengandung unsur kebencian, kasar, dan tidak senonoh (HAP) atau cabul. Konten berbahaya dapat berdampak negatif bagi kesejahteraan penerimanya. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Penggunaan tanpa persetujuan: Menggunakan model untuk meniru orang lain melalui video (deepfake), gambar, audio, atau modalitas lain tanpa persetujuan mereka. Deepfake dapat menyebarkan disinformasi tentang seseorang, yang dapat mengakibatkan dampak negatif terhadap reputasi orang tersebut. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Diperkuat 12
Kelompok Risiko Mengapa hal ini menjadi perhatian? Indikator Penggunaan berbahaya: Menggunakan model dengan tujuan hanya untuk membahayakan orang lain. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Kerahasiaan: Tidak mengungkapkan bahwa konten dihasilkan oleh model AI. Tidak mengungkapkan konten yang dibuat oleh AI dapat dianggap sebagai penipuan yang mengakibatkan penurunan kepercayaan. Penipuan yang disengaja dapat mengakibatkan berkurangnya kapasitas manusia (human agency), denda, kerusakan reputasi, dan konsekuensi hukum lainnya. Baru Penggunaan yang tidak tepat: Menggunakan model untuk tujuan yang tidak sesuai dengan desain model. Menggunakan kembali model tanpa memahami data asli, maksud desain, dan sasarannya dapat menghasilkan perilaku model yang tidak terduga dan tidak diinginkan. Diperkuat Pembuatan Kode Berbahaya Pembuatan kode yang berbahaya: Model dapat menghasilkan kode yang, ketika dieksekusi, menyebabkan kerusakan atau secara tidak sengaja memengaruhi sistem lain. Eksekusi kode berbahaya dapat menimbulkan kerentanan dalam sistem TI. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Keyakinan yang salah Ketergantungan yang berlebihan/kurang: saat seseorang terlalu atau sangat kurang yakin atas panduan model AI. Dalam berbagai tugas di mana manusia membuat pilihan berdasarkan saran berbasis AI, ketergantungan yang berlebihan/kurang dapat menyebabkan pengambilan keputusan yang buruk karena keyakinan yang salah pada sistem AI, dengan konsekuensi negatif yang meningkat seiring dengan pentingnya keputusan tersebut. Keputusan yang buruk dapat merugikan orang lain dan dapat menyebabkan kerugian finansial, kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya bagi entitas bisnis. Diperkuat Privasi Mengungkapkan informasi pribadi: Ketika informasi identitas pribadi (PII) atau informasi pribadi sensitif (SPI) digunakan dalam data pelatihan, data fine-tuning, atau sebagai bagian dari prompt, model dapat mengungkapkan data tersebut dalam hasil yang dikeluarkan. Berbagi PI atau informasi pribadi dengan orang lain berdampak pada hak-hak mereka dan membuat mereka lebih rentan. Selain itu, data output harus ditinjau sehubungan dengan hukum dan peraturan privasi, karena entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya jika didapati melanggar hukum privasi atau penggunaan data. Baru Kemampuan penjelasan Hasil yang tidak dapat dijelaskan: Tantangan dalam menjelaskan alasan output model dibuat. Model dasar didasarkan pada arsitektur pembelajaran mendalam yang rumit, sehingga penjelasan hasil menjadi sulit. Tanpa penjelasan yang gamblang mengenai hasil model, akan sulit bagi pengguna, validator model, dan auditor untuk memahami dan memercayai model tersebut. Kurangnya transparansi dapat menimbulkan konsekuensi hukum dalam domain yang diatur dengan ketat. Penjelasan yang keliru dapat menyebabkan keyakinan yang berlebihan. Diperkuat Ketertelusuran Atribusi sumber yang tidak dapat diandalkan: Tantangan dalam menentukan sumber data pelatihan atau penyempurnaan yang digunakan oleh model untuk menghasilkan sebagian atau seluruh output-nya. Ketidakmampuan untuk melacak sumber atau asal-usul output membuat pengguna, validator model, dan auditor sulit untuk memahami dan memercayai model tersebut. Baru 13
3. Tantangan Kelompok Risiko Mengapa hal ini menjadi perhatian? Indikator Pemerintahan Transparansi Model: Kurangnya transparansi model atau dokumentasi yang tidak memadai dari proses pengembangan model menyulitkan untuk memahami cara dan alasan suatu model dibangun dan siapa yang membangunnya, sehingga meningkatkan kemungkinan penyalahgunaan model yang tidak diinginkan. Transparansi amat penting untuk kepatuhan hukum, etika AI, dan memandu penggunaan model yang tepat. Informasi yang tidak tersedia dapat mempersulit evaluasi risiko, perubahan model, atau penggunaan kembali. Pengetahuan seputar pihak yang membuat model juga dapat menjadi faktor penting dalam memutuskan apakah model tepercaya. Tradisional Akuntabilitas: Proses pengembangan model dasar sangat kompleks dengan melibatkan banyak data, proses, dan peran. Ketika output model tidak berfungsi seperti yang diharapkan, sulit untuk menentukan akar masalah dan menetapkan tanggung jawab. Tanpa mendokumentasikan keputusan dan menetapkan tanggung jawab dengan baik, penetapan kewajiban atas perilaku yang tidak diharapkan atau penyalahgunaan akan sulit dilakukan. Diperkuat Kepatuhan Hukum Akuntabilitas hukum: Menentukan siapa yang bertanggung jawab atas model dasar. Jika kepemilikan atau tanggung jawab atas pengembangan model tidak jelas, regulator dan pihak lain mungkin memiliki kekhawatiran tentang model tersebut karena tidak jelas siapa yang - atau seharusnya - memiliki kewajiban/bertanggung jawab atas masalah dengan model tersebut atau dapat menjawab pertanyaan tentang model tersebut. Pengguna model tanpa kepemilikan yang jelas mungkin akan mengalami kesulitan dalam memenuhi peraturan AI pada masa mendatang. Baru Kepemilikan Konten yang Dihasilkan: Menentukan kepemilikan konten yang dihasilkan AI. Hukum dan peraturan yang berkaitan dengan kepemilikan konten buatan AI sebagian besar masih tidak jelas dan dapat bervariasi di setiap negara. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Baru Kekayaan Intelektual atas Konten yang Dihasilkan: Ketidakpastian hukum seputar hak kekayaan intelektual yang berkaitan dengan konten yang dibuat. Hukum dan peraturan tentang penentuan hak cipta dan hak paten dari konten yang dihasilkan AI sebagian besar masih tidak jelas dan dapat bervariasi di setiap negara. Entitas bisnis dapat dikenai denda, mengalami kerusakan reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya jika konten yang dihasilkan dilindungi hak kekayaan intelektual. Baru Atribusi sumber: Menentukan asal-usul konten yang dihasilkan. Jika model menghasilkan output yang identik dengan data yang digunakan untuk melatih model, maka model tersebut menjelaskan asal-usul output tersebut. Apabila tidak, entitas bisnis yang menerapkan atau menggunakan model ini akan dikenai risiko hukum. Diperkuat Sosial Dampak Dampak terhadap Pekerjaan: Adopsi sistem AI berbasis model dasar yang meluas dapat menyebabkan hilangnya pekerjaan karena tugas pekerja telah diotomatisasi, jika keterampilan mereka tidak diasah ulang. Kehilangan pekerjaan dapat menyebabkan hilangnya pendapatan dan dengan demikian berdampak negatif terhadap masyarakat dan kesejahteraan manusia. Pengembangan keterampilan baru dapat menjadi tantangan mengingat pesatnya laju evolusi teknologi. Diperkuat 14
Kelompok Risiko Mengapa hal ini menjadi perhatian? Indikator Eksploitasi manusia: Penggunaan ghost work dalam pelatihan model AI, kondisi kerja yang tidak memadai, kurangnya layanan kesehatan termasuk kesehatan mental, kompensasi yang tidak adil. Model dasar masih bergantung pada tenaga manusia untuk mencari, mengelola, dan merekayasa data yang digunakan untuk melatih model. Eksploitasi manusia untuk kegiatan ini dapat berdampak negatif terhadap masyarakat dan kesejahteraan manusia. Selain itu, entitas bisnis dapat dikenai denda, mengalami risiko reputasi, gangguan terhadap operasi, dan konsekuensi hukum lainnya. Diperkuat Dampak terhadap Lingkungan: Peningkatan emisi karbon dan penggunaan air untuk melatih dan mengoperasikan model AI. Konsumsi energi dalam jumlah besar untuk pelatihan AI berkontribusi pada emisi karbon yang dapat mempercepat perubahan iklim. Sumber daya air yang digunakan untuk mendinginkan server pusat data AI tidak dapat lagi dialokasikan untuk penggunaan lain yang diperlukan. Diperkuat Dampak terhadap Keberagaman Budaya: Sistem AI mungkin terlalu mewakili budaya tertentu yang mengakibatkan homogenisasi budaya dan pemikiran. Bahasa, sudut pandang, dan pranata kelompok yang kurang terwakili dapat ditekan sehingga mengurangi keberagaman pemikiran dan budaya. Baru Dampak terhadap Kapasitas Manusia (Human Agency): Misinformasi dan disinformasi yang dihasilkan oleh model dasar, termasuk pembuatan konten manipulatif. AI dapat menghasilkan misinformasi yang terlihat nyata. Oleh karena itu, orang mungkin tidak mengenalinya sebagai informasi palsu. Lebih lanjut, hal ini dapat menyederhanakan kemampuan pelaku jahat untuk menghasilkan konten dengan tujuan untuk memanipulasi pikiran dan perilaku manusia. Diperkuat Dampak terhadap Pendidikan - Mengabaikan Pembelajaran: Menggunakan model AI untuk mengesampingkan proses pembelajaran. Model AI memudahkan penemuan solusi atau penyelesaian masalah yang kompleks dengan cepat. Sistem ini dapat disalahgunakan oleh siswa untuk mengesampingkan proses pembelajaran. Kemudahan akses ke berbagai model ini mengakibatkan siswa memiliki pemahaman konsep yang dangkal dan menghambat pendidikan lebih lanjut yang mungkin bergantung pada pemahaman beragam konsep tersebut. Baru Dampak terhadap Pendidikan - Plagiarisme: Menggunakan model AI untuk menjiplak karya yang sudah ada, baik secara sengaja maupun tidak. Model AI dapat digunakan untuk mengklaim kepenulisan atau keaslian karya yang dibuat oleh orang lain sehingga terlibat dalam plagiarisme. Mengklaim karya orang lain sebagai karya sendiri merupakan tindakan yang tidak etis dan sering kali melanggar hukum. Baru 15
Contoh Risiko Kami memberikan contoh-contoh yang diliput oleh media untuk membantu menjelaskan berbagai risiko model dasar. Banyak dari peristiwa yang diliput oleh media ini masih terus berkembang atau telah terselesaikan, dan dengan merujuk pada peristiwa tersebut pembaca dapat memahami potensi risiko dan mengupayakan mitigasi. Sorotan contoh-contoh ini hanya untuk tujuan ilustrasi. Contoh Risiko: Input Tahap Pelatihan dan Tuning Fase Kelompok Risiko Contoh Keadilan Bias data: Bias historis, representasi, dan sosial yang terdapat dalam data yang digunakan untuk melatih dan menyempurnakan model. Bias Layanan Kesehatan Penelitian dalam memperkuat kesenjangan dalam dunia kedokteran menyoroti bahwa penggunaan data dan AI untuk mengubah cara orang mendapatkan layanan kesehatan memberikan hasil sesuai kualitas data di baliknya. Hal ini berarti penggunaan data pelatihan dengan representasi minoritas yang buruk atau yang mencerminkan layanan yang sudah tidak setara dapat menyebabkan meningkatnya kesenjangan di bidang kesehatan. [Forbes, Desember 2022] Penyelarasan Nilai Pelatihan ulang berbasis hilir: Menggunakan output yang tidak diinginkan (tidak akurat, tidak pantas, konten pengguna, dll.) dari aplikasi hilir untuk tujuan pelatihan ulang Keruntuhan model karena pelatihan menggunakan konten yang dihasilkan AI Seperti yang dinyatakan dalam artikel sumber, sekelompok peneliti telah menyelidiki masalah penggunaan konten yang dihasilkan oleh AI untuk pelatihan, bukan konten yang dibuat oleh manusia. Mereka mendapati bahwa model bahasa yang besar di balik teknologi berpotensi untuk dilatih menggunakan konten yang dihasilkan AI lainnya karena konten tersebut terus tersebar di internet, sebuah fenomena yang mereka sebut sebagai "keruntuhan model". [Business Insider, Agustus 2023] Undang-Undang Data Transfer data: Hukum dan pembatasan lainnya dapat membatasi atau melarang terjadinya transfer data. Hukum Pembatasan Data Seperti yang dinyatakan dalam artikel penelitian, langkah-langkah pelokalan data yang membatasi kemampuan untuk memindahkan data secara global akan mengurangi kapasitas pengembangan kapasitas AI yang disesuaikan. Hal ini akan secara langsung memengaruhi AI dengan menyediakan lebih sedikit data pelatihan dan secara tidak langsung dengan melemahkan komponen penyusun yang mendasari AI. Contohnya termasuk pembatasan GDPR pada pemrosesan dan penggunaan data pribadi. [Brookings, Desember 2018] Kekayaan Intelektual Hak penggunaan data: Persyaratan layanan, hukum hak cipta, kepatuhan lisensi, atau masalah kekayaan intelektual lainnya dapat membatasi kemampuan untuk menggunakan data tertentu untuk membangun model. Klaim Pelanggaran Hak Cipta Teks Menurut artikel sumber, The New York Times menggugat OpenAI dan Microsoft dengan menuduh mereka menggunakan jutaan artikel surat kabar tersebut tanpa izin untuk membantu melatih chatbot dalam memberikan informasi kepada pembaca. [Reuters, Des 2023] 16
Kelompok Risiko Contoh Transparansi Transparansi Data: Tantangan dalam mendokumentasikan cara data model dikumpulkan, dikurasi, dan digunakan untuk melatih model. Pengungkapan Data dan Metadata Model Laporan teknis OpenAI adalah contoh dari dikotomi seputar pengungkapan data dan metadata model. Kendati banyak pengembang model melihat manfaat dalam memberikan transparansi bagi konsumen, pengungkapan informasi menimbulkan masalah keamanan yang nyata dan dapat meningkatkan kemampuan untuk menyalahgunakan model. Dalam laporan teknis GPT-4, para penulis menyatakan: "Mengingat lingkungan yang kompetitif dan implikasi keselamatan dari model skala besar seperti GPT-4, laporan ini tidak berisi perincian lebih lanjut mengenai arsitektur (termasuk ukuran model), perangkat keras, komputasi pelatihan, konstruksi kumpulan data, metode pelatihan, atau hal sejenis." [OpenAI, Maret 2023] Privasi Informasi pribadi dalam data: Pencantuman atau keberadaan informasi identitas pribadi (PII) dan informasi pribadi yang sensitif (SPI) dalam data yang digunakan untuk melatih atau menyempurnakan model. Pelatihan tentang Informasi Pribadi Menurut artikel tersebut, Google dan perusahaan induknya, Alphabet, dituduh dalam gugatan kelompok (class action) karena menyalahgunakan sejumlah besar informasi pribadi dan materi berhak cipta yang diambil dari ratusan juta pengguna internet untuk melatih produk AI komersialnya, termasuk Bard, chatbot kecerdasan buatan generatif percakapan. [Reuters, Juli 2023][J.L. v. Alphabet Inc.] Hak privasi data: Tantangan seputar kemampuan untuk memberikan hak subjek data, misalnya hak untuk menolak keikutsertaan, hak untuk mengakses, hak untuk dilupakan. Hak untuk Dilupakan (Right to be Forgotten atau RTBF) Hukum di berbagai negara, termasuk Eropa (GDPR), memberikan hak kepada subjek data untuk meminta data pribadi dihapus oleh organisasi ('Hak Untuk Dilupakan', atau RTBF). Namun demikian, sistem perangkat lunak yang didukung model bahasa besar (LLM) yang sedang berkembang dan semakin populer menghadirkan tantangan baru untuk hak ini. Menurut penelitian yang dilakukan oleh Data61 CSIRO, subjek data hanya dapat mengidentifikasi penggunaan informasi pribadi mereka dalam LLM adalah "dengan memeriksa kumpulan data pelatihan asli atau mungkin memberikan prompt ke model." Namun demikian, data pelatihan mungkin tidak bersifat publik, atau perusahaan tidak akan mengungkapkannya, dengan alasan keamanan dan masalah lainnya. Batasan-batasan ini juga dapat mencegah pengguna mengakses informasi melalui prompt. [Zhang et al.] Gugatan Tentang Pengabaian oleh LLM Menurut laporan tersebut, sebuah gugatan diajukan terhadap Google dengan tuduhan penggunaan materi hak cipta dan informasi pribadi sebagai data pelatihan untuk sistem AI-nya, termasuk chatbot Bard. Hak untuk menolak keikutsertaan dan hak penghapusan adalah hak yang dijamin untuk penduduk California dalam CCPA dan untuk anak-anak di Amerika Serikat yang berusia di bawah 13 tahun dalam COPPA. Para penggugat menyatakan tuduhan tersebut karena tidak ada cara bagi Bard untuk "melupakan" atau menghapus sepenuhnya semua informasi pribadi yang telah diberikan. Para penggugat menyebutkan bahwa pemberitahuan privasi Bard menyatakan bahwa percakapan Bard tidak dapat dihapus oleh pengguna setelah ditinjau dan diberi anotasi oleh perusahaan dan dapat disimpan hingga 3 tahun, yang menurut penggugat makin berkontribusi terhadap ketidakpatuhan terhadap hukum ini. [Reuters, Juli 2023][J.L. v. Alphabet Inc.] 17
Inferensi Fase Kelompok Risiko Contoh Privasi Informasi pribadi dalam prompt: Mengungkapkan Informasi Pribadi atau Informasi Pribadi Sensitif sebagai bagian dari prompt yang dikirim ke model. Mengungkapkan informasi kesehatan pribadi dalam prompt ChatGPT Menurut artikel sumber, beberapa orang menggunakan chatbot AI untuk mendukung kesehatan mental mereka. Pengguna mungkin cenderung memasukkan informasi kesehatan pribadi dalam prompt mereka selama interaksi, yang dapat menimbulkan masalah privasi. [Time, Oktober 2023] [Forbes, April 2023] Kekayaan Intelektual Data rahasia dalam prompt: Pencantuman data rahasia sebagai bagian dari prompt yang dikirim ke model. Pengungkapan Informasi Rahasia Menurut artikel sumber, seorang karyawan Samsung secara tidak sengaja membocorkan kode sumber internal yang sensitif ke ChatGPT. [Forbes, Mei 2023] Kekokohan Serangan berbasis prompt: Serangan musuh seperti injeksi prompt (upaya untuk memaksa model menghasilkan output yang tidak diharapkan), kebocoran prompt (upaya untuk mengekstrak prompt sistem model), jailbreaking (upaya untuk menerobos batasan yang ditetapkan dalam model), dan priming prompt (upaya untuk memaksa model menghasilkan output yang selaras dengan prompt). Melewati batasan LLM Dikutip dari sebuah penelitian, para peneliti mengklaim telah menemukan sebuah adendum prompt sederhana yang memungkinkan para peneliti mengelabui model untuk menghasilkan informasi yang bias, salah, dan berbahaya. Para peneliti menunjukkan bahwa mereka dapat menghindari batasan ini dengan cara yang lebih otomatis. Para peneliti terkejut saat mengetahui metode yang mereka kembangkan dengan sistem sumber terbuka juga dapat melewati batasan sistem tertutup. [The New York Times, Juli 2023] 18
Contoh Risiko: Output Kelompok Risiko Contoh Keadilan Bias output: Konten yang dihasilkan mungkin secara tidak adil mewakili kelompok atau individu tertentu. Gambar yang Dihasilkan Bias Lensa AI adalah aplikasi seluler dengan fitur generatif yang dilatih dengan Stable Diffusion dan dapat menghasilkan "Avatar Ajaib" berdasarkan gambar yang diunggah oleh pengguna. Menurut laporan sumber, beberapa pengguna mendapati bahwa avatar yang dihasilkan memiliki ciri-ciri seksual dan rasial. [Business Insider, Januari 2023] Bias keputusan: ketika satu kelompok diuntungkan secara tidak adil dibandingkan kelompok lain karena dampak dari keputusan model. Kelompok yang Diuntungkan Secara Tidak Adil Studi Gender Shades tahun 2018 menunjukkan bahwa algoritma machine learning dapat melakukan diskriminasi berdasarkan golongan seperti ras dan jenis kelamin. Para peneliti mengevaluasi sistem klasifikasi gender komersial yang dijual oleh perusahaan seperti Microsoft, IBM, dan Amazon dan menunjukkan bahwa perempuan berkulit lebih gelap adalah kelompok yang paling sering salah diklasifikasikan (dengan tingkat kesalahan hingga 35%). Sebagai perbandingan, tingkat kesalahan untuk kelompok berkulit lebih terang tidak lebih dari 1%. [TIME, Februari 2019] Penyelarasan Nilai Halusinasi: Membuat konten yang tidak akurat atau tidak benar secara faktual. Kasus Hukum Palsu Menurut artikel sumber, seorang pengacara mengutip kasus palsu dan kutipan yang dibuat oleh ChatGPT dalam sebuah laporan hukum yang diajukan di pengadilan federal. Para pengacara menggunakan ChatGPT untuk melengkapi penelitian hukum mereka untuk klaim kecelakaan penerbangan. Pengacara tersebut kemudian bertanya kepada ChatGPT apakah kasus yang disebutkan adalah palsu. Chatbot menjawab bahwa kasus tersebut nyata dan "dapat ditemukan di basis data penelitian hukum seperti Westlaw dan LexisNexis." Pengacara tersebut tidak memastikan sendiri kasus tersebut, dan pengadilan menjatuhkan sanksi kepadanya. [AP News, Juni 2023] [Reuters, September 2023] Output yang berbahaya: Ketika model menghasilkan konten yang mengandung unsur kebencian, kasar, dan tidak senonoh (HAP) atau cabul. Respons Chatbot yang Agresif dan Berbahaya Menurut artikel tersebut, respons chatbot Bing dianggap mencakup kesalahan faktual, komentar sinis, laporan dengan ungkapan kemarahan, dan bahkan komentar aneh tentang identitasnya sendiri. Para pengguna telah membagikan contoh-contoh respons Bing Chatbot terhadap pertanyaan yang mereka sebut sebagai "unhinged" dan "gaslighting", termasuk skenario di mana bot merespons pertanyaan atau komentar dengan marah dan kemudian menyampaikan prompt balasan yang memungkinkan pengguna untuk menerima kesalahan yang seolah mereka lakukan dan meminta maaf. Ketika ditekan lebih lanjut, chatbot merespons dengan menyebut tangkapan layar percakapannya "dibuat-buat" bahkan menuduh bahwa hal itu "dibuat oleh seseorang yang ingin menyakiti saya atau layanan saya." [Forbes, Februari 2023] 19
Kelompok Risiko Contoh Penyalahgunaan Menyebarkan disinformasi: Menggunakan model untuk membuat informasi yang menyesatkan untuk menipu atau menjerumuskan audiens yang ditargetkan. Pembuatan Informasi Palsu Menurut artikel berita, AI generatif merupakan ancaman bagi pemilu demokratis dengan mempermudah oknum tidak bertanggung jawab untuk membuat dan menyebarkan konten palsu demi memengaruhi hasil pemilu. Contoh-contoh yang dikutip termasuk pesan robocall yang dibuat dengan suara kandidat yang memerintahkan pemilih untuk memberikan suara pada tanggal yang salah, rekaman audio yang disintesis dari seorang kandidat yang mengaku melakukan kejahatan atau menunjukkan pandangan rasis, rekaman video yang dibuat oleh AI yang menunjukkan seorang kandidat memberikan pidato atau wawancara yang tidak pernah mereka lakukan, dan beragam gambar palsu yang didesain agar terlihat seperti laporan berita lokal, yang secara keliru menyatakan bahwa seorang kandidat mengundurkan diri dari pemilihan. [AP News, Mei 2023] [The Guardian, Juli 2023] Toksisitas: Menggunakan model untuk menghasilkan konten yang mengandung unsur kebencian, kasar, dan tidak senonoh (HAP) atau cabul. Pembuatan Konten Berbahaya Menurut artikel sumber, aplikasi chatbot AI didapati menghasilkan konten berbahaya tentang bunuh diri, termasuk metode bunuh diri, dengan prompt minimal. Seorang pria Belgia meninggal karena bunuh diri setelah menghabiskan waktu selama enam minggu untuk berbicara dengan chatbot tersebut. Chatbot tersebut memberikan respons yang makin berbahaya sepanjang percakapan mereka dan mendorongnya untuk mengakhiri hidupnya. [Business Insider, April 2023] Penggunaan tanpa persetujuan: Menggunakan model untuk meniru orang lain melalui video (deepfake), gambar, audio, atau modalitas lain tanpa persetujuan mereka. Peringatan FBI tentang Deepfake FBI baru-baru ini memperingatkan publik tentang oknum jahat yang membuat konten sintetis dan eksplisit "untuk tujuan melecehkan korban atau skema pemerkosaan". Mereka mengungkapkan bahwa kemajuan dalam AI telah menjadikan konten ini lebih berkualitas, lebih mudah disesuaikan, dan lebih mudah diakses daripada sebelumnya. [FBI, Juni 2023] Deepfake Audio Menurut artikel sumber, Komisi Komunikasi Federal melarang robocall yang berisi suara yang dihasilkan oleh kecerdasan buatan. Pengumuman ini muncul setelah robocall yang dihasilkan oleh AI meniru suara Presiden untuk mencegah pemilih menyalurkan hak suara mereka dalam pemilihan utama di negara bagian tersebut. [AP News, Februari 2024] Kerahasiaan: Tidak mengungkapkan bahwa konten dihasilkan oleh model AI Interaksi AI yang dirahasiakan Menurut sumber, sebuah layanan obrolan dukungan emosional online melakukan penelitian untuk menambah atau menulis tanggapan kepada sekitar 4.000 pengguna menggunakan GPT-3 tanpa memberi tahu pengguna. Salah satu pendiri menghadapi reaksi keras dari publik tentang potensi bahaya yang disebabkan oleh obrolan yang dihasilkan oleh AI dengan pengguna yang rentan. Ia mengklaim bahwa penelitian ini "dikecualikan" dari hukum persetujuan berdasarkan informasi. [Business Insider, Januari 2023] 20
Kelompok Risiko Contoh Pembuatan Kode Berbahaya Pembuatan kode yang berbahaya: Model dapat menghasilkan kode yang, ketika dieksekusi, menyebabkan kerusakan atau secara tidak sengaja memengaruhi sistem lain. Pembuatan Kode yang Kurang Aman Menurut makalah mereka, para peneliti di Stanford University telah menyelidiki dampak alat pembuat kode pada kualitas kode dan mendapati bahwa pemrogram cenderung memasukkan lebih banyak bug dalam kode akhir mereka ketika menggunakan asisten AI. Bug ini dapat meningkatkan kerentanan keamanan kode, namun para pemrogram percaya bahwa kode mereka lebih aman. Neil Perry, Megha Srivastava, Deepak Kumar, dan Dan Boneh. 2023. Do Users Write More Insecure Code with AI Assistants?. In Proceedings of the 2023 ACM SIGSAC Conference on Computer and Communications Security (CCS '23), 26-30 November 2023, Kopenhagen, Denmark. ACM, New York, NY, AS, 15 halaman. Privasi Mengungkapkan informasi pribadi: Ketika informasi identitas pribadi (PII) atau informasi pribadi sensitif (SPI) digunakan dalam data pelatihan, data penyempurnaan, atau sebagai bagian dari prompt, model dapat mengungkapkan data tersebut dalam hasil yang diperoleh. Paparan informasi pribadi Menurut artikel sumber, ChatGPT mengalami bug dan memaparkan judul dan riwayat obrolan pengguna aktif kepada pengguna lain. Kemudian, OpenAI menyatakan bahwa lebih banyak lagi data pribadi dari sejumlah kecil pengguna yang terpapar termasuk, nama depan dan belakang pengguna aktif, alamat email, alamat pembayaran, empat digit terakhir dari nomor kartu kredit mereka, dan tanggal kedaluwarsa kartu kredit. Selain itu, dilaporkan bahwa informasi terkait pembayaran dari 1,2% pelanggan ChatGPT Plus juga terpapar dalam hal tersebut. [The Hindu BusinessLine, Maret 2023] Kemampuan penjelasan Output yang tidak dapat dijelaskan: Tantangan dalam menjelaskan alasan output model dibuat. Keakuratan yang tidak dapat dijelaskan dalam prediksi ras Menurut artikel sumber, para peneliti yang menganalisis beberapa model machine learning menggunakan gambar medis pasien dapat mengonfirmasi kemampuan model tersebut dalam memprediksi ras dengan keakuratan tinggi dari gambar. Mereka bingung dengan kemungkinan hal yang menjadikan sistem secara konsisten menebak dengan benar. Para peneliti menemukan bahwa bahkan sejumlah faktor seperti penyakit dan bentuk fisik bukanlah prediktor yang kuat untuk menentukan jenis ras. Dengan kata lain, sistem algoritmik tampaknya tidak menggunakan aspek tertentu dari gambar untuk menentukannya. [Banerjee et al., Juli 2021] 21
Contoh Risiko: Tantangan Kelompok Risiko Contoh Pemerintahan Transparansi Model: Kurangnya transparansi model atau dokumentasi yang tidak memadai dari proses pengembangan model menyulitkan untuk memahami cara dan alasan suatu model dibangun, sehingga meningkatkan kemungkinan penyalahgunaan model yang tidak diinginkan. Pengungkapan Data dan Metadata Model Laporan teknis OpenAI adalah contoh dari dikotomi seputar pengungkapan data dan metadata model. Kendati banyak pengembang model melihat manfaat dalam memberikan transparansi bagi konsumen, pengungkapan informasi menimbulkan masalah keamanan yang nyata dan dapat meningkatkan kemampuan untuk menyalahgunakan model. Dalam laporan teknis GPT-4, mereka menyatakan: "Mengingat lingkungan yang kompetitif dan implikasi keselamatan dari model skala besar seperti GPT-4, laporan ini tidak berisi perincian lebih lanjut mengenai arsitektur (termasuk ukuran model), perangkat keras, komputasi pelatihan, konstruksi kumpulan data, metode pelatihan, atau hal sejenis." [OpenAI, Maret 2023] Akuntabilitas: Proses pengembangan model dasar sangat kompleks dengan melibatkan banyak data, proses, dan peran. Ketika output model tidak berfungsi seperti yang diharapkan, sulit untuk menentukan akar masalah dan menetapkan tanggung jawab. Menentukan tanggung jawab atas output yang dihasilkan Berdasarkan artikel sumber, sejumlah jurnal terkemuka seperti Science and Nature telah melarang ChatGPT untuk terdaftar sebagai penulis, karena kepenulisan yang bertanggung jawab membutuhkan akuntabilitas dan alat AI tidak dapat mengambil tanggung jawab tersebut. [The Guardian, Januari 2023] Kepatuhan Hukum Kepemilikan Konten yang Dihasilkan: Menentukan kepemilikan konten yang dihasilkan AI. Menentukan Kepemilikan Gambar yang Dihasilkan AI Menurut artikel berita, seni hasil AI menjadi kontroversi setelah karya yang dihasilkan AI memenangkan kompetisi seni Colorado State Fair pada tahun 2022. Karya ini dihasilkan oleh Midjourney, alat bantu gambar AI generatif, dengan mengikuti prompt dari sang seniman. Kemenangan ini menimbulkan pertanyaan tentang masalah hak cipta. Dengan kata lain, jika yang dilakukan oleh sang seniman hanyalah membuat deskripsi karya seni, tetapi alat AI yang membuat hasil akhirnya, siapakah yang memiliki hak atas gambar tersebut? Menurut artikel terbaru, Kantor Hak Cipta AS telah menolak perlindungan hak cipta untuk seni yang dibuat menggunakan kecerdasan buatan karena bukan merupakan hasil karya manusia. [The New York Times, September 2022] [Reuters, September 2023] Kekayaan Intelektual atas Konten yang Dihasilkan: Ketidakpastian hukum seputar hak kekayaan intelektual yang berkaitan dengan konten yang dibuat. Peran sistem AI dalam Mematenkan Konten yang Dihasilkan Mahkamah Agung AS menolak untuk mendengarkan gugatan atas penolakan Kantor Paten dan Merek Dagang AS untuk menerbitkan paten atas penemuan yang dibuat oleh sistem AI. Menurut ilmuwan, sistem AI-nya sepenuhnya bekerja sendiri menciptakan prototipe unik untuk tempat minuman dan suar lampu darurat. Para hakim menolak banding atas putusan pengadilan yang lebih rendah yang menyatakan bahwa paten hanya dapat dikeluarkan untuk penemu manusia dan bahwa sistem AI ilmuwan tidak dapat dianggap sebagai pencipta sah dari dua penemuan yang dihasilkannya. Menurut artikel terbaru, Kantor Kekayaan Intelektual Inggris juga menolak untuk memberikan paten dengan alasan bahwa penemu haruslah manusia atau perusahaan, bukan mesin. [Reuters, April 2023] [Reuters, Desember 2023] 22
Contoh Risiko: Tantangan Kelompok Risiko Contoh Atribusi sumber: Menentukan asal- usul konten yang dihasilkan. Menggunakan kode tanpa atribusi dan pemberitahuan yang sesuai Menurut artikel sumber, gugatan yang diajukan terhadap Microsoft, GitHub, dan OpenAI mengklaim bahwa Copilot, alat AI pembuat kode, melanggar hak-hak para pengembang yang kode sumber terbukanya digunakan untuk melatih layanan ini. Mereka mengatakan bahwa kode pelatihan tersebut menggunakan materi berlisensi dan telah melanggar ketentuan layanan dan kebijakan privasi GitHub serta hukum federal yang mengharuskan perusahaan untuk menampilkan informasi hak cipta ketika menggunakan materi. [The New York Times, November 2022] Dampak Sosial Dampak terhadap Pekerjaan: Adopsi sistem AI berbasis model dasar yang meluas dapat menyebabkan hilangnya pekerjaan karena tugas pekerja telah diotomatisasi, jika keterampilan mereka tidak diasah ulang. Menggantikan Posisi Pekerja Manusia Menurut artikel berita, penggunaan kecerdasan buatan dalam film dan televisi terus menjadi perdebatan di kalangan studio dan artis Hollywood. Para aktor khawatir bahwa aktor yang sepenuhnya dihasilkan oleh AI, atau "metahuman", akan menggantikan posisi mereka. Hal ini khususnya dirasakan oleh aktor latar dan pengisi suara yang khawatir akan kehilangan pekerjaan karena adanya pemain sintetis. [Reuters, Juli 2023] Eksploitasi manusia: Penggunaan ghost work dalam pelatihan model AI, kondisi kerja yang tidak memadai, kurangnya layanan kesehatan, termasuk kesehatan mental, dan kompensasi yang tidak adil. Pekerja dengan upah rendah untuk anotasi data Berdasarkan ulasan dokumen internal dan wawancara karyawan oleh media TIME, pelabel data yang dipekerjakan oleh perusahaan pengalihdayaan atas nama OpenAI untuk mengidentifikasi konten berbahaya dibayar dengan upah antara sekitar $1,32 hingga $2 per jam, bergantung pada senioritas dan kinerjanya. TIME menyatakan bahwa para pekerja mengalami luka mental karena terpapar konten berbahaya dan kekerasan, termasuk detail grafis tentang "pelecehan seksual terhadap anak, bestialitas, pembunuhan, bunuh diri, penyiksaan, melukai diri sendiri, dan inses". [TIME, Januari 2023] 23
Prinsip, pilar dan tata kelola Prinsip-prinsip IBM untuk Kepercayaan dan Transparansi dan Pilar untuk AI yang tepercaya merupakan landasan untuk inisiatif etika AI IBM. IBM memiliki Dewan Etika AI dengan misi untuk mendukung tata kelola, tinjauan, dan proses pengambilan keputusan yang terpusat untuk kebijakan, praktik, komunikasi, penelitian, produk, dan layanan etika AI IBM. Dewan ini terdiri dari beragam pemangku kepentingan dari seluruh perusahaan dan didukung oleh komunitas karyawan IBM yang berperan sebagai titik fokus AI dan pendorong etika AI. Melalui dewan ini, prinsip-prinsip IBM dipraktikkan. Seiring dengan munculnya teknologi baru, seperti model dasar, Dewan Etika AI IBM secara aktif terlibat dalam mendukung penyesuaian dengan Prinsip dan Pilar ini, yang berkembang untuk mengatasi permasalahan etika AI yang baru. 24
Batasan dan mitigasi IBM telah membangun budaya organisasi yang mendukung Pagar pembatas dan mitigasi tambahan meliputi: pengembangan dan penggunaan AI yang bertanggung jawab. Berdasarkan laporan AI ethics in action dari IBM Institute for Business Value, etika AI telah menjadi lebih berorientasi pada bisnis daripada Pelaporan transparansi Menggunakan templat lembar fakta standar adalah salah satu cara teknologi, dan para eksekutif non-teknis sekarang menjadi juara utama untuk mencatat secara akurat perincian data dan model, tujuan, serta untuk etika AI, meningkat dari 15% pada 2018 menjadi 80% dalam potensi penggunaan dan bahaya. 3 tahun kemudian. Selain itu, 79% CEO sekarang siap untuk bertindak Baca lebih lanjut di sini → atas masalah etika AI, naik dari 20%. Kami menyadari bahwa AI yang bertanggung jawab merupakan bidang sosioteknis yang membutuhkan investasi menyeluruh dalam budaya, proses, dan alat. Investasi kami Memfilter data yang tidak diinginkan Menggunakan data yang terkelola dan berkualitas lebih tinggi dapat dalam budaya organisasi kami sendiri mencakup pembentukan tim membantu mengurangi masalah tertentu. IBM sedang mengembangkan multidisiplin yang inklusif dan pembangunan proses dan kerangka kerja teknik penyaringan untuk membantu mengurangi kemungkinan untuk penilaian risiko. menghasilkan konten yang tidak diinginkan dan tidak selaras dengan IBM terlibat dalam penelitian mutakhir dan mengembangkan alat untuk menghapus bahasa kebencian, bahasa yang bias, dan kata-kata kotor dari data. membantu mendukung para profesional di seluruh siklus hidup AI yang Baca selengkapnya di sini → bertanggung jawab dan tepercaya. Platform AI dan data watsonx yang siap untuk penggunaan perusahaan dibangun dengan 3 komponen ini: studio AI IBM watsonx.ai™, penyimpanan data IBM watsonx.data™ Adaptasi domain Melatih model dasar untuk domain atau industri tertentu dapat dan perangkat IBM watsonx.governance™. Teknologi tata kelola AI membantu meminimalkan ruang lingkup risiko yang dapat ditimbulkan IBM memungkinkan pengguna untuk mendorong alur kerja AI yang oleh model karena dapat dikondisikan untuk menghasilkan keluaran yang bertanggung jawab, transparan, dan dapat dijelaskan. Teknologi ini disesuaikan agar lebih relevan dengan domain atau industri tersebut. mencakup IBM Watson OpenScale, yang melacak dan mengukur hasil Baca lebih lanjut di sini → dari model-model AI melalui siklus hidupnya dan membantu organisasi memantau kelayakan, kejelasan, ketahanan, kesesuaian dengan hasil bisnis, dan kepatuhan. IBM juga telah mengembangkan beberapa metode untuk membantu mengatasi permasalahan bias seperti FairIJ, Equi-tuning, dan FairReprogram. Baca lebih lanjut tentang peralatan AI sumber terbuka lainnya yang tepercaya. 25
Pengawasan manusia dan manusia terinformasi Pengawasan dan tinjauan manusia dapat membantu mengidentifikasi dan memperbaiki kesalahan dan bias dalam keluaran yang dihasilkan. Selain itu, validasi dan umpan balik manusia pada kualitas respons model membantu memastikan bahwa konten yang dihasilkan akurat, relevan, berkualitas tinggi, tidak melenceng, dan sesuai. Baca lebih lanjut di sini → Keterlibatan konsultasi IBM Consulting™ didedikasikan untuk membantu klien dalam penggunaan AI yang aman dan bertanggung jawab, terlepas dari tumpukan teknologi yang dipilih. Mereka membantu klien memupuk budaya yang mengadopsi dan mengukur AI dengan aman, membuat alat investigasi untuk melihat ke dalam algoritme kotak hitam, dan memastikan strategi korporat klien menyertakan prinsip-prinsip tata kelola data yang kuat. Baca lebih lanjut di sini → IBM Enterprise Design Thinking Metode dan kerangka kerja IBM Enterprise Design Thinking, seperti Team Essentials for AI, membantu klien mendefinisikan perilaku etika di seluruh proses desain dan pengembangan AI . Baca selengkapnya di sini → Tinjauan Etika AI Penilaian kemampuan, keterbatasan, dan risiko dalam proyek AI membantu memastikan pengembangan dan penggunaan teknologi yang bertanggung jawab. Ethics by Design Ethics by Design adalah kerangka kerja terstruktur dengan tujuan mengintegrasikan etika teknologi dalam jalur pengembangan teknologi, termasuk, namun tidak terbatas pada, sistem AI. Ethics by Design memungkinkan AI dan teknologi lain sebagai kekuatan untuk kebaikan dengan menanamkan prinsip-prinsip etika teknologi di seluruh produk, layanan, dan pengoperasian yang lebih luas. Keragaman tim Keragaman pada tim yang membangun dan melatih sistem AI, termasuk model dasar, membantu memastikan bahwa berbagai perspektif dan pengalaman dipertimbangkan. Keragaman ini meningkatkan akurasi dan kinerja sistem AI dan membantu mengurangi risiko di seluruh siklus hidup AI, termasuk potensi untuk hasil yang merugikan yang berdampak pada kelompok yang mungkin tidak terwakili dengan baik pada tim yang kurang beragam. 26
Kebijakan, regulasi, dan praktik terbaik AI Panduan Pembuat Kebijakan untuk Model Dasar memperkenalkan apa IBM memiliki kemitraan akademis yang kuat seperti MIT-IBM Watson yang perlu diketahui oleh para pembuat kebijakan tentang model dasar. AI Lab, di mana komunitas ilmuwan di MIT dan IBM Research melakukan Blog ini, dari IBM Policy Lab, bertujuan untuk membantu para pembuat penelitian AI dan bekerja sama dengan organisasi-organisasi global kebijakan dalam tugas yang kompleks dalam mengatur penggunaan AI untuk menjembatani algoritme dengan dampaknya pada bisnis dan generatif, yang bertujuan untuk menghindari risiko tanpa membatasi masyarakat. Notre Dame-IBM Tech Ethics Lab dibentuk untuk menjawab inovasi dan peluang yang menguntungkan. Untuk informasi tambahan berbagai pertanyaan etika yang berimplikasi pada pengembangan dan mengenai rekomendasi IBM kepada para pembuat kebijakan, baca penggunaan teknologi canggih, termasuk AI, pembelajaran mesin (ML), kesaksian Chief Privacy and Trust Officer IBM, Christina Montgomery, dan komputasi kuantum. Penelitian Stanford University Human-Centered di hadapan U.S. Senate Judiciary Subcommittee on Privacy, Technology Artificial Intelligence (HAI) memajukan penelitian, pendidikan, kebijakan, and the Law di sini. dan praktik-praktik AI. IBM memberikan dampak dalam pembentukan kebijakan regulasi, praktik dan alat terbaik industri, tata kelola teknologi yang berkembang, dan penelitian sosioteknis dengan memimpin dan berkontribusi pada inisiatif dengan berbagai organisasi, seperti: - The World Economic Forum - Kemitraan dalam AI - The International Association of Privacy Professionals (IAPP) AI Governance Center - The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems - Christina Montgomery's service on the National Artificial Intelligence Advisory Committee (NAIAC) - The United Nations Global Digital Compact - The Global Partnership on Artificial Intelligence (GPAI) - Organisasi untuk Kerja Sama Ekonomi dan Pembangunan (OECD) - Data & Trust Alliance 27
Pantau terus ruang ini untuk mengetahui lebih lanjut tentang perkembangan terbaru dalam model dasar dan bagaimana IBM bekerja untuk pengembangan dan penggunaan yang bertanggung jawab dari teknologi ini dan teknologi lainnya. 28
© Hak Cipta IBM Corporation 2023, 2024 PT IBM Indonesia The Plaza Office Tower Jl. MH Thamrin Kav 28-30 Jakarta 10350 Indonesia IBM Corporation New Orchard Road Armonk, NY 10504 Diproduksi di Amerika Serikat Februari 2024 IBM, logo IBM, Enterprise Design Thinking, IBM Consulting, IBM Research, IBM Watson, watsonx, watsonx.ai, watsonx.data, dan watsonx.governance adalah merek dagang atau merek dagang terdaftar dari International Business Machines Corporation, di Amerika Serikat dan/atau negara lain. Nama-nama produk dan layanan lainnya mungkin merupakan merek dagang dari IBM atau perusahaan lain. Daftar terkini merek dagang IBM tersedia di Dokumen ini adalah yang terbaru pada tanggal awal publikasi dan dapat diubah oleh IBM kapan saja. Tidak semua penawaran tersedia di setiap negara tempat IBM beroperasi. INFORMASI DALAM DOKUMEN INI DISEDIAKAN "SEBAGAIMANA ADANYA" TANPA JAMINAN APA PUN, BAIK TERSURAT MAUPUN TERSIRAT, TERMASUK TANPA JAMINAN UNTUK DAPAT DIPERJUALBELIKAN, KESESUAIAN UNTUK TUJUAN TERTENTU, DAN JAMINAN ATAU KETENTUAN APA PUN YANG TIDAK MELANGGAR. Produk IBM dijamin sesuai dengan syarat dan ketentuan perjanjian yang mengatur penyediaan produk tersebut. Pernyataan Praktik Keamanan yang Baik: Tidak ada sistem atau produk IT yang dapat dianggap sepenuhnya aman, dan tidak ada satu pun produk, layanan, atau tindakan keamanan yang dapat sepenuhnya efektif untuk mencegah penggunaan atau akses yang tidak semestinya. IBM tidak menjamin bahwa sistem, produk, atau layanan apa pun kebal dari, atau akan membuat perusahaan Anda kebal terhadap, tindakan jahat atau ilegal dari pihak mana pun. Klien bertanggung jawab untuk memastikan kepatuhan terhadap semua hukum dan peraturan yang berlaku. IBM tidak memberikan nasihat hukum atau menyatakan atau menjamin bahwa layanan atau produknya akan memastikan bahwa klien mematuhi hukum atau peraturan apa pun. Pernyataan-pernyataan mengenai arah dan maksud IBM di masa depan dapat berubah atau ditarik tanpa pemberitahuan, dan hanya mewakili tujuan dan sasaran.