مركز سلامة الذكاء الاصطناعي

مركز سلامة الذكاء الاصطناعي ( CAIS ) هو منظمة أمريكية غير ربحية مقرها سان فرانسيسكو، تعمل على تعزيز التطوير والنشر الآمن للذكاء الاصطناعي. يشمل عمل CAIS البحث في مجال السلامة التقنية للذكاء الاصطناعي وأخلاقياته، والدعوة، والدعم لتنمية مجال أبحاث سلامة الذكاء الاصطناعي. تأسست في عام 2022 على يد دان هندريكس وأوليفر تشانغ.

في مايو 2023، نشرت CAIS بيانًا حول خطر انقراض الذكاء الاصطناعي، ووقع عليه مئات من أساتذة الذكاء الاصطناعي، وقادة شركات الذكاء الاصطناعي الكبرى، وشخصيات عامة أخرى.

 بحث 
نشر باحثو CAIS دراسةً بعنوان "نظرة عامة على مخاطر الذكاء الاصطناعي الكارثية"، تُفصّل سيناريوهات المخاطر واستراتيجيات تخفيفها. تشمل المخاطر الموصوفة استخدام الذكاء الاصطناعي في الحروب المستقلة أو في هندسة الأوبئة، بالإضافة إلى قدرات الذكاء الاصطناعي في الخداع والاختراق. كما وصف عملٌ آخر، أُجري بالتعاون مع باحثين في جامعة كارنيجي ميلون، طريقةً آليةً لاكتشاف الهجمات المعادية لنماذج اللغة الكبيرة، والتي تتجاوز إجراءات السلامة، مما يُسلّط الضوء على قصور أنظمة السلامة الحالية.

 أنشطة 
تتضمن المبادرات الأخرى مجموعة حوسبة لدعم أبحاث سلامة الذكاء الاصطناعي، ودورة تدريبية عبر الإنترنت بعنوان "مقدمة إلى سلامة التعلم الآلي"، ومنحة دراسية لأساتذة الفلسفة لمعالجة المشكلات المفاهيمية.Scharfenberg, David (July 6, 2023). "Dan Hendrycks from the Center for AI Safety hopes he can prevent a catastrophe". The Boston Globe. Retrieved 2023-07-09.

يعد مركز صندوق عمل سلامة الذكاء الاصطناعي أحد الرعاة لمشروع قانون ولاية كاليفورنيا SB 1047، وهو قانون الابتكار الآمن والمضمون لنماذج الذكاء الاصطناعي الرائدة.

في عام 2023، حاولت بورصة العملات المشفرة أف تي أكس، التي أفلست في نوفمبر 2022، استرداد 6.5 مليون دولار كانت قد تبرعت بها إلى CAIS في وقت سابق من ذلك العام.

 انظر أيضا 

 سلامة الذكاء الاصطناعي
 مركز الذكاء الاصطناعي المتوافق مع الإنسان

 مراجع 

 روابط خارجية 



تصنيف:جمعيات الذكاء الاصطناعي
تصنيف:منظمات غير ربحية مقرها في سان فرانسيسكو
تصنيف:معاهد أبحاث في منطقة خليج سان فرانسيسكو