ایمنی هوش مصنوعی

ایمنی هوش مصنوعی یک زمینه بین رشته‌ای است که با پیشگیری از سوء استفاده، حوادث یا سایر پیامدهای مضری که می‌تواند از سیستم‌های هوش مصنوعی (AI) ایجاد شود، مرتبط است. این موضوع شامل اصول اخلاق ماشین می‌شود که هدف آن اخلاقی و سودمند ساختن سیستم‌های هوش مصنوعی است و مشکلات‌های فنی از جمله سیستم‌های نظارت بر خطرات و قابل اعتماد ساختن آنها می‌شود.. فراتر از تحقیقات، ایجاد هنجارها و سیاست‌هایی که ایمنی هوش مصنوعی را ارتقا می‌دهد از اهداف ایمنی هوش مصنوعی است.

منابع