یکی از چالش‌های دانشمندان هوش مصنوعی این است که ماشین‌های هوشمند چه اهدافی را باید دنبال کنند. ولی حتی اگر بشر بتواند بر روی چند اصل اخلاقی برای هدایت اهداف این ماشین‌ها به توافق برسد، هنوز هم پیاده‌سازی اهداف انسان‌دوستانه پیچیده خواهد بود. یک هوش مصنوعی باید اهداف‌مان را یاد بگیرد، بپذیرد که از آن‌ها پیروی کند و در طول فرایند ارتقای خود، آن اهداف را تغییر ندهد.