しかしながら、コードをオープンソース化することで理解できるようになるわけではなく、このことは多くの定義において、AIコードは透明ではないことを意味している。IEEEは、AIの透明性に関する標準化の取り組みを進めている。IEEEの取り組みでは、さまざまなユーザーに対して複数の透明性レベルを特定している。さらに、今日のAIの全能力を一部の組織に解放することは、公共の悪、つまり善よりも悪をもたらす可能性があるという懸念がある。たとえば、マイクロソフトは、同社の顔認識ソフトウェアへの普遍的なアクセスを（対価を支払える人であっても）認めることに懸念を表明している。マイクロソフトは、この話題について特別なブログ記事を投稿して、何が正しいかを判断するための規制を政府に求めている。
倫理的課題.
AIシステムにおけるバイアス.
IBMやグーグルなどの大企業は、このようなバイアスを研究し対処する努力を重ねてきた。バイアスに対処するための一つの解決策は、AIシステムの訓練に使用するデータのドキュメントを作成することである。プロセスマイニングは、エラーの特定、プロセスの監視、不適切な実行の潜在的な根本原因の特定、その他の機能により、組織がAI規制の提案の遵守を達成するための重要なツールとなりうる。
機械学習におけるバイアスの問題は、この技術が医療や法律などの重要な分野に普及し、深い技術的な理解を持たない多くの人が導入を任されるにつれて、より重要な意味を持つ可能性がある。一部の専門家は、アルゴリズムによるバイアスはすでに多くの業界に蔓延しており、それを特定し修正しようとする取り組みはほとんどなされていないと警告している。偏ったAIに対する意識を高めることを目的とした、市民団体によるオープンソースのツールも登場している。
ロボットの権利.
ロボットの権利（）とは、人の人権や動物の権利と同様に、人が機械に対して道徳的な義務を負うべきだという概念である。ロボットの権利（例：ロボットが生存し、自らの使命を遂行する権利）は、人権と社会に対する義務を結びつけるのと同様に、人類に奉仕するロボットの義務に結びつけることができると提案されている。たとえば、生存と自由の権利、思想と表現の自由、法の下の平等が含まれる可能性がある。この問題は、米国やでも検討された。