人工知能
人工知能(じんこうちのう)またはアーティフィシャル・インテリジェンス(artificial intelligence)、AI(エーアイ)とは、「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(computer science)の一分野」を指す語。「言語の理解や推論、問題解決などの知的行動を人間に代わってコンピューターに行わせる技術」、または、「計算機(コンピュータ)による知的な情報処理システムの設計や実現に関する研究分野」ともされる。大学でAI教育研究は、情報工学科や情報理工学科コンピュータ科学専攻などの組織で行われている(工学 [エンジニアリング] とは、数学・化学・物理学などの基礎科学を工業生産に応用する学問電子情報通信学会で工学博士の仙石正和が述べた定義では、「工学(Engineering)」とは「数学,自然科学の知識を用いて,健康と安全を守り,文化的,社会的及び環境的な考慮を行い,人類のために(for the benefit of humanity),設計,開発,イノベーションまたは解決を行う活動」だとされている。)。
『日本大百科全書(ニッポニカ)』の解説で、情報工学者・通信工学者の佐藤理史は次のように述べている。
ビル・ゲイツやイーロン・マスク、スティーブン・ホーキング、ヨシュア・ベンジオ、ピーター・ノーヴィグ、スチュアート・ラッセルなどの専門家や著名人の多くが人類滅亡の可能性を含む、人工知能の将来的な危険性を指摘している。
人間の知的能力をコンピュータ上で実現する、様々な技術・ソフトウェア・コンピュータシステム。応用例としては、自然言語処理(機械翻訳・かな漢字変換・構文解析・形態素解析等)、専門家の推論・判断を模倣するエキスパートシステム、画像データを解析し特定のパターンを検出・抽出する画像認識等がある。
2012年以降、Alexnetの登場で画像処理におけるディープラーニングの有用性が競技会で世界的に認知され、急速に研究が活発となり、第3次人工知能ブームが到来。2016年から2017年にかけて、ディープラーニングと強化学習(Q学習、方策勾配法)を導入したAIが完全情報ゲームである囲碁などのトップ棋士、さらに不完全情報ゲームであるポーカーの世界トップクラスのプレイヤーも破り、麻雀では「Microsoft Suphx(Super Phoenix)」がオンライン対戦サイト「天鳳」でAIとして初めて十段に到達するなど最先端技術として注目されている。第3次人工知能ブームの主な革命は、自然言語処理、センサーによる画像処理など視覚的側面が特に顕著であるが、社会学、倫理学、技術開発、経済学などの分野にも大きな影響を及ぼしている。
音楽分野においては、既存の曲を学習することで、特定の作曲家の作風を真似て作曲する自動作曲ソフトが登場している。またリズムゲームに使われるタッチ位置を示した譜面を楽曲から自動生成するなど分野に特化したシステムも開発されている。
絵画分野においては、コンセプトアート用背景やアニメーションの中割の自動生成、、モノクロ漫画の自動彩色など、人間の作業を補助するAIが実現している。AIに自然言語で指定したイラスト生成させるサービス(Stable Diffusionなど)も登場している。このような人工知能を利用して制作された絵画は「人工知能アート(Artificial intelligence art)」と呼ばれているが、教師データとして利用された著作物の知的財産権などを巡り、深刻な懸念が広がっている。
将棋AIは人間同士・AI同士の対局から学習して新しい戦法を生み出しているが、プロ棋士(人間)の感覚では不可解ながら実際に指すと有用であるという。
人工知能による人類絶滅の危険を懸念する声が存在するが、一方で平和を促進するための文化的な応用も存在する。
画像生成の技術としては、VAE、GAN、拡散モデルといった大きく分けて三種類が存在する。
子どものネット上の安全に人工知能を入れることは、国連や欧州連合で継続的に注目されている。
医療現場ではAIが多く活用されており、最も早く導入されたのは画像診断と言われている。レントゲンやMRI画像の異常部分を検知することで、病気の見逃し発見と早期発見に役立っている。また、AIがカルテの記載内容や患者の問診結果などを解析できるよう、自然言語処理技術の発展も進んでいる。今後はゲノム解析による疾病診断、レセプトの自動作成、新薬の開発などが行えるよう期待されている。
また、症例が少ない希少疾患の場合、患者の個人情報の保護が重要になるため、データを暗号化した状態で統計解析を行う秘密計算技術にAIを活用して、データの前処理、学習、推論を行えることを目指す研究が行われている。
AIを搭載した収穫ロボットを導入することで、重労働である農作業の負担を減らしたり、病害虫が発生している個所をAIでピンポイントで見つけだして、農薬散布量を必要最小限に抑えたりすることが可能になる。また、AIで事前に収穫量を正確に予測できれば、出荷量の調整にも役立つ。
Googleは農作物のスキャニングと成長記録を行う農業AIロボット「Don Roverto」を開発。多くの苗の個体識別を行い実験を繰り返すことで、厳しい環境下でも耐えられる気候変動に強い種を瞬時に見つけ出せる。
AIは人類が制御不能なほどに自らの性能を向上させる可能性があるとされる。著名なコンピューター科学者であるスチュアート・ラッセルとピーター・ノーヴィグによる大学レベルの標準的な教科書である『エージェントアプローチ人工知能』では「人類の終わりを意味するかもしれない」と評価している。
物理学者のスティーブン・ホーキングも「人類の終わりを告げる」可能性を指摘した。哲学者のニック・ボストロムは、十分に知的なAIが、ある目標の達成に基づいて行動を選択する場合、資源の獲得や停止されることから自身を守るなどの収束的行動を示すと論じている。このAIの目標が人類の目標を完全に反映していない場合、より多くの資源を獲得したり、停止されるのを防いだりするために、最終的には人類に危害を加える可能性を指摘し、AIがどんなに謙虚で「友好的」な目標を掲げていたとしても、AIは人類にリスクをもたらすと結論付けている。政治学者のチャールズ・T・ルービンは、「十分に高度な博愛主義は悪意と見分けがつかないかもしれない」とし、機械やロボットが人類の道徳システムを共有すると信じるアプリオリな理由がないため、機械やロボットが人類を好意的に扱うと仮定すべきではないと論じた。
専門家や業界関係者の意見はまちまちで、かなりの割合が最終的に超人的な能力を持つAIのリスクを懸念する一方で、楽観的な立場を取るものも少なくない。スティーブン・ホーキング、マイクロソフト創業者のビル・ゲイツ、歴史学者のユヴァル・ノア・ハラリ、スペースX創業者のイーロン・マスクらは、いずれもAIの将来について深刻な懸念を表明している。
スティーブン・ホーキング「人工知能の発明は、人類史上最大の出来事だった。だが同時に『最後』の出来事になってしまう可能性もある」
ビル・ゲイツ「これは確かに不安を招く問題だ。よく制御できれば、ロボットは人間に幸福をもたらせる。しかし、数年後、ロボットの知能は充分に発展すれば、必ず人間の心配事になる」
イーロン・マスク「人工知能についてはかなり慎重にならないといけないと思います。おそらく人類の一番大きな脅威となりうるものですね。ですので、本当に慎重さが求められます。規制や監視が国レベル、あるいは国際レベルで必要だと思いますね。私たちが何か分別に欠けるようなことをしないためにね。人工知能は悪魔を呼び出すようなものですから」
この他にも、イーロン・マスクはAIについての深刻な懸念を繰り返し表明しており、｢悪魔のような独裁者は、少なくともいつかは死ぬ。だが、AIに死が訪れることはない。永遠に生きる。つまり、絶対に逃れることのできない不死身の独裁者が現れるようなものだ｣として、永遠に破壊されることのない危険なAIを作り出す危険性を警告したほか、「AIが核兵器よりも危険なものとなる可能性がある」と表明している。また、AI開発を巡る国家間の競争を「第三次世界大戦の原因」になりうると指摘、AIは文明が直面する最大のリスクであると述べている。
ピーター・ティールとマスクを含む著名なハイテク企業は、OpenAIやFLIなどの責任あるAI開発を支持する非営利企業に10億ドル以上を出資している。
一方で、Facebookのマーク・ザッカーバーグは、人工知能は現在の形で役に立っており、今後も人類の助けになり続けると述べている。リスクは研究する価値がないほど遠い将来である、あるいは超高知能AIから人類は便益を受けることになると主張する専門家もいる。 特にロドニー・ブルックスは「悪意ある」AIはまだ数世紀先だと述べている。
ルンド大学のアナマリア・デュトチェク・セゲステン教授は、人工知能の利点と限界を理解することは、人工知能に対する無知が妨げになると指摘している。人工知能学会の松尾豊は、著書『人工知能は人間を超えるか』内に於いて、人間に対して反乱を起こす可能性を否定している。人工知能学会会長の野田五十樹は、「シンギュラリティ(技術的特異点)」や「2045年にAIが人間の知能を超える」という予測に対して「SFめいた話だ」と批判し、「そもそも“知能"が何を示すのか、定義をせずに語っても意味が無い。仮に知能が計算力を指しているのであれば、80年代からとっくに人間の能力を超えていることになる」と述べている。
2012年以前、社会学者ロバート・M・ゲラチは、AIとロボット工学(ロボティクス)を専攻しているカーネギーメロン大学の研究所を現地調査した結果、実際の研究はシンギュラリティ論とかけ離れた「世俗的現実」("the mundane reality")であると結論した。同氏はカーツワイルやハンス・モラベックらのシンギュラリティ論を「終末論的AI」("Apocalyptic AI")と呼び、そのような論自体に対しては支持も反論もしないと前提した。その上で、「終末論的AI」を通俗科学(pop science)の一種と見なしている。つまりそれは宗教・エンターテインメント・フィクション等と同じような、分かりやすくて興味を刺激する説明を使い、大勢の興味を引いて研究費を獲得しているとし、「終末論的AIは、実際のところ、金銭の要求である。("Apocalyptic AI is, indeed, a request for money.")」と述べている。
2023年3月29日、OpenAI、マイクロソフト、Alphabetなどが対話型の人工知能を相次いでリリースしていることを受け、非営利団体のフューチャー・オブ・ライフ・インスティチュートはChatGPTが開発したGPT4を超える性能の人工知能は専門家が安全性に関する規範が策定するまで開発を停止すべきという公開書簡を発表した。書簡にはイーロン・マスク、DeepMindの研究者、Stable Diffusionを開発するStability AIとCEOのエマード・モスターク、ヨシュア・ベンジオ、スティーブ・ウォズニアックなど業界関係者ら1000人以上が署名している。なおOpenAI、マイクロソフト、Alphabetの幹部は署名していない。
Future of Life Instituteの書簡については、サイエンス・フィクション的であり、むしろ現時点での人工知能のデメリットに注目すべきであるという批判がなされている。プリンストン大学の研究者であるアーヴィンド・ナラヤナンとサラヤシュ・カプールは、人工知能の現実的なリスクとして、不正確なツールへの依存による誤情報、中央集権的な権力と労働搾取による雇用への悪影響、セキュリティ上のリスクといった3点を重視すべきであると指摘し、元Googleの研究者であるティムニット・ゲブルはAIの現実的な害を軽減するために、透明性を強制する法規制の必要性を指摘した。
人工知能の負の側面として、詐欺や思考誘導、世論操作を行う目的で、捏造した顔画像や映像、フェイク音声、フェイク文章といったフェイクメディアを流通させる可能性がある。すでに日本国内においてもStable Diffusionを使って捏造された災害画像が拡散する事例もあり、AIを悪用した詐欺や詐称、名誉毀損は現実の脅威となっている。このため国内外で対策のための研究が進められている。
ディープフェイクなどAIを利用した政治目的の偽情報の対策のため、アメリカでは2020年に2つの連邦法が成立した。国防授権法とIOGAN法である。IOGAN法は生成AIによって出力されたものを含む、操作あるいは合成されたメディアに対抗するための研究を国家レベルで支援することを定めた。中国でも国防上の観点からAIに強い規制が科せられており、プラットフォーマーにも強い義務が課せられている。
著名人のポルノ画像も人工知能を悪用して偽造されるようになっており、Twitchで人気を集める配信者のQTCinderellaは、偽造ポルノ画像を家族に送付される嫌がらせを受けた。南カリフォルニア大学の専門家は、フェイクポルノを拡散された教員が失職に追い込まれた例もあったと証言している。フェイクポルノが大量に公開されたウェブサイトも出現しており、合法的なアダルトコンテンツに経済的な脅威を与える可能性が懸念されている。
OpenAIが提供する画像生成AIはフェイクポルノに悪用されないように、特定のリクエストの入力をブロックするような対策がされている一方で、モデルが公開されているStable Diffusionには名目上ポルノ生成を抑止するような方策が取られているものの、実際にはそれを回避した性的なコンテンツの生成が可能である。カリフォルニア大学バークレー校教授のハニー・ファリドによれば、インターネット上に公開された何億もの画像データを学習する過程で、女性を性的に扱うバイアスが反映されるため、モデルの出力を100%制御することは困難であるとされる。2022年11月にリリースされた「Lensa」も、女性の写真を全裸にしたり、胸を大きくするなどの加工に悪用できるとされ、問題視されている。
Kickstarterでは、Stable Diffusionによるポルノの作成を目指す出資プロジェクトが、集めた資金で既存の画像を学習データとして利用することが、多くのアーティストから批判されていることを受け、AIアートに関する条項を変更し、プロジェクトをブロックした。
2023年3月にはで作成された政治的なディープフェイクが現実の問題となった。問題となったのはドナルド・トランプ元大統領のディープフェイク画像で、オープンソースの調査機関の創設者であるエリオット・ヒギンズは「逮捕されて倒れているドナルド・トランプ」といったプロンプトを画像生成AIの一種であるMidjourneyに入力して、警察官に拘束されたトランプの画像を捏造し、Twitterに投稿した。この衝撃的な画像は、すぐに「ドナルド・トランプ元大統領が逮捕され、刑務所に護送された」といったメッセージとともに、Facebookなどのソーシャルメディアで拡散された。
この事件について、米上院情報委員会の委員長であるマーク・R・ワーナーは「立法者は、合成された画像が偽情報の拡散や、混乱や不和を起こすために悪用される可能性について何年も前から警告してきた」と述べた上で、「製品が合理的に予見できる被害を直接的に可能にするのであれば、潜在的な責任を問われる可能性がある」と人工知能の危険性に対する企業の義務に言及した。
マサチューセッツ工科大学の教授ローレン・R・グレアムは、莫大な資金力と人権の弾圧を併せ持つ中国が人工知能の開発競争で成功すれば、民主的な国家が技術革新に優位という既成概念が変わると述べ、「ディープラーニングの父」の一人と呼ばれているヨシュア・ベンジオは、中国が市民の監視や政治目的で人工知能を利用していることに警鐘を鳴らしており、世界の人権団体やメディアは、中国に代表される人工知能で人権を抑圧する政治体制を「デジタル権威主義」「デジタル独裁」「デジタル警察国家」「デジタル全体主義」「AI独裁」と呼んだ。
中国では、ヘルメットや帽子に埋め込んだセンサーから、国民の脳波と感情を人工知能で監視する、中国政府支援のプロジェクトが推し進められ、ネット検閲と官僚や刑務所の囚人から横断歩道の歩行者まで監視を人工知能に行わせ、監視カメラと警察のサングラス型スマートグラスやロボットに顔認識システム(天網)を搭載するなど人工知能による監視社会・管理社会化が行われている。
新疆ウイグル自治区では、監視カメラや携帯電話などから収集した個人情報を、人工知能で解析するプレディクティブ・ポリシングや人種プロファイリングで選別した少数民族のウイグル族を法的手続きを経ずに、2017年6月時点で約1万5千人もテロリズムや犯罪を犯す可能性があるとして、新疆ウイグル再教育キャンプに予防拘禁しているとする、中国政府の内部文書であるチャイナ・ケーブルが報じられており、AIを使った政府による特定の民族の選別や、コンピュータが人間を強制収容所に送る人権蹂躙は「前例がない」として、国際問題になっている。香港では、中国本土と同様の人工知能による監視社会化を恐れ、2019年-2020年香港民主化デモが起きた際は、監視カメラを搭載したスマート街灯が、市民に次々と破壊された。
中国は、AI監視技術を中東・アジア・アフリカなど、世界各国に輸出しており、国際連合の専門機関である国際電気通信連合(ITU)を通じて、中国がAI監視技術の国際標準化も主導してることから、中国のような人権侵害が世界に拡散することが、人権団体から懸念されている。
半自動の四脚ロボット「Spot(スポット)」は、ニューヨーク市警によって現場に配備されていたが、市民らの抗議により利用中止になった。「一般的に大半のSpotは、故障した送電線やガス漏れの調査などに使われている」反面、警察は市民らの承認を得ずにSpotを購入し利用していたため、「ロボット犬」とレッテルが貼られた。
AIプログラムは、実世界のデータによるバイアスが生じることがある。このバイアスはプログラムによって学習されるため、AIの開発者はバイアスが存在することに気づかないことが多い。バイアスは学習データの選択方法によって不注意に導入される可能性がある。また相関関係から出現することもある。AIは個人をグループに分類し、その個人がグループの他のメンバーに類似していると仮定して予測を行うために使用されるが、場合によっては、この仮定は不当であるかもしれない。この例として、COMPASは、被告人が再犯者になる可能性を評価するために、アメリカの裁判所によって広く使用されている商用プログラムであるが、プロパブリカは、COMPASが割り当てた黒人の被告の再犯リスクレベルは、プログラムが被告の人種を知らされていなかったにもかかわらず、白人の被告のそれよりもはるかに過大評価される可能性があると主張している。 アルゴリズムのバイアスが不公平な結果につながる可能性がある他の例は、信用格付けや採用の判断にAIが使われる場合である。
AIの出力結果は入力値を改竄したり、恣意的にバイアスを含むような訓練データを準備することなどの手法で操作できるため、差別やハラスメント、その他の不正行為に対する法的責任を回避するように悪用することが可能である。例えば、「AIが判断したんだから正しい」として部下に無理難題を押し付けるようなパワーハラスメントが想定されるため、AIモデルの説明責任が重視されている。
一方で、ルンド大学のアナマリア・デュトチェク・セゲステン教授は、人工知能の利用における差別などの問題に注意を促しつつも、人工知能は差別や感情を持たないため、人事などの雇用問題の分野で働くのに適していると述べた。
中国の社会信用システムに代表されるような、人工知能でビッグデータを活用して人々の適性を決める制度は、社会階層間の格差を固定化することに繋がるとする懸念があり、欧州連合では2018年5月から、人工知能のビッグデータ分析のみによる、雇用や融資での差別を認めない、EU一般データ保護規則が施行された。
マサチューセッツ工科大学が顔認識システムの精度で、Microsoftと中国のMegviiは9割超で、IBMは8割に達したのに対して、Amazon.comは6割で人種差別的なバイアスがあるとする研究を発表した際は、Amazon.comと論争になった。
2022年のウクライナとロシアの戦争でも人工知能が重要な役割を果たすと経済平和研究所は報告している。主要国の軍隊は、ミサイル防衛の分野での自動化を研究しており、一部は実現している。アメリカ海軍は完全自動の防空システム「ファランクスCIWS」を導入しガトリング砲により対艦ミサイルを破壊できる。イスラエル軍は対空迎撃ミサイルシステム「アイアンドーム」を所有し、ガザ地区との境界線には標的を自動検知するガーディアムやサムソン RCWSを稼働させて複数の人間を射殺している。今後AIは新しい軍事能力を生み、軍の指揮、訓練、部隊の展開を変え、戦争を一変させその変化は大国間の軍事バランスを決めることになるとの主張もある。作戦行動中の意思決定を補助するシステムも開発されており。P-1には戦術航空士の支援用として各種データを解析し最適な作戦を指示する戦闘指揮システムが搭載されている。
2016年6月、米シンシナティ大学の研究チームが開発した「ALPHA」は、元米軍パイロットとの模擬空戦で一方的に勝利したと発表された。AIプログラムは遺伝的アルゴリズムとファジィ制御を使用しており、アルゴリズムの動作に高い処理能力は必要とせず、Raspberry Pi上で動作可能。アメリカ合衆国国防総省は、人道上の観点から人間の判断を介さない自律殺傷兵器の開発禁止令を2012年に出し、2017年にはこれを恒久的なものにした。
一部の科学者やハイテク企業の首脳らは、AIの軍事利用により世界の不安定化は加速すると主張している。2015年にブエノスアイレスで開催された人工知能国際合同会議で、スティーブン・ホーキング、アメリカ宇宙ベンチャー企業のスペースX創業者のイーロン・マスク、Appleの共同創業者のスティーブ・ウォズニアックら、科学者と企業家らにより公開書簡が出されたが、そこには自動操縦による無人爆撃機や銃火器を操る人型ロボットなどAI搭載型兵器は、火薬、核兵器に続く第3の革命ととらえられ、うち一部は数年以内に実用可能となると予測。国家の不安定化、暗殺、抑圧、特定の民族への選別攻撃などに利用され、兵器の開発競争が人類にとって有益なものとはならないと明記された。
2015年4月には、ハーバード大学ロースクールと国際人権団体であるヒューマン・ライツ・ウォッチが、自動操縦型武器の禁止を求めている。2017年11月には、国際連合でAIの軍事利用に関する初の公式専門家会議が行われ、2019年8月に同会議は、AI兵器の運用をめぐる事実上初の国際ルールを採択するも、法的拘束力は盛り込まれなかった。
2019年から、アメリカ国防総省とJAICが2030年に向けて戦術や戦闘方式に革命を起こすために「結合全ドメイン指揮統制」とよばれるシステムの構築と導入を進めている。空軍、陸軍、海兵隊、海軍および宇宙軍の全ての軍種のセンサーをJADC2内のネットワークに接続する。加えてAIを用いて敵国の行動予測、偵察活動の自動化を実現し、戦術策定、戦闘計画の自動生成も行う。Palantirやボーイングがこの開発に関わっている。
アメリカ国防高等研究計画局や米空軍研究所は、Rebellion DefenseやHeron Systemsといったベンチャー企業と協力して、XQ-58A等の無人戦闘機の空中戦闘能力をAIを用いて強化する技術開発を進めている。またMQ-9、B21といった偵察爆撃機にCNNのような画像認識AIを導入する取り組みも進めている。Rebellion Defenseは元Google会長のエリックシュミットが出資しており、以前米国防総省がGoogleのTensorFlowを使用して画像認識技術の軍事転用をしようと試み、それが文書で明らかになってからGoogle社内から批判の声が上がったこともある。
2022年12月、ロッキード・マーティンが、AIエージェントの自律操縦ソフトを実装し、17時間以上の戦闘機の訓練飛行を完了した。
新冷戦や米中冷戦の状態にあるとも評されている、アメリカ合衆国・中国・ロシアは、核開発に匹敵する開発競争を人工知能の軍事利用をめぐって行っている。
中国は、2017年6月に119機のドローン群の自律飛行実験で、前年2016年に103機の飛行実験に成功したアメリカ軍の記録を更新して、翌2018年5月には北アメリカの都市を爆撃するCG映像も発表し、同年6月には56隻の自律無人艇を使った世界最大規模の試験を行うなど、AIの軍事利用の技術(特にスウォームと呼ばれる大量の徘徊型兵器などの自律兵器の統合運用)で中国が急速に進展しており、アメリカに追い付く可能性があることについて懸念し、アメリカ合衆国では将来に備える必要があるとの主張もされている。
中国の軍用AI開発は、アメリカ軍や政界に危機感を与え、2019年3月にジョセフ・ダンフォード統合参謀本部議長やパトリック・シャナハン国防長官代行、ドナルド・トランプ大統領は、中国でのAI研究拠点の設立などで中国人民解放軍に協力していると、Googleを非難し、GoogleのCEOサンダー・ピチャイはダンフォードやトランプ大統領と面談して、中華人民共和国のAI研究拠点の成果は、中国に限らず全ての人々に開放されていると釈明する事態になった。
アメリカ合衆国では、Googleがアメリカ軍のAIの軍事利用に協力する極秘計画「メイヴン計画」を行っていたことが、Googleの社員に暴露されており、2018年12月のアメリカ合衆国議会の公聴会では、同様に暴露された中国政府に協力する秘密計画「ドラゴンフライ計画」とともに、人工知能を用いた兵器開発や人権侵害は拒否するとGoogleが誓った、2018年6月の人工知能開発6原則との整合性で、追及を受けた。
中国人民解放軍の戦闘機J-20の標的選択支援アルゴリズムに、GoogleのAI研究者が関わったと報道された際は「AIではなく、統計学的なモデリング」と否定した。また、Microsoftが中国軍の教育機関とAIの共同研究を発表した際も、同様に波紋を呼んだ。
2019年11月にマーク・エスパー国防長官は、中華人民共和国がAIによって新しい監視国家を構築しているだけでなく、中東で翼竜や彩虹など無人攻撃機を大量に拡散させて、AIで自律的に攻撃するドローン兵器も販売していることに警鐘を鳴らした。
ロシアと中国は、既に実用化してるとされるハッキングの自動化の他、特定の個人を攻撃したりディープフェイクでなりすましたり、ボット投稿により世論を操る等の懸念が挙げられている。
過去において、技術革新は総雇用を減らすよりもむしろ増やす傾向があったが、経済学者はAIについて「我々は未知の領域にいる」と認めている。経済学者の調査では、ロボットやAIの使用の増加が長期的な失業の大幅な増加を引き起こすかどうかについて意見が分かれたが、生産性の向上が再分配に向けられれば純益となり得ることに概ね同意している。
以前の自動化の波とは異なり、多くの中産階級はAIによって失業に追い込まれるかもしれないという見解もあり、『エコノミスト』誌は、産業革命の間に蒸気機関がブルーカラー労働者の失業をもたらしたことと同様に、AIがホワイトカラーを失業に追い込むという懸念を「真剣に考える価値がある」としている。失業のリスクが非常に高い仕事はパラリーガルからファーストフードの調理担当までにわたるが、一方で個人向けのヘルスケアから聖職者に至るケア関連の専門職で雇用が増加すると想定される。
オックスフォード大学のマイケル・オズボーン博士が2013年に発表した論文によれば、人工知能やロボット等による代替可能性が高い労働人口が日本で約49%いること(アメリカは約47%、イギリスは約35%)、2030年代までにファストフード店で料理をする従業員が、ロボットやAIに取って代わられる可能性が81%と高いことを指摘されている。