倉田奨励金研究報告書 第 52 集
2020 年度（第 52 回）助成

人文・社会科学：1 年助成

奨励金№1467

信頼される AI（trusted AI）に関する信認関係の継続的な構築における法的課題の研究
奥乃真弓

東洋大学法学部

東洋大学大学院

法学研究科

准教授

Study of Legal Issues in Continuous Construction of
Fiduciary Duties in Trusted AI
Mayumi J. Okuno,
Toyo University, Department of Law/Graduate School of Law, Associate Professor

AI サービス事業では、信頼性の高い AI 技術とステークホルダーとの信頼関係の持続的な構築が必要である。本
研究では、AI サービス事業の法人形態としての合同会社の利点と法的課題について考察した。特に、不法行為や損害賠償のリスク管理における垂直型遮断の可能性を探求し、その枠組みを提案した。さらに、比較法的な観点から、米国の Limited Liability Company（LLC）の拡張形態である保護シリーズ LLC を参照し、水平型遮断によるリスク分散の枠組みについて論じた。
AI services businesses necessitate highly reliable AI technology and the continuous building of trust relationships
with stakeholders. This research discusses the legalization of AI ser vices businesses as Godo-Gaisha from a
corporate law perspective, examining its benefits and legal challenges. It proposes a framework for a Godo-Gaisha
that utilizes vertical shields for risk management concerning torts and damage compensation that AI ser vices
businesses may encounter. From a comparative law perspective, the research discusses a framework that prevents
risks from spreading to similar businesses through horizontal shields, using the protected series LLC, an extensionof the U.S. Limited Liability Company（LLC）.

1．はじめに一方、AI 規制は、個人の権利保護から包括的な人工知能（AI）によるサービス事業（「AI サー

リスク管理へと舵を切った1。例えば、EU の一般ビス事業」）はすでに日々の生活の中に目に見えなデータ規制（General Data Protection Regulation,い形で浸透し始めている。特に、COVID-19 のパGDPR）は、個人の権利であるプライバシーや人ンデミックを契機として、従来、コストや人員削権の保護を重視しつつ、自動意思決定に起因する減の観点から実施をためらってきた事業におけるリスクを規制する条項を設けている2。GDPR に続自動化が一気に進んだ。また、2022 年に発表されく EU の AI 規制法案（Artificial Intelligence Act）

た GTP-3 の応用である ChatGTP などのチャット

はリスクベースの視点を採用し、健康と安全、基ボット、Midjourney などの画像生成に見られる生1

成 AI の登場は社会に大きなインパクトを与え、AIサービス事業の花が開き始めた。こうした急速な進展とともに、信頼される AI の確立と AI サービ
ス事業のリスク管理が喫緊の課題となっている。

Margot E. Kaminski, Regulating the Risks of AI（August 19, 2022）. Forthcoming, 103 Boston U. L. Rev.,at 3（2023）, U of Colo. L. Legal Stud. Rsch. Paper,
22-21. Doi: 10.2139/ssrn.4195066
2
General Data Protection Regulation, Art. 22, 2016 O.J.
（L 109）1. http://data.europa.eu/eli/dir/2016/679/oj.

倉田奨励金研究報告書 第 52 集
2020 年度（第 52 回）助成

人文・社会科学：1 年助成

本的人権に対する 2 つのリスクに焦点を当てていや研究開発者が極度に委縮や躊躇することなく、る。米国では、バイデン大統領の指令により AI 権AI サービス事業を健全に運営する枠組みとなるこ利章典の青写真が公表され3、2023 年には NIST にとを示唆した5。AI サービス事業合同会社を運営

よる AI リスク管理フレームワークが公表されていする主な利点を以下にまとめる6。

る4。これらの例は、AI システムを包括的に管理（1）現行の法制度の下での実現可能する方向性を国際的に示している。

（2）法人化による権利の取得と義務の履行（3）訴訟当事者能力の獲得

2．AI サービス事業を展開する上での課題（4）社員の出資者有限原則による損害賠償リス
クの遮断

AI の規制が強まる中で、どのように信頼できる（5）会社組織を窓口とする権利・責任の一元化

健全な AI サービス事業を展開していくのか、特に、その事業体としてどのようなものが適切なの間にある情報格差を惹起する情報の非対称性を埋

4．合同会社のリスクに対する垂直型・水平型遮断

める信認関係を継続的に構築するには、AI サービ

AI サービス事業を合同会社として設立すると、ス事業を法人として運用することが不可欠である。

出資者は原則として有限責任社員（会社法 576 条

ユーザーや顧客の利益を護り、第三者に対する損4 項）なので、出資の限度内で責任を負うことに害を補償する枠組みを確立し、ユーザーや顧客になり、リスクの遮断ができる。これは垂直型リス信頼感を与えると同時に、AI サービス事業の研究

7
ク遮断（vertical shield）と呼ばれる（図 1）。ただ開発者や事業提供者が過度に委縮しないような枠し、出資者有限責任の原則はメリットばかりでは組みを確立する必要がある。具体的には、AI サーなく、リスクになる場合がある。（4）に関し権利ビス事業に適した法人格を有する事業体を選択すの濫用等があれば、法人格否認の法理8 や業務執る上でリスク管理とともに次の 3 点を検討した。

行者の第三者に対する責任（会社法 597 条）の適かについての議論はあまりない。AI と利用者との1．透明性の向上（ユーザの利益保護）用があり得る。

2．責任の適切な範囲（研究開発者・出資者の萎縮回避）3．AI サービス事業の進展への対応（社会実装

米 国 の 合 同 会 社（Limited Liability Company,LLC）9 の発展として制定された保護シリーズ LLC
では、シリーズ LLC がシリーズに関連する社員、の基盤）
5

3．合同会社と AI サービス事業
上記の検討を通じて、AI サービス事業を運営する事業体として、合同会社の利用を提案するとともに、AI サービス事業合同会社が、世界中で席巻する AI 規制の中でリスクに適切に対応し、出資者
3

OSTP, Blueprint for an AI Bill of Rights, The WhiteHouse, Oct. 2022. https://www.whitehouse.gov/wpcontent/uploads/2022/10/Blueprint-for-an-AI-Bill-ofRights.pdf（2023.04.29）．
4
NIST, AI Risk Management Framework（AI RMF 1.0）
Jan. 2023. Doi: 10.6028/NIST.AI.100-1.

奥乃真弓「合同会社による AI・ロボット事業体の提案」東洋法学 66 巻 3 号 1〜20 頁（2023）。Doi: 10.34428/00014249
6
奥乃・前掲注 5, 11〜12 頁。
7
Uniform Protected Series Act（UPSA）, Pt. 2, 3（Uni. L.
Commʼn 8 Feb. 2019）, §401（a）.
8
法人格否認の法理とは、法人格が法律の適用を回避するために濫用されたり、あるいは法人格が全くの形骸にすぎない場合に、具体的な事例において、会社がその構成員または他の会社と独立した法人格を有することを否定する法理である。田中亘『会社法』（東京大学出 版 会、第 4 版、2023）35〜36 頁（下 線 は 著 者 に よる）。会社法上、明文の規定はないものの、古くから判例により認められている。

倉田奨励金研究報告書 第 52 集
2020 年度（第 52 回）助成

人文・社会科学：1 年助成

5．考察
AI・ロボットの開発や運用では、欧州包括規制に加えて、国内外での規制や倫理規定を遵守することが不可欠である。EU は AI に関する総括規制案と GDPR により、ディジタル社会への開発運用指針を先導することで、21 世紀の技術開発と図 1．従来の垂直型リスク遮断社会を先導させていく姿勢を見せている。また、EU の Data 法案では、データを生み出した企業や個人などの主体はそのデータを自由に使用できるという原則が提示され、データ経済の確立に向けて大きな一足を踏み出した。将来的には、AI・ロボットに対する法人格付与も視野には入ってくると考えられる。AI サービス事業の合同会社化による法人格の獲得とその経験の蓄積は、AI・ロボットへの法人格の付与の議論に貢献できると期待される。例えば、本研究では前提としていない完全自律 AI・ロボットに対して、現行のニューヨーク州の会社法や Revised Uniform Limited Liability

図 2．保護シリーズ LLC による水平型リスク遮断

Company Act（RULLCA）の下での LLC による法人格付与という Shown Bayern の提案に、本研究マネージャーおよびシリーズの資産の持分を指定で考察したリスク管理を組込むことが挙げられる。

し、各シリーズに関連する権利、権限、義務、財今後の課題の一つとして、法域（jurisdiction）産、負債、利益と損失、事業目的または投資目的間の違いへの対応が挙げられる。国際的な展開あ10を分離することを認めた （図 2）。シリーズ LLC、るいは米国では州際的な展開では、法域間の違い保護シリーズは共に LLC と同様に出資者有限責任による手続きの複雑さやコストを軽減するため、が適用されるので、債権者から請求があった場合適切な法域での事業運営が不可欠である。には、関連社員は関連出資を限度として賠償責任を負う。一方、シリーズ LLC の非関連資産や他の6．おわりにシリーズの関連資産はシリーズ 1 の債権者からの今後、AI サービス事業の社会実装を通じて広く

請 求 に 対 し て 遮 断 さ れ る。こ れ は 水 平 型 遮 断

普及させるには AI サービス事業のユーザーである（horizontal shield）と呼ばれる11。

消費者、AI サービスの開発に携わる研究開発者の双方のリスクを回避する必要がある。具体的には、AI サービス事業のユーザーが購入あるいは使用す9

Larr y E. Ribstein, Robert R. Keatinge & Thomas E.
Rutledge, Ribstein and Keatinge on Limited LiabilityCompanies（Thomson Reuters, 2019）.
10
Delaware Limited Liability Company Act（DLLCA）,§18-215.
11UPSA, §401（b）.

る AI サービスの事故等に対しその責任の所在をどこに求めるのかという取引の安全の確保、また、研究開発者に対する過度な過失責任の追及が引き起こす研究開発への萎縮といった阻害要因の排除があげられる。こうしたリスク回避は喫緊の課題

倉田奨励金研究報告書 第 52 集
2020 年度（第 52 回）助成である。

人文・社会科学：1 年助成

Limited Liability Companies, Information

本研究では、AI サービス事業の合同会社によるSystems for Business Management （ISBM）,展開におけるリスクを立法や法改正を伴うことな

ISBM Bangkok 2023, 07-08 Sept. 2023（Online）.

く回避し、AI サービス事業の社会実装に向けて、リスクの垂直型・水平型遮断という方法を提案した。また、比較法の観点から、米国の LLC のリスク遮断について論じた。米国の LLC とその変種については AI サービス事業がスモールビジネスとして創業する時に有益な事業体の枠組みを提供する可能性が高いと期待される。一方、法人格の付与という観点からは不明確な部分も多い。今後、AIサービス事業に関する米国の裁判例の分析・検討を踏まえ、合同会社をより使いやすい枠組みに制度化することを検討したい。
また、今後、AI サービス事業の合同会社が実績を積み、ユーザーや研究開発者のみならず社会全体にとって有益な形で展開できることを期待すると同時に、AI ロボット事業の合同会社に関し、本研究で紹介したシリーズ LLC の枠組みやその発展形を日本の会社法の観点から検討することは価値があると考える。
最後に、本研究をご支援いただいた（公財）日立財団倉田奨励金のご支援に感謝する。

2．発表（研究成果の発表）
2.1. 学会誌
・奥乃真弓、『合同会社による AI・ロボット事業体の提案』、東洋法学、66 巻、3 号、1〜20 頁（2023 年）。Doi: 10.34428/00014249,・Mayumi J. Okuno and Hiroshi G. Okuno（2023）
Risk Management for Artificial Intelligence by
Limited Liability Companies, In Proceedings ofISBM 2023, in print, Springer LNNS. ISSN:
2367-3370, Series.
2.2. 国際会議発表.
・Mayumi J. Okuno and Hiroshi G. Okuno（2023）
Risk Management for Artificial Intelligence by