2022 年 5 月
JDLA 事務局「AI ガバナンスとその評価」研究会（第Ⅱ期）第 7 回
開催報告
1. はじめに日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下 DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7 月から立ち上げ、第Ⅱ期の検討を 2021 年 9 月から実施している。
研究会第 7 回（2022 年 2 月 24 日）においては、前半の部では NPO 法人コミュニティリンクの榊原貴倫氏より「市民による自治コミュニティ活動のテクノロジー活用」、後半の部では ZIAI の櫻井昌佳氏より「AI を活用した自殺予防の取り組み」と題して話題提供が行われた。本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。
2. 市民による自治コミュニティ活動のテクノロジー活用
前半の部では NPO 法人コミュニティリンクの榊原貴倫氏より「市民による自治コミュニティ活動のテクノロジー活用」と題して話題提供を頂いた。
NPO 法人コミュニティリンク1について
コミュニティリンクでは街づくりの推進を図る活動と情報化社会の発展を図る活動を行っており、ミッションとして「人をつなぐ。地域をつなぐ。ICT で地域は変わる。
」を掲げている。これまで自治活動をメインで行っている年齢層が 80 歳前後という状況等があり、地域活動において IT の活用はあまり進んでいなかった。しかし、最近では IT の活用が自治活動に対して効果的であると考える世代が徐々に参画を始めており、IT の活用が当たり前となった次世代の自助・互助の形を目指している。テクノロジーが社会の中で当たり前に使われ、より高度な位置でアウフヘーベンを起こすことを目指し活動を行っている。
大原桂木地域防災訓練での LINE チャットボット活用事例
大原桂木地域は神戸市北区に位置し、阪神大震災の少し前に宅地開発が開始された開発

1

NPO 法人コミュニティリンク, https://communitylink.jp/

1

都市である。開発と同時に人口が増加したが、現在多くの地域と同様に少子高齢化が進んでおり、高齢者の単独化といった課題がある。ただし全体的に高齢化が進んでいる中でも、振興開発は進んでおり、新しい自治の枠組みも残っている地域となる。
地域活動を行う中で以下の課題を認識している。
1.

地域自治活動参画者の高齢化

2.

新たな参画者不足

3.

価値課題観の世代間差

4.

コロナで集会、訪問がやりづらくなった

上記課題に対する解決策として、LINE チャットボットの活用を実施してきた。この活動は新型コロナウイルス感染拡大以前より実施されている。
1.

自治活動の参加の敷居を下げる試み（1 年目）

2.

コロナ過密にならない防災訓練（2 年目）

防災コミュニティにて LINE の公式アカウントを取得し、訓練参加者が LINE API で用意したロボットと会話をすることで情報を集約する。防災コミュニティ本部にて集約した情報を元に町全体の状況の確認を行い、次の行動に移るといった仕組みとなっている。
LINE であれば若年層にも使いやすいことを意図していたが、防災コミュニティの中心となる 80 歳前後のメンバーにおいても、9 割が LINE を使用しており、ロボットとの会話には支障のない状態であった。公式アカウント機能を使用しており、他の住民とのつながりが不要であり、訓練後には集約したデータをすべて削除することや、訓練後不要であればアカウントを削除して問題ないことを事前にアナウンスしている。
実際の会話の中では、訓練開始の連絡後、住民の属性（エリア、性別、世代）を取得し、その後、状況のテキストでの報告や可能であれば写真の送付により位置情報を取得している。また平時であっても、報告事項があれば可能となっている。
チャットボット運営上の課題や改良
運営上の課題としては以下 3 点を認識しており、今後検討が必要である。
➢

ネット上の個人情報取り扱い対応➢

操作ミスによる関係のない写真の誤送信➢

スマートフォンや WEB の質問への対応

現在も機能の改良を進めており、例えば Micro:bit を LINE Beacon として避難所に設置しており、公式アカウントと友達になっている人のカウントを行うことで到達者情報を集約し、IOT センサーを利用した見守りの仕組みを構築している。
将来的にはこの仕組みを高齢者の徘徊対策として活用することも検討しているが、公助との連携についても課題となっており、宝塚市のまちづくり協議会などで広報・防災の試
2験運用を実施している。
また自助・互助の枠組みに加え、公助の中でも共助といった形で行政インフラとの連携を検討しており、神戸市の危機管理室にて AI を利用した仕組みづくりに参画するなどの活動を行っている。
3. AI を活用した自殺予防の取り組み
後半の部では ZIAI の櫻井 昌佳氏より「AI を活用した自殺予防の取り組み」と題して話題提供を頂いた。
ZIAI2について設立の経緯として、2020 年 2 月よりインドにて現地のスラム街の女性への暴力防止の取組を行っていたが、コロナ禍によりプロジェクトが中止となったことで、日本において力を尽くすべき社会課題を検討し、自殺防止に向けた取組を行っている。
令和元年のデータ3では日本では 1 日に 55 人が自殺しており、諸外国と比較しても最低の水準となっている。当初は自殺の事前検知の取組として SNS などで関連するキーワードを抽出し、一人ひとり話しかけカウンセリングを行う中で、解決に向けたヒントを考えていたが、自殺の原因は一つではなく、原因の解消は難しいと考えるに至った。
そんな中、あるインド人からの「なぜ自分たちインド人の方が過酷な環境にいるはずなのに、日本の方が自殺率が高いのか？」といった問いについて考える中で、課題そのものよりも、課題への向き合い方のほうが自殺と関係が深いのではないかと考えるに至った。
経済的困窮やいじめ自体をなくすことはもちろん重要だが、おそらくそれだけは自殺は無くならない。一つ壁を超えたとしても、人生にはあらゆる粒度の課題が現れるのであり、それらの課題に向き合い、正しく対処できる自分である必要がある。インド人の質問から、一人ひとりが抱える課題に対する向き合い方や解決までのアプローチを支援する仕組みを作ることができれば、次につながるヒントが見つかるかもしれないという気付きを得た。
テクノロジーの活用により、自分を殺すのではなく、誰もが自分を愛し、自分の人生を許容できるような社会を目指し、「ZIAI」として非営利型の一般社団法人を立ち上げたのが設立の経緯となる。
直近の自殺防止の取組
実際の相談に向き合う役割である相談窓口／カウンセラーの数が圧倒的に不足しているという課題がある。例えば全国で運用が進む SNS 相談（チャット相談）において、平成 30 年度の調査で応答率が 2.7～21.4％と低い水準となっている。
悩みを抱える人にとって、最後の砦となりうる相談窓口の応答率が低いことは深刻な課

2

ZIAI, https://www.ziai.jp/

3

厚生労働省「令和元年の自殺の状況」, r2h-1-6.pdf (mhlw.go.jp)

3

題であり、AI×カウンセラーの新たな仕組みを作ることにより 2030 年までに 100％に引き上げることをマイルストーンとしている。
現状の相談窓口の運用としては、限られた情報より相談者をピックアップし、プロのカウンセラーにより決まった時間の範囲内でカウンセリングを行っている状態である。これを AI×カウンセラーの仕組みにより以下のように変えていくことを目指している。
➢事前質問 AI によるリスク度の判断➢

リスク度低に関しては自律型 AI による 簡易カウンセリングの実施➢

高リスク者を優先的にプロのカウンセラーが相談対応

上記仕組みを実現するための座組として、カウンセリングを行う NPO とパートナーシップを結ぶ前提で組織を作っている。相談者はカウンセリングの NPO に対して相談を行うため、彼らを支援する役割を担う形になる。そのための機能として、ローリスクの相談者との会話ができること、またリスク度の判定ができることの 2 点が必要となり、開発を行うために研究所や大学との協業を行うといった座組を想定している。
ここで構築した仕組みはオープン API として、全国の NPO や自治体に開放することにより 2030 年までのチャット応答率 100％の達成を目指している。
具体的な開発のロードマップとして以下の 4 ステップで考えている。これらの取組を進める中で、ミッションとして掲げる「心のセーフティネットを拡張する」ことを目指しており、直近では対処療法として「自殺」予防に取り組んでいるが、将来的には「自殺念慮」自体を予防することに移行が必要であると考えている。
➢Step1：優先順位付けの自動化機能（実証実験を開始）➢Step2：過去の類似会話レコメンド機能➢Step3：発話生成によるレコメンド機能➢Step4：自律型 AI チャット機能

NPO の意義と課題
NPO では、公共性が高く営利企業にはできない取組が可能であるとことが一番の意義であると考えている。営利企業では、受益者負担の原則が成り立たないことや、業界のステークホルダーからの承認が得られないといった障壁があり、特に後者に関しては、カウンセリングを行う NPO から営利企業に対してデータの提供は難しいといった声があった。また、カウンセリングを行うと、同じ助成金や寄付金を獲得しようとする競合として、同じくデータを提供することは難しいという意見が多かった。一方で、当該業界ではカウンセリングの実施が厚生労働省からの助成金獲得の絶対条件であるため、どの NPO も行わざるを得ない、という状況もあった。結果的に、自殺予防を本気で目指すには、他 NPOとの協業が必須という考えから、短期的には収入 0 での稼働になることを承知で、カウンセリングを行わない NPO として ZIAI を設立した。
4

NPO の課題としては以下の 2 点を認識している。
➢0→1 の Changemaker 輩出
NPO に関して既存の枠組みにおいて成功事例のあるものであれば助成金が出るが、今までにない枠組みについては助成金の対象とならないことが多く、Changemake を行うには非常に厳しい状況である。

➢

プロフェッショナルの資源配分
便利な世の中をより便利にすることに多くのプロフェッショナルが投入されているが、苦しんでいる人を減らす取組にも投入することが必要と考えている。

4. 主催者側からのまとめと研究会参加者からの主なコメント
第 7 回では AI ガバナンスと「市民による活動」について議論が行われた。話題提供を踏まえて以下のような質疑応答が行われた。
「市民による自治コミュニティ活動のテクノロジー活用（榊原氏）」に係る議論➢

非営利団体を運営する上でのインセンティブ設計や必要な支援について。
✓関係者の巻き込みに関しては、実績を重ねることで引き合いが増えている。人口減少などにより、公助によるカバー範囲が縮小する中で、自助・互助や相互扶助についても民間サービスの拡大や公助の巻取りにより縮小しており、準公共サービスとしての位置づけで手法の最適化や ICT の活用などにより市民サービスの向上を目指している。

✓民間と自助・互助の連携について、サポートの考え方が未成熟であり、ボランタリーでの参加が前提となっていたが、今後生産性という観点で、我々NPO 法人としてどのポジションにいるかという点が重要であると考えている。

➢阪神大震災を経験していない世代の防犯意識など、世代間のギャップに対して工夫していることはあるか。
✓阪神大震災の被害の経験が風化していくことについては常に悩んでいる課題である。震災を知らずに親世代となっていく人たちが増えていく中で、危機を感じていない人に対するモチベートが難しいと感じている。ただし、その点に関してもテクノロジーの活用により、危機の予見や回避を可能とすることで解決につながると考えている。

✓

今後は何かしらの閾値を設定して、通知を発信するような機能も検討しており、例えば高齢者世帯の見守りとして、Alexa を通じてトイレの電気の使用状況を把握し、何かあれば声かけにつなげるような仕組みを考えている。生活を通じて、テクノロジーになじむというワンクッションを挟むことで変容の推進につながることを期待している。

➢東京と地方の技術格差に起因する問題はあるか、問題がある場合、どういった解決策5

を講じているか。
✓

技術格差は一概には言えないが、IT 人材は地方では圧倒的に不足している。一方で地方においては情報部門を都心に置くという発想も出てきている。

➢

防災アプリについて普段使わないアプリは災害時に使えないのではないか。
✓

その点で、日本国内で最も日常的に利用されている LINE を活用している。専用のアプリを開発しては使用するモチベートにつながらないと考えている。

➢

スタンダードとなる考え方があることで役に立つことはあるか。
✓

技術的な標準は必要である。基本的にオープンソースを利用しているので、技術コミュニティがしっかりしている団体と連携したいと考えている。

「AI を活用した自殺予防の取り組み（櫻井氏）」に係る議論➢

非営利団体を運営する上でのインセンティブ設計や必要な支援について✓

人を巻き込むにあたり、専門が採用であるため、採用の文脈で人を集めており、金銭的な報酬ではなく社会的な報酬で参加してくれる協力者を探している。ただし採用ができても継続的に一緒にやっていくことが難しく、理念やゴールのすり合わせを行った上で、小さな成功体験を積み重ねていくことが重要と考えている。

✓

また、資金面や人材面に関してサポートが必要と感じており、サポート可能な枠組みや受け皿があると、大変ありがたいと考えている。

➢自殺率に関して地域の差はあるのか。
✓➢

相談者の住所を取得していないので、地域差については把握できていない。

AI を企業で扱うにあたり、性能評価、品質保証、出荷判定が常に問題となるが、品質や性能がどうなれば投入可能であるか。
✓現実的にまだ具体化できていない。プロセスとしては PoC を実施しながら、段階的に利用していくことを考えている。十分なレスポンススピードが出ている一方で、品質に関しては評価が難しく手探りで検討している。現状プロのカウンセラーを含めて PoC の結果について AI 倫理の観点を含めて評価を行っている。

➢スタンダードとなる考え方があることで役に立つことはあるか。
✓NPO の活動ではリソースが限られており、リスクの検討や各種整備を行うことの難しさを実感している。特に新しいことを始めるにあたり一番重要となるのがリスクの洗い出しと考えており、ノウハウや知見を借りながら進めている。

✓

様々なスペシャリストを常時確保することは難しい。リスクの検討した上で効率的に対策を取っていく必要がある。フレームワークによりリスクが識別でき、許容の判断や対策の検討ができれば大変役立つと考えている。

次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
（文責：石井理恵）
6

＜(第Ⅱ期)第 7 回開催概要＞
日時 ：2 月 24 日（木）14:00-16:00（Zoom 開催）
内容 ：・話題提供：「市民による自治コミュニティ活動のテクノロジー活用」
榊原 貴倫氏（NPO 法人コミュニティリンク）・話題提供：「AI を活用した自殺予防の取り組み」
櫻井 昌佳氏（ZIAI）
・質疑・ディスカッション

7