Part1

2023

安心安全な AI 社会に向けて、今考えるべき「AI TRiSM」とは？
AI 技術の急速な進化・発展に伴い、いつの間にか私たちの社会に AI が浸透しつつある。より便利で豊かな AI 社会への期待が高まる一方で、倫理や信頼性、セキュリティなどの観点から、AI 活用に対する懸念も広がっている。今注目される「AI TRiSM」をキーワードに、AI 活用に潜むリスクや、それらのリスクにどう向き合うべきか、富士通の取り組みとともに解説していこう。

取材協力・監修
富士通株式会社
AI 倫理ガバナンス室室長

荒堀 淳一※取材時の役職を記載しています。

6

Family VOL.409

富士通株式会社
研究本部
AI 倫理研究センター
プロジェクトディレクター

稲越 宏弥

暮らしに、ビジネスに広がり続ける
AI 活用

来しているとも言える（図1参照）。
では、そもそもAIとはどんな仕組みで動いているのだろうか。AI(Artificial Intelligence：人工知能 )とは、

かつては「遠い未来の話」「SF 小説の中の出来事」とその名のとおり、人の知能を人工的なコンピューター思われていた AIが、近年、いつの間にか私たちの社によって模倣するもの。大量のデータから判断基準や会に広がりつつある。

より一般的な概念を学習し、人間を上回るスピード（計例えば、日常生活に欠かせないスマートフォンにも、算速度）で結果を導くことが可能だ。少子高齢化が進学習用からビジネス用、娯楽用まで、多くの AIアプリ

む先進国では減少する労働人口を補うために、また、が搭載されている。また、ビジネスシーンにおいても、技術者が不足する途上国では社会インフラや医療など自動問い合わせ対応（チャットボット）や広告配信、顧を支えるために、今後もAI活用への期待は高まり続け客分析、採用マッチングなど、AI活用のフィールドがることが予想される。

拡大し続けている。それと気付かぬままにAIを活用し

AI倫理ガバナンス室の荒堀氏が「AIは健康や福祉、ていることもあり、その意味ではすでに「AI社会」が到

気候変動の抑止、平等社会の実現など SDGs の達成への貢献も期待され、ひいては人間社会の発展と進化にさらには一部の巨大IT 企業による寡占状態への懸念も貢献できる素晴らしい道具」と語るように、富士通もあり、AI活用に対する規制強化への議論が活発化しは AIを社会課題の解決に向けたキーテクノロジーの1ています」。

なぜ AI 活用にリスクが伴うのかつに掲げ、開発・適用を強化。2019 年度以降で実にこうした背景のもと、近年、注目を集めているキーAI活用に伴うリスクは、どのような原因で生じるの5,000 件以上の AIサービスを国内外に提供している。

ワードが「AI TRiSM」だ。米国の調査会社ガートナーだろう。荒堀氏は、次のように説明する。
「AIは、大が発表した造語で、「2023 年の戦略テクノロジーの量のデータを学習することにより、共通セグメントのトップトレンド」の1つにも挙がっている。

一般的な傾向は算出できるものの、対象となった一人自動問い合わせ対応（チャットボット）

混雑予測

広告表示

採用マッチング

遅延予測

顔・音声認識顧客行動分析

レコメンド

翻訳

AI TRiSM とは「AI Trust, Risk and Security

ひとりの個性は切り捨てられる場合もあります。また、Management」の略で、「AI活用に伴うリスクに対応し、AIに学習させるデータにバイアス（偏り）があると、AIAIの信頼性を高めるための取り組み」を意味する。具が導き出す結果にも偏見や差別的バイアスが生じてし体的には、AI活用における倫理性や透明性、説明可能まうリスクがあるのです。こうした特性を理解せず、性、外部からの攻撃に対するセキュリティ、プライバAIの判断を鵜呑みにしてしまうと、バイアスを是正でシー保護、適切なマネジメントやガバナンス、それらきないまま、つまり不公平や不平等を放置したまま意をサポートする手法やツール、プロセスなど、広範な思決定をすることになりかねません」。

テーマが含まれている。
図1）
広がり続けるAI 活用のフィールド

これからAIを開発・利用しようとする企業にとっては、理解しておくべきキーワードと言えるだろう。

こうした技術・学習データ面の問題に加え、AIの「ブラックボックス化」も大きな課題となっている。理由や根拠を客観的に示すことができない AIに、人の生世界的に注目が高まるキーワード「AI TRiSM」とはAI活用が社会に広がる一方で、「AIの判断を無制限に信用しても良いのだろうか」といった懸念の声も高まっている。
AI倫理研究センターでプロジェクトディレクターを務める稲越氏は、AIを巡る世界的な潮流について、次のように語る。
「AI活用によるイノベーションが世界生活をともにするパートナー「AI」に潜むリスクとは規模で加速する一方、顔認識 AIが人種差別的な結果を出したり、採用マッチング AIが性差別的な結果を出したり、あるいはチャットボットが差別用語を連発したりと、様々な問題が報道されています。加えて、AI活用による公共監視やプライバシー侵害、世論誘導、Family VOL.409

7

2023
命や財産に関わる重要な判断を任せられないと感じるのは、ある意味で当然の心理だろう。例えば、最終的富士通が取り組む AI 倫理ミットメント」も「私たちのパーパスを AIの観点から具体化したもの」だという（図2 参照）。
このコミットメントのもと、全社的なガバナンスやな判断は必ず人間が下すなど、リスクを排除する仕組
富士通は、1985 年にLisp 言語高速処理用専用コン社外も含めた意識浸透を担うAI倫理ガバナンス室と、ピューターを商品化するなど、30 年以上にわたり日

国内外の研究機関と連携しながらAI倫理に関する先では、これからAIを開発・活用しようとする企業には、本の AI研究をリードし続けてきた。こうした AI分野進技術を研究する「AI倫理研究センター」および「人工どのような姿勢が求められるのだろうか。ここで強調におけるリーディング企業としての責任から、「AI倫知能研究所」が、いわば社会的アプローチと研究アプしておきたいことは2つある。1つは、荒堀氏が言う「AI理」にもいち早く取り組んでいる。その牽引役として、ローチの両軸から取り組んでいる。の特性やリスク」を理解すること。もう1つが「AI倫理」

2022 年 2 月に設立されたのが、荒堀氏が室長を務めに取り組むこと。
「AIを開発・提供する企業や、利用る「AI倫理ガバナンス室」だ。

月から「富士通グループ AI倫理外部委員会」を開催しする企業の経営者は、AI倫理ガバナンスを推進して、「私たちは、『イノベーションによって社会に信頼をている。この委員会は、国内外の社会情勢を踏まえ、倫理的な観点の必要性を従業員にしっかりと浸透させもたらし、世界をより持続可能にしていく』というパーステークホルダーから客観的な評価を受けることを目ていく必要があります。従業員全員が AIのメリットとパスを掲げています。AIをはじめとする最新のキーテ的に、約半年に1回、多様な分野から専門家を委員とデメリットを理解したうえで、ユーザー企業様もAIのクノロジーによって人を幸せにするために、AI倫理がして招聘し、AI倫理について多様なテーマで議論して本質を理解し、AIが不都合をもたらす可能性を認識しきちんと担保された、『信頼できるAI』を提供する責務いる。
「AI活用により影響を受ける人々の人権をどうて利活用しなければならないと思います」（荒堀氏）。

があります」と荒堀氏が語るように、AI倫理は富士通守るか」「AIリスクの判断を現場任せにしない仕組みのパーパスと密接に結びついており、2019 年 3 月にづくり」「社外連携の重要性」などが議論されており、策定・公表された AI倫理指針「富士通グループ AIコ

富士通の体制強化や施策に反映されている。

みを構築することが、今後の AIの信頼性を大きく左右するだろう。

トラステッドな AI 社会の実現へ。
倫理的課題にどう向き合うか

また、これらの取り組みを支えるべく、2019 年 9富士通グループ
AIコミットメント5項目
1．AIによってお客様と社会に価値を提供します
2．人を中心に考えた AI を目指します
3．AI で持続可能な社会を目指します
4．人の意思決定を尊重し支援するAI を目指します

5．企業の社会的責任としての AI の透明性と説明責任を重視します

図2）
富士通グループ AIコミットメント5項目

8

Family VOL.409

「AI 倫理影響評価技術」を開発し、無償で公開
AI倫理を原則から実践へと推し進めていくため、富士通では AI倫理研究センターを中心に、技術的観点じるのかを洗い出す「AI倫理影響評価方式」だ。富士

「近年、AI活用のハードルは大きく下がってきてい通は「信頼できるAI」を社会に普及させるため、このます。かつては解きたい問題を AIに当てはめるために方式に基づく手順書や適用例を、2022 年 2 月からAI

高度な専門知識・技術を必要としましたが、そうしたシステムの開発者や運用者向けに無償公開している知識・技術を備えた研究陣の努力の甲斐あって、今や（コラム参照）。

専門知識がなくともAIを活用できる時代が到来しつからも様々な取り組みを行っている。

つあるのです。実際、ここ数年で汎用性のある「基盤「富士通では、AIの信頼性を高めるためには、AIをモデル（foundation model）」が登場し、大量のデータ法や規範に準拠させるよう、その手順を定めるだけ安心安全で豊かな AI 社会の実現に向けてでは不十分だと考えています。より重要なのは、法や規範を逸脱するリスクを査定すること。つまり、AIをでゼロから学習する従来の手法とは対照的に、少量のデータで個々の問題に対応できるようカスタマイズする手法が主流となっています」と稲越氏は語る。これ

悪用しようとする人が出るかもしれない、意図せずにAI倫理やセキュリティリスク、プライバシー侵害なに伴い、AI技術者に求められるスキルも変化している社会に悪影響を与えてしまうかもしれない、といった

ど AI TRiSM への要求は今後も高まり続けるだろう。という。
「今後も専門知識・技術が必要であることに潜在的なリスクを評価することです」
（稲越氏）
。こう

無条件・無制限な利用に対する規制がブレーキになる

変わりはありませんが、加えて、AIをいかに使いこなした考えのもとに開発されたのが、AI活用に伴う倫かもしれないが、だからと言って AI活用の潮流がとどすか、いかに社会に受け入れられるようにするかも問理的な影響を評価し、どのようなシーンで問題が生まるとは考えづらい。

われていくでしょう」（稲越氏）。
一方で、荒堀氏は次のように語る。
「技術革新によっcolumnてAI活用の可能性は広がり続けています。センサー技AIによる倫理影響をいかに評価するのか

富士通では、ソフトウェア工学の知見と徹底した事例調査から、AI 倫理に関するリスクうになり、コンピューター技術の進化で膨大な計算が原則が、AIとステークホルダー（開発者や運用者、法律・規制・ガイドライン
ソフトウェア工学の知見ユーザーなどの関係者）とのインタラクション（相互作用：情報のやり取りなど）に由来することを着想。2019 年前後に編纂された倫理原則やガイドラインと、過去にAI が引AI 倫理モデル

倫理チェックリスト

対策

効果システムのAI倫理リスクを低減

富士通が開発した AI 倫理影響評価技術が瞬時に見渡せるようになった世界を想像できるかど

AIをビジネスに活かすためには、「AIは善か悪か／ステークホルダー

人種のバイアス、性別のバイアス などにおける倫理リスクの系統的かつ網羅的なパーソンに求められるのは、今まで見えなかったもの結します」。

網羅的な AI 倫理リスクのリスト

した「AI 倫理モデル」を開発し、AIシステム瞬時に行えるようになりました。これからのビジネスうか。その力を持った人材の有無が企業の競争力に直AI 倫理リスクAI システムシステムにおいて考慮すべき項目を体系化

徹底した
事例調査・分析

インタラクション

実践

き起したインシデントを照らし合わせて、AI評価を可能にしている。

術の発展で今まで測れなかったデータを測定できるよ

必要か不要か」といった二元論でなく、個々のユースケースをしっかりと具体的にイメージし、そこで生じうるリスクや、回避するためのルールを考える姿勢・思考が求められる。そうした積み重ねの先に、人とAIが共生する、安心安全で豊かな AI社会が実現するのではないだろうか。

Family VOL.409

9

2023
Part2

Talk Session

FamilyICTトレンド2023 連動企画

Fujitsu

特別座談会 会員企業若手社員×富士通有識者

ビジネスパーソン一人ひとりが考えるべき
AI 倫理とAI 社会の未来
座談会参加者

荒堀 淳一／稲越 宏弥
株式会社マルハングループユニット
経営企画部情報システム課

梁 麗麗 氏FITEC 株式会社
ビジネスソリューション事業部
事業 IT・デジタル戦略室
イノベーショ ン推進課

AI が社会にもたらす価値やリスクは、AI を開発する側、利用する側を問わず、これからの AI 社会を生きる一人ひとりが考えるべき問題です。 そこで
本記事では、FUJITSUファミリ会会員企業の若手社員 3 名にお集まりいただき、ICTトレンド記事の監修を務めた富士通有識者に対して、それぞれが所属する企業や担当業務などを踏まえた、AI 活用や AI 倫理に対する疑問や考えをぶつけてもらいました。 様々な視点からの意見が交わされた議論か
ら、AI 社会の未来を考えるうえでのヒントを見つけてください。

そもそも、AI 倫理とは何を対象にしているのか

大川 拓人 氏10

Family VOL.409

あり、1つはAIそのものの人権を考える視点。もう1つが AIを扱ううえで倫理に反するような使い方になっていないかを考える視点。現在、世界的に問われているのは後者であって、富士通もそこをテーマにしています。
野村

私もAI倫理が誰を対象にしているのか疑問でしたので、はじめに概念が整理されたのはありがたいですね。
梁

素朴な疑問ですが、なぜ AI倫理を考える必要があるのでしょうか。
稲越

AIは人間の脳の働きをモデル化したものですが、実際の原理は異なっています。ですから、人間の野村 遼平 氏

日本通運株式会社
IT 推進部

いろいろな意味があります。大別すると2つの視点が梁作業を AIに代替させると、人が当たり前に持っている倫理観に反した判断を下しかねません。例えば「この人にはお金を貸さない」「この人は採用しない」といった、いわば“血も涙もない”対応をしかねないリスクがAIを活用するうえで「AI倫理」について考える必あります。このため、AIを人間社会で活用する際には、要があると言われていますが、正直に言うとイメージ人が持っている倫理観に反する行動をしないかどうかしづらい面もあります。そもそもAI倫理とは、AIそのを考えていく必要があります。

ものを対象としたものでしょうか。それとも開発者や大川ユーザーを対象としたものでしょうか。

うことでしょう。

稲越

荒堀

おっしゃるように、一口に「AI倫理」と言っても人間とAIとで原理が異なるというのは、どういビジネスの世界で例えれば、企業の売上が下がった際、私たち人間はすぐに値下げするのでなく、なぜそうなったのか理由を分析し、原因を究明したうえで対策を練りますよね。ところが、AIは因果関係よAI 倫理にまつわる法整備はAI 活用にブレーキをかけるのか

荒堀

AIに限らず、新しい技術が登場すると、必ずそれらを悪用しようとする人が出てくるのは避けられません。一方で、正しく使おうとしても、うっかり倫理に反する事態を招く恐れもあります。これらは別々りも相関関係で考えがちなので、実際には売上低下に関係ない部分を改善するなど、間違った結果を導きか野村

最近ではイラストAIと著作権の問題が取り沙に考える必要がありますが、いずれにしても新しい技ねないリスクがあります。

汰されるなど、新しい利用法が生まれると、あとから術に対応したルールが必要になることは間違いありま

大川

因果関係と相関関係を混同するのは、AIだけで法規制の問題が浮上して、活用する側にとってはリスせん。とはいえ、現時点での課題の多くは既存の法律なく私たちもやってしまいがちです。AIを利用する人間クになります。AIによるイノベーションと法規制リスで解決できるので、1つひとつ調べて判断していけば、側も、両者の違いをしっかり認識する必要がありますね。

クとのバランスをどう考えるべきでしょうか。

リスクを排除できるはずです。

荒堀

荒堀

稲越

AIは大量のデータを学習して、そこから人間の判断基準を学習しますが、学習させるために収集したもともと法律というものは、倫理や道徳だけでは対応できない問題が生じた際に、必要に応じて作ら

先ほどのイラストAIで言えば、問題ごとにそれぞれ考える必要があります。例えば著作権は AIにあるデータの中に誤ったデータが含まれていたり、データ自体に偏りがあったりすると、それに引きずられて AIAIによるイノベーションと法規制リスクとのバランスをどう考えればいいでしょうが間違った判断を下しかねません。AIの判断を鵜呑みにするのではなく、こうした AIの特性をしっかり把握したうえで利用する必要があります。
梁AIが誤った判断を下すのは、具体的にはどんな場新しい技術に対応したルールはいずれ整備されますが、現時点では既存の法律に照らして判断し、１つずつリスクを排除しましょう

合が考えられますか。
稲越

例えば、収集したデータがブログやツイートなど SNSからの情報に偏った場合、過激な意見や誇張した意見など、個人の偏見やバイアスがかかったデータばかりを集めてしまい、AIの判断も引きずられてしまれるものなので、常に「後追い」になります。例えば、のか、それともAIを開発した人にあるのか。また画像う恐れがあります。

今、例に挙がった著作権法はクリエイターの権利を守を収集するのは認められるのか。商用利用は不可で、荒堀 ひとつ具体例を挙げると、ある企業が採用マッるために作られたものですが、一方で、自由競争を守実験・研究用なら可など、同じ行為でも目的によってチングにAIを活用した際、過去の採用データをもとにるために独占禁止法という別の法律があり、全体でバ判断が変わるなど、解釈が難しい面がありますが、ユーしたところ、それまで男性の採用が中心だったためにランスを取っています。法規制リスクについても同様

スケースごとに問題点を明確にして、丁寧に洗い出し「この会社は男性を採用すべき」と誤った判断を下し、に、これから様々な状況に応じて法整備が進んでいくていくことをおすすめします。

女性が採用されないといった事態を招きかねません。と思われます。

大川梁

野村

法規制に至る社会の反応をしっかりと見据えなが、システム開発中に新しい法律が整備され、システた判断を検証したり、AIを活用する側の配慮が大切だ

がら、その時々でバランスを取っていくことが大切でム改修が必要になったことがあります。新しい分野で、ということが理解できました。

すね。

いつ新しいルールができるかわからないというのは開なるほど、偏りなくデータを集めたり、AIが下し私は物流会社で海運システムを担当しています

Family VOL.409

112023
発上のリスクになります。

るかが課題になっています。AIについても、先ほど言事例も増えています。それらを使った際の責任につい野村

われたように欧州と米中での温度差がある中、どう対て、世界規模で考える必要が出てきますね。

応すべきでしょうか。

荒堀

同感です。
「どんなリスクがあるかわからない」という不安が先立ち、どうしてもAI活用にブレーキがグローバル社会では、ある地域で生まれた新技かかってしまうのではないでしょうか。

荒堀

厄介なことに、法律などのルールは、文化や商術が、瞬く間に世界に広がっていきます。バックグラ

稲越AIによる利便性とリスク、どちらを重視するか習慣、政治体制などを背景に定められるので、国や地ウンドの異なる多くの人が一緒に考えていくべき問題は難しい問題で、世界的に見ても意見が分かれていま域によって差が出る場合があります。目的は同じでも、だと思います。

す。EUなどは「ルールを定めたうえで慎重に活用すべ方針や解釈が異なるところに難しさがあるので、グ大川 AIの活用法も多種多様で、社会課題の解決にき」という態度ですが、米国や中国では「イノベーショローバルとローカルの両面で考える必要があります。

役立てようとする方向もあれば、日常生活を豊かにしンを阻害しないよう、あらかじめ規制するよりも、ま野村

私は社内でITツールを推進する役割を担ってようという方向もあります。目の前の利益に目を向けずは積極的に活用して、問題が出ればあとからルールいますが、同じ社内でも部署によって反応が異なるこがちですが、それでいいのかという意識もあります。

を決めよう」というスタンスの違いがあります。日本はとがあります。国や文化が異なると、違いはより大きそうした意識を持つ人が増えていくことが大切ではな

どちらかと言えば後者で、ガイドラインなどはあってくなるでしょうから、リスクと利便性のバランスを取いでしょうか。

も、明文化されたルールは定められていません。

るのは非常に難しくなりますね。

稲越

稲越

AIが技術面だけでなく産業として成熟しつつあエネルギーの話題で言うと、ある地域で代替エる中、社会に対する影響力も強まっています。AIを社いう問題ではなく、国民性や政府の方針による違いとネルギー活用が進んで炭酸ガスの排出を抑制できたも会に調和させていくために、事前にAI活用のリスクを考えて良いものでしょうか。のの、その影響で他の地域では大幅に排出量が増えた

考えるとともに、AI活用のあり方について広く社会全

荒堀

おっしゃるように、イノベーションを優先するというデータがあります。AIについても、その活用に体で考えていけるよう、積極的に情報発信していきた

米中も、慎重派の欧州も、根っこにあるのは AIで社会よる影響を、自国だけでなくグローバルで考える必要いと思っています。

や生活を豊かにしたいという思い。それは AIを開発すが出てくるでしょう。

梁

そうしたスタンスの違いは、どちらが良い悪いとる私たちにも共通するものです。
稲越

どちらが正しいと断言できるものではないので、どうバランスを取るかという質問に対しては、「こChatGPT のようなブームを見ると、AI 活用の責任は世界規模で考える必要はありませんか？

れが正解」という答えはありません。それでも常に考え続けなければならない重要な問題だと思っています。

グローバル社会で生じる国や地域によるAI への温度差
大川

12

例えば自動車メーカーでは、ガソリン自動車が求められている市場がある一方で、EV 以外は禁止と梁いう市場もあるなど、地域ごとのギャップをどう埋めの企業、1つの国・地域での利用にとどまらない活用

Family VOL.409

最近注目を集めている「ChatGPT」のように、1つ国や文化によって AI に対する考え方は変わります
が、社会への影響力を考えれば、グローバルで考えていくべきです求められるのは対話を通じて着地点を導く姿勢

アンスなど具体的なテーマに落とし込めば、議論が具の仕事に活かしていきたいと思います。

体的になるものです。

野村

大川

豊かにしようとする思いは共通しているというご意見難しいことですが、そうやって論点を明確にしAIに対していろんな考えがあっても、社会をながら、対話の中で着地点を見つけていくという姿勢が印象に残っています。AIに対する意識や意見の異なが大切ですね。

る相手とも、しっかり話し合うことが大切だと感じま

AI活用のリスクの捉え方は変わってくると思います。

荒堀

した。

当社グループのような製造業、マニュファクチャリンデータを処理して私たちをサポートしてくれます。間稲越

グにおけるAI活用のリスクはどう捉えれば良いでしょ

違いなく社会を豊かにしてくれるものですから、世界おかげで、こちらも考えを整理でき、対話する意義やうか。

で話し合いの場を設けて、価値観を共有することが重大切さを改めて感じました。今日の学びを今後の研究

野村

地域や時代背景に加えて、業種業態によっても、そのとおりです。AIは人間よりも速く大量の多様な視点からご質問やご意見をいただけたに活かしていきたいと思います。
荒堀

ビジネスにAI を活かす
とき、倫理的リスクにどのように対策すれば良いですか？

ユースケースごとに論点を明確にし、具体的なテーマで議論をすれば、落としどころが見つかるはずです

AIは歴史が浅い分野だけに、皆様のような若い人たちが最先端の動向や背景を丹念に追っていけば、よりAIを使いこなせるようになるはずです。AIを世の中に役立てていくためには、多様な視点、多様な考え方が必要ですが、それらは多くの人の話を聞くことで培えるもの。今後もいろいろな人と話をして、いろいろな角度から考えてもらいたいと思います。そのためにも人脈を広げて、多様な背景や価値観を持った人と荒堀

医療／ヘルスケアや自動車の自動運転のように、人の生命・安全と直結する分野に比べればリスク要です。5 月に開催されるG7 広島サミットでも、AI対話できるといいですね、今日の場がそのひとつにな倫理についての議論が期待されています。

れば嬉しく思います。

は少ないと言えますが、だからと言ってリスクがないとは言えません。やはり様々なケースを想定して、個座談会を振り返って別に考える必要があります。
梁

私たち娯楽サービス業でも、サービスの質や、店内での導線、顧客分析など、AIを様々に利用できます。

梁

そうした用途ごとに、リスクや対策を考えるべきとい日の対談を通じて、より身近に感じるとともに、興味うことですね。のあるところから自分で調べて、そのメリットやデメ稲越リットを体感するのが大切だと感じました。

AI活用という大きな括りで考えるのではなく、AIは近いようで遠い存在と思っていましたが、今ユースケースごとに論点を明確にして考えることが大大川 リスクに配慮して何もしないとイノベーション

切です。ビジネス現場の方々と対話していても、AI倫は起こせないので、チャレンジする重要性を感じ、後理にピンとこない方でも、セキュリティやコンプライ押ししてもらえた気持ちです。今日の経験をこれからFamily VOL.409

13