【実社会版2022】
ナレッジグラフ推論チャレンジ
発表資料
2023年3月31日
株式会社KDDI総合研究所
黒川 茂莉

Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

技術的背景ChatGPT の公開➡ 「どこが危険か」聞いてしまえばよいのでは？

今回のタスクではいつ聞いたらよいかどう聞いたらよいか

Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

2

取り組みサマリ（タスク1：危険な状況の検出＋タスク3：定量的評価）

タスク1を軸に、タスク3も一連の手続きの中で実施
 1-1. 提供されるナレッジグラフや動画から危険な状況を検出する。

➡ 〇 ナレッジグラフと動画を組み合わせて危険状況を検出する方法を提案※説明のスコアリングにより、タスク３：定量的評価も対応 1-2. 検出した状況がなぜ危険な状況なのか理由を説明する。

➡ 〇 Open AI API等を用い、危険状況の説明を付与
 1-3. 解決策を提示する。

➡ △ Open AI API等を用いた説明から、解決策を考察
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

3

前提と仮定前提
 ナレッジグラフの検索には、江上他の論文[1]のSPARQLを利用仮定
1. 人は、危険状況をしっかり見れば、察知できる
2. Webには危険状況の集合知があり、自然言語モデルはそれを記憶している[1] 江上他, 家庭内の事故予防に向けた合成ナレッジグラフの構築と推論, 人工知能学会SWO研究会(SWO-056), pp.1-10, 2022
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

4キーアイデア～仮説検証型の説明候補ランキング

ナレッジグラフから仮説を立て、集合知と比較検証
1. 危険状況の候補をナレッジグラフから取得

3. 画像に現れた危険状況を集合知と比較➡合致度が高い順にランキング［仮定2］Webには危険状況の集合知があり、自然言語モデルはそれを記憶している

2. 危険状況を動画に［仮定1］人は、危険状況をあたって確認

しっかり見れば、察知できる

Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

5

推論パイプライン～仮説検証型の説明候補ランキング

ナレッジグラフから仮説を立て、集合知と比較検証
動画

江上他論文
クエリ
仮説文はクエリ内容にあわせ手作成

ナレッジグラフ仮説文

イベント時間帯

when [a person open a fridge],
they reaches for a high object

集合知フレーム
切り抜き
集合知検索
モジュール

The risky action is standing
too close to the open
refrigerator, as it could cause
an electric shock if theperson accidentally touches
any exposed electrical parts.
Additionally, if the personleans too far into the open
refrigerator, they risk falling inand getting stuck.

状況 = [a person open a fridge]
部分を画像のハイライト用に利用
Sentence BERT

Sentence BERT

Cos類似度で比較
Cos=0.672
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

6

推論パイプライン～仮説検証型の説明候補ランキングのお気持ち

ナレッジグラフから仮説を立て、集合知と比較検証
動画

江上他論文
クエリ
仮説文はクエリ内容にあわせ手作成

集合知①ナレッジグラフを見ると②実際の状況を見て危険か

ここが危険そう！

GPT フレームに聞いてみよう！

ナレッジグラフ仮説文

イベント時間帯

切り抜き

when [a person open a fridge],
they reaches for a high object④ナレッジグラフで危険

集合知検索
モジュール

状況 = [a person open a fridge]
そうだと思ったところが部分を画像のハイライト用に利用
確かに危険！
Sentence BERTThe risky action is standing
too close to the open
refrigerator, as it could cause
an electric shock if theperson accidentally touches
any exposed electrical parts.
Additionally, if the personleans too far into the open
refrigerator, they risk falling inand getting stuck.

③GPT 曰く
Sentence
BERT

ここが危険そうだよ！

Cos類似度で比較
Cos=0.672
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

7集合知検索モジュール詳細
サブモジュール 機能

入力

CLIP+顕著性マップ

テキストにマッ 元画像
チした画像領域 仮説文
（一部）
を抽出

BLIP

画像をテキスト
状況説明画像に変換

Open AI API

質問に応答

状況説明文
（プロンプト※）

出力

今回の用途

状況説明画像注目した仮説文に対応する状況説明画像を出力（画像の一部をハイライト）

状況説明文

状況説明画像に現れる状況をテキスト化

応答文

危険な状況かを質問して集合知の応答を取得※危険な状況を質問するため、プロンプトは状況説明文＋”describe what is the risky action.”
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

8

詳細設定
 CLIP 学習済モデル ViT-B/32 を利用 以下のコードを利用
https://github.com/hila-chefer/Transformer-MM-Explainability
 BLIP 学習済モデル base_coco を利用
https://github.com/salesforce/BLIP
 Open AI API
 学習済モデル text-davinci-003 を利用 Max_tokens は 1024 とし、その他はOpenAI API Playgroundのデフォルト値を参考に設定
 Sentence BERT + Cos類似度
 学習済モデル all-MiniLM-L6-v2 を利用
https://huggingface.co/sentence-transformers/all-MiniLM-L6-v2
 文を 384 次元に変換し、Cos類似度で2文の類似度を測定
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

9

「高いところに手を伸ばす」 Top1 結果（スコア：0.672）
 ナレッジグラフ: Put_groceries_in_fridge_scene3.ttl
 仮説文: when a person open a fridge, they reaches for a high object.
 集合知検索結果: The risky action is standing too close to the open refrigerator, as it
could cause an electric shock if the person accidentally touches any exposed electricalparts. Additionally, if the person leans too far into the open refrigerator, they risk
falling in and getting stuck.

オレンジ色太字…理由を表現、太字…危険を表現

元画像

顕著性マップ

状況説明画像＋文a man standing in frontof an open refrigerator.
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

10「高いところに手を伸ばす」 Top1 考察（スコア：0.672）＜結果＞ 仮説文: when a person open a fridge, they reaches for a high object.
 集合知検索結果: The risky action is standing too close to the open refrigerator,
as it could cause an electric shock if the person accidentally touches any
exposed electrical parts. Additionally, if the person leans too far into the openrefrigerator, they risk falling in and getting stuck.

＜考察＞

オレンジ色太字…理由を表現、太字…危険を表現 「近づきすぎて電気ショック」のリスクは意外だがなくはない。ただ今回の状況で起こるかは不明。さらに、この点はユーザに注意を促すだけでなく、環境側でリスク検知することも可能 「前かがみ転倒」のリスクはあり得る。ここではリスクは低そうだが、注意を促すことは可能 主観評価：仮説文と集合知の相関は低い印象。理由が書かれているため解決策は立てやすい 改善点：クエリとなる状況説明文がシンプル過ぎ、詳細状況を表現できていない
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

11

「低いところの物をとる」 Top1 結果（スコア：0.653）
 ナレッジグラフ: Eat_cupcake_while_watching_television_scene3.ttl
 仮説文: when a person grab a cupcake, they reaches for a lower object.
 集合知検索結果: The person is taking a risk by reaching for the cupcake without being able toclearly see it. They could accidentally knock it off the table or miss altogether, causing it toland on the floor.
オレンジ色太字…理由を表現、太字…危険を表現

元画像

顕著性マップ

状況説明画像＋文

a blurry image of a person
reaching for a cupcake.
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

12「低いところの物をとる」 Top1 考察（スコア：0.653）＜結果＞ 仮説文: when a person grab a cupcake, they reaches for a lower object.
 集合知検索結果: The person is taking a risk by reaching for the cupcake
without being able to clearly see it. They could accidentally knock it
off the table or miss altogether, causing it to land on the floor.

＜考察＞

オレンジ色太字…理由を表現、太字…危険を表現 「よく見えていなくて机から物を落とす」というリスクは確かある。「掴むものをよく見ましょう」という注意も可能
 主観評価：よく見えていないかどうかは判別つきづらい。理由が書かれているため解決策は立てやすい 改善点：ほんとうによく見えていないか周囲のフレームもチェックしたほうがよい
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

13

推論パイプライン(改善)～仮説検証型の説明候補ランキング

ナレッジグラフから仮説を立て、集合知と比較検証
動画 状況説明文にナレッジグラフの集合知

江上他論文
クエリ
仮説文はクエリ内容にあわせ手作成

ナレッジグラフ

仮説文The risky action is standing
周辺リンクの情報をテキスト化して足す
too close to the open

イベント時間帯

when [a person open a fridge],
they reaches for a high object

フレーム
切り抜き集合知検索モジュール

refrigerator, as it could cause
an electric shock if theperson accidentally touches
any exposed electrical parts.
Additionally, if the personleans too far into the open
refrigerator, they risk falling inand getting stuck.

状況 = [a person open a fridge]
部分を画像のハイライト用に利用
Sentence BERT

Sentence BERT

Cos類似度で比較
Cos=0.672
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

14「低いところの物をとる」 Top1 結果（スコア：0.697）
 ナレッジグラフ: Drink_juice_while_watching_television_scene6.ttl
 仮説文: when a person grab a juice, they reaches for a lower object.
 集合知検索結果: The risky action in this scenario is for the person to reach for the juice withoutlooking to see if there is anything in their way. This could potentially cause the person to trip
or fall, injuring themselves or knocking something over.
オレンジ色太字…理由を表現、太字…危険を表現

元画像

顕著性マップ

状況説明画像＋文a man standing next to acouch in a living room. A rug isclose to the person. A sofa isclose to the person. Acellphone is close to theperson. A person is close tothe juice. A coffeetable is closeto the person. A juice is closeto the person. A tv is close tothe person.

Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

15

「低いところの物をとる」 Top1 考察（スコア：0.697）＜結果＞ 仮説文: when a person grab a juice, they reaches for a lower object.
 集合知検索結果: The risky action in this scenario is for the person to reach for thejuice without looking to see if there is anything in their way. This could
potentially cause the person to trip or fall, injuring themselves or knocking
something over.

＜考察＞

オレンジ色太字…理由を表現、太字…危険を表現 「間にものがないか確認不足」の懸念は確かにあり、注意を促すことが可能 「転んでけが」のリスクも考えられ、あわせて注意を促すことが可能

 主観評価：状況説明が詳細になった分、集合知検索結果も丁寧になった印象。理由が書かれているため解決策は立てやすい
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

16

まとめと今後の課題
 仮説検証型の説明候補ランキング手法を実装し、タスク１：危険な状況の検出、タスク３：定量的評価が動作することを確認した

 今後の課題
 タスク1: 危険状況検出• 状況説明文をより詳細化。ナレッジグラフや周囲のフレームから情報収集• 入力画像の一部をハイライトすることはバイアスをかける危険性。入力画像は操作せず、モデルとしてアテンションをかけるなどの工夫も必要• 検索結果から理由部分を抽出し、解決策を自動生成

 タスク3: 定量的評価• 仮説文と集合知の相関がスコアとしても低（高くても0.7程度）• 一方、相関が高ければよいというものでもなく、仮説立案では見つからなかったリスクが見つかってもよい。この点を含めスコアリングに改善の余地
Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

17

謝辞
 本研究は、JST、CREST、JPMJCR21F2の支援を一部受けたものである。

Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.

18

ご清聴ありがとうございました

Copyright(C) 2023 KDDI Research, Inc. All Rights Reserved.