研究戦略説明会
Fujitsu
Research Strategy
Briefing Session

AI領域の研究戦略
エンタープライズ
生成AIフレームワーク
2024年6月4日
富士通株式会社
富士通研究所人工知能研究所所長

園田 俊浩© 2024 Fujitsu Limited

生成AIの技術動向
大規模

GPTに代表される、大規模汎用利用の言語に加えて、映像や音声にも対応

クラウド上で広範囲に公開

大規模汎用モデル - LLM

100B
企業業務を支援する特化型・カスタマイズ性 ・企業規則への準拠

サイズをコンパクトで効率的に最適化した

小中規模言語モデル - SLM
小・中規模2© 2024 FUJITSU LIMITED富士通の生成AI戦略
汎用的な大規模モデルと小中規模の特化型モデルの市場が拡大

企業ニーズを満たす特化型モデルに注力

生成AIの企業ユースにおける3つの課題
1. 企業が保有する多様で大量なデータを扱えない
2. 業務ノウハウやプロセスに特化したモデルを迅速に生成できない
3. 企業における規則や法令に準拠させることが困難
企業における生成AIの活用上の課題を解決し、セキュリティ不安を払しょくする

エンタープライズ生成AIフレームワーク
企業における生成AI活用を牽引するグローバルトッププレイヤを目指す
3© 2024 FUJITSU LIMITED企業向け生成AIにおける富士通の取り組み「Fujitsu Kozuchi」上で企業向け対話型生成AIを公開

グローバル12万4千人の従業員が生成AIを活用できる環境を整備し社内実践「富岳」で学習した大規模言語モデル「Fugaku-LLM」を開発⚫ 130億パラメータのモデルを一から独自データで学習⚫ 富士通は、演算と通信の高速化、事前学習と学習後のファインチューニングを担当

4© 2024 FUJITSU LIMITED富士通のエンタープライズ生成AIフレームワーク
企業における生成AIの活用上の課題を解決、セキュリティ不安を払拭する
富士通のエンタープライズ生成AIフレームワークを構成する３つの技術
世界最高性能達成

世界最高
レベル性能

世界初

ナレッジグラフ
拡張RAG

多様で大規模な企業データに対応

生成AI混合技術

変化する企業ニーズに柔軟に対応

生成AI監査技術

挙動制御でAI活用の不安払拭
51000万文字対応

0カスタマイズ法令遵守© 2024 FUJITSU LIMITEDエンタープライズ生成AIフレームワークの全体像
ステップ

2 ランタイム

クエリーの送信ステップ

特化型生成AIを選択なければ組合せてAIモデルを構築

クエリーに企業が保有するデータを紐づける

クエリー指向ナレッジ

特化型生成AI

生成AIが法令や規則に準拠しているかチェック

入出力制御・説明付与

1 準備

多様で大規模な企業データからナレッジグラフを準備
製品マニュアルや設計書

ナレッジグラフ
拡張RAG

生成AI
混合技術

生成AI
監査技術

ナレッジグラフ生成AIや既存AI

ナレッジグラフ

監視ビデオ
ネットワークログ
法令や企業規則
RAG: Retrieval Augmented Generation(検索拡張生成) LLMにて学習外の知識を取得して利用する仕組み / ナレッジグラフ: さまざまな知識を体系的にグラフ構造で表した知識のネットワーク

6© 2024 FUJITSU LIMITEDナレッジグラフ拡張RAG
1,000万文字以上のドキュメント全体を俯瞰して高精度に分析⚫ 製品マニュアルなどの企業が取り扱う大規模データを逐次的に処理し、ナレッジグラフを生成し、効率的に大規模データを処理⚫ クエリーに応じてナレッジグラフから必要情報抽出、生成AI推論補助クエリー指向ナレッジ
クエリー
（タスク）

クエリー指向グラフスキーマ抽出

クエリー指向
ナレッジ抽出

回答特化型生成AI

製品
マニュアル（膨大なデータ）

実績

ナレッジグラフを生成するAI

ナレッジグラフ

複雑な質問応答の精度を測定するベンチマーク「HotpotQA」で世界1位を獲得
7© 2024 FUJITSU LIMITEDナレッジグラフ拡張RAGの効果
通常のRAGに対して高精度な応答を生成可能
ナレッジグラフ拡張RAG

通常のRAG

通常RAGに比べて回答に必要な情報のみを抽出、生成AIに提供する情報量を通常のRAGの約1/4にして、ベンチマーク「HotpotQA」
で世界1位

クエリー特徴量
0111010111

クエリー

クエリー特徴量に類似する断片を探索

クエリーに類似する製品マニュアルの断片の集合

ドキュメント全体

クエリー

クエリー指向グラフスキーマ

クエリーに対して回答を導き出すために必要なスキーマを抽出

クエリー指向ナレッジ
ドキュメント全体

製品
マニュアル

… …

0100101101
1111011010
0100010010

製品
マニュアル

製品マニュアルナレッジグラフスキーマをもとに情報を抽出

0110010010
製品マニュアルの断片の特徴量約1/4の情報量に
8© 2024 FUJITSU LIMITEDナレッジグラフ拡張RAGの適用事例 DEMO展示

1000万文字対応

製品マニュアルQ&A

ネットワークログ解析

映像による作業分析

製品マニュアルは1,000万文字以上全体を俯瞰した回答ができない

大量なネットワークログや過去の障害事例からNW障害の原因を発見できない

長期間にわたる大量な映像データの集計や統計情報の取り扱いができない

1,000万文字の製品マニュアル
Q&Aで効果確認

モバイルネットワーク
接続障害適用、効果確認

作業現場の映像から長期間の作業者の状況を確認可能

複数ページにまたがる情報を適切に統合して最適な回答を生成

117の異なる障害事例からナレッジグラフを生成、原因候補を網羅的に列挙し障害復旧を効率化

実倉庫で検証中製品に関する
質問

質問に関する
製品ナレッジグラフ

回答

質問に関する
NW障害に対する
NW障害ナレッジグラフ
質問

生成AI

製品マニュアル

製品ナレッジグラフ

回答

行動に関する
質問

質問に関する
行動ナレッジグラフ

生成AI

NW障害事例マニュアル

NW障害ナレッジグラフ
9回答

生成AI

作業現場の映像

行動ナレッジグラフ© 2024 FUJITSU LIMITED

生成AI混合技術
プロンプトエンジニアリングやファインチューニングなどの顧客によるカスタマイズ不要で、効果が高い特化型生成AIを容易に自動生成⚫ 特化型生成AIを選択

クエリー特性*1とモデル特性*2からタスク実行に必要なAIモデルを選択⚫ 特化型生成AIの自動生成 適切なAIモデルがない場合は、必要なAIモデルを自動生成
実行パイプライン生成
クエリーモデルあり

クエリー特性抽出

実行パイプライン

AIモデル選択・混合
特化型生成AI

モデルなし

AIモデル自動生成

実績

Model Lake
特化型モデル

モデル特性

映像検知においてGPT-4Vと同等、日本語オープンモデルで最高性能達成
契約書順守チェックやサポートディスク効率化といった企業業務に特化したタスクで効果確認*1 クエリー特性 ユーザのクエリーの特性を表す指標でこのタスクを処理するモデルを選択するときに利用 *2 モデル特性 特化型モデルを生成するときに追加される企業情報の特性。ユーザからのクエリーを処理するモデルとしての適合性チェックのために利用

10© 2024 FUJITSU LIMITED

生成AI混合技術の適用事例と効果契約書順守チェック

サポートデスクの効率化

ソフトウェア契約書と利用状況の確認に膨大な時間がかかている

契約内容との突合業務知識での補完

DEMO展示0

カスタマイズ

ドライバー最適配置

インシデント対応担当者の配置が俗人的で遅延が発生
担当者スキル

SLA遵守

緊急度

物流2024年問題
20万人のドライバー不足
法令遵守

人手不足

富士通の確認ノウハウを生成AIに教える必要あり

予測・最適化モデル開発に専門家が必要

最適化の定式化に専門家が必要

数カ月かけてプロンプトで業務知識を扱えるようにすることなく特化型生成AIを自動生成

複雑なタスクアサインメントを解く
特化型生成AIを自動生成

専門家が必要な定式化を即座に実行できる
特化型生成AIを自動生成

30% 工数削減
契約書
利用状況

契約書
分析AI

利用方法
確認AI

作業効率

インシデント25 % 向上

予測

最適化

11

担当割振り

計画作成時間運送依頼

95% 削減最適化

運送計画© 2024 FUJITSU LIMITED

生成AI監査技術
ナレッジグラフで生成AIの挙動を制御し、企業規則や法令に準拠⚫ 法令や企業規則に対応するナレッジグラフを活用して、入力の規則準拠を検証⚫ 生成AIが出力を導出した根拠を解析することで、判断根拠の説明性付与、ハルシネーションを判定

入力/出力
入力
（クエリー）

判断根拠規則

クエリー指向ナレッジグラフ抽出

特化型生成AI

検証

出力結果⚫ 入力が規則に対して・企業規則
・法令

ナレッジ
グラフ
生成AI

準拠しているか検証⚫ 出力が判断根拠に対して矛盾していないか

規則
ナレッジ
グラフ

判断根拠
12

© 2024 FUJITSU LIMITED

規則準拠、説明性付与

生成AI監査技術

DEMO展示規則準拠検証 と 出力根拠の説明付与

法令順守

検証

入力が、規則に対して準拠しているか入力
入力
規則

判断

入力が規則に準拠しているか判断するよう指示

規則

生成AI

出力が、判断根拠に対して矛盾していないか
出力

判断根拠

生成AIが規則準拠を判断した根拠を解析

13

出力

矛盾チェック

判断根拠

判断根拠と出力の矛盾をチェック

矛盾なし© 2024 FUJITSU LIMITEDナレッジグラフ
拡張RAG

AIサービス「Fujitsu Kozuchi」

1000万文字対応

0

法令遵守

生成AI
混合技術

生成AI
監査技術

カスタマイズ

エンタープライズ生成AIフレームワーク を7月より順次公開予定

企業における生成AI活用を牽引する
グローバルトッププレイヤを目指す14© 2024 Fujitsu Limited

研究戦略説明会
Fujitsu
Research Strategy
Briefing Session
次世代グリーンデータセンター向けプロセッサ

FUJITSU-MONAKA
2024年6月4日

富士通株式会社
富士通研究所 先端技術開発本部 本部長

新庄 直樹
15

©©20242024Fujitsu
Fujitsu Limited
LimitedFUJITSU-MONAKA
カーボンニュートラルなデジタル社会を実現する
次世代高性能・省電力・国産プロセッサ

高速なデータ処理基盤
Armv9-A Architecture
3D chiplet• Core die• SRAM die/IO die

2nm
5nm

ゴール

144 cores x 2 sockets(288 cores per node)
Confidential Computing
for security

DDR5 12 channels

PCI Express 6.0(CXL3.0)

Air cooling

2027 リリース

高い電力効率によりCO2排出と電力コストを大きく削減(競合CPU比2倍)

AIワークロードを中心としたコンピューティングの高速処理を実現(競合CPU比2倍)

Arm SVE2
for AI and HPC

Ultra low voltage
for energy-efficiency

省電力とパフォーマンスの両立

信頼性とセキュリティ
メインフレームで培ってきた安定稼働技術とクラウド活用に向けた高いセキュリティを実現

使いやすさ
Armソフトウェアエコシステムを利用可能
サービス・ソフトウェア・ハードウェアの全体を通した協調設計

自社設計のマイクロアーキテクチャや低電圧技術などの当社独自技術により実現*この成果は、NEDO (国立研究開発法人新エネルギー・産業技術総合開発機構) の助成事業の結果得られたものです。

1616© 2024 Fujitsu Limited© 2024 Fujitsu Limited

様々な用途での活用を目指し、各種分野との共創を開始
Arm-based CPU
FUJITSU-MONAKA

データセンター
安全保障

テレコム

FUJITSU-MONAKASoftware

高まるデータセンターのAI需要に応える
AI性能の追求

AIソフトウェア拡充

他社CPU比2倍の性能と電力効率

幅広い
ソフトウェアスタック

17© 2024 Fujitsu Limited

AIやHPCを始めとする広い領域のソフトウェアをカバー
ProductDelivery
Open-Source
Contributions

Customer Use Cases• Surrogate Models SVR• LLM Software Applications

AI Software
Frameworks
Software Stack
Selection
Cutting Edge
Applications

Fujitsu Kozuchi• Scikit Learn Use Cases• Hugging Face Use Cases• Causal Inference• Ambient Authentication

API Microservices Platform (FUJITSU-MONAKA Green HPC API Server) @ FRIPL*
OpenMathLib/OpenBLAS

Math Library,
NumPy, OpenMP

PyPi

Software Delivery
Collaborations

Fujitsu Computing as a Service

UXL
foundation

DockeroneAPI Ecosystem,
oneDAL & oneDNN

Containers

FUJITSU-MONAKA
ARM Improvements

PyTorchKubernetes andOpenStack OSS

LinaroReference Implementations

Computing Workload Broker

Continuous Integration and Deployment using MOCHI and Konark Platform
Internal TeamsSW R&D

Math Lib

Platform

Scikit-Learn Multithreading
XGBoost NumPy

Pandas

BLAS
Machine Learning

External Organizations

AI Solutions
LLM’s

VisionComputing
NLP

Hugging Face TensorFlow/PyTorch

OpenVINO oneDNN Inductor
Deep Learning

Compiler
PostgreSQL

PySpark

Downloads

GitHub

Healthcare❑ Drug Discovery❑ Gene Prediction*Fujitsu Research of India Private Limited

UXL
Red Hat

VectorDB

Data Intelligence
Big Data Analytics

Quantitative Metrics

ARMMITIISc

Secured HW/SW

Software Guard Extensions OpenShift

Confidential Computing
Data Security

Qualitative Metrics

Market Adoption

Search Trends

Manufacturing❑ Defect Detection❑ Preventive Maint.
18
18

Arm Enablement

Release Freq.

Retail❑ Recommendation❑ SCM Forecasting

Innovation Scope

Use CaseBanking❑ HF Trading❑ Fraud Detection© 2024 Fujitsu Limited© 2024 Fujitsu Limited

導入障壁を下げるソフトウェア技術開発例
単一コードで異種AIアクセラレーターを活用するUnified Acceleration技術の開発• 様々なCPUやアクセラレーターを単一ソースコードで活用可能にするための団体UXL foundationを発足メンバー企業として牽引• 富士通はArm CPU FUJITSU-MONAKAをAIアクセラレーターとして活用するための基盤ソフトウェアをグローバルに開発する• 2027年リリースの時点でお客様がFUJITSU-MONAKAのAI性能を手軽に、最大限活用できる環境の構築を目指す
最新事例 ：
oneDALのArm enablementに世界で初めて成功

Unified Accelerationのメリット

Intel MKL固有の数学関数をオープンソースであるOpenBLASの関数に置き換えることに成功
oneAPI Interface
GPU

x86
CPU

Arm
CPU

FPGA

ハードウェア毎にソースコードを書き直さなければならない

GPU

x86
CPU

Arm
CPU

FPGA

Machine Learning Workloads

単一ソースコードで全てのハードウェアが最適に動作高い環境移行コスト

環境移行コストの低減

メンテナンス性の低下

最適なハードウェアが選択可能

scikit-learn Algorithms
oneDAL LibraryIntel MKLOpenBLAS

DFT, RNG
VSL

Open-source
Kernels

x86CPUFUJITSU-MONAKAのAI活用拡大に繋げる
1919Arm
CPU

Arm
CPU

高速に処理する演算ルーチンを手軽に大規模演算で使用することが可能に
Arm enablementを拡大しAIソリューション開発基盤を構築する© 2024 Fujitsu Limited© 2024 Fujitsu Limited

FUJITSU-MONAKAはFujitsu Kozuchi

幅広い領域で活用可能な

FUJITSU-MONAKA & Tuned AI softwares

AIインフラ基盤として

Application

お客様の課題を解決していきます

AI
音声認識

Library
Framework

OpenBLAS

Middleware
OSLinux

FirmwareHardware

Many Core20

NumPy/SciPy
Kubernetes

サロゲートモデル
scikit-learn
OpenStackHigh-Capacity Memory

LLM
活用基盤

oneDNN

oneDALGCC/LLVM
Low Power

PyTorch/TensorFlow

Confidential Containers
Support AI instructions© 2024 Fujitsu Limited

研究戦略説明会
Fujitsu
Research Strategy
Briefing Session

富士通の研究戦略
技術領域の融合による新しい価値創出
2024年6月4日

富士通株式会社
執行役員 EVP
富士通研究所 所長

岡本 青史
FUJITSUPUBLIC© 2024 Fujitsu Limited

富士通の研究戦略

AIを軸にした技術領域の融合による新しい価値創出

サステナブルな社会
Regenerative enterprise(再生型企業) への変革
BusinessIssues

マテリアリティ
Fujitsu Uvance
サービスソリューション

PlanetFujitsu Kozuchi

PeopleProsperity

Converging technologies

Data & Security

偽・誤情報やハルシネーション
対策技術で安心安全な社会

ソーシャルデジタルツインで社会課題を解決

Computing

FUJITSUPUBLICAI Computing Brokerによる計算コストの大幅削減

AI

量子コンピューターの計算能力による圧倒的なイノベーション

5 キーテクノロジー
22Network

大規模・複雑化するネットワークをレジリエント化© 2024 Fujitsu Limited

AI × コンピューティング

10

2030年 地球の全電力の%がデータセンターで消費されるAIの発展は地球規模の電力問題に直結
FUJITSUPUBLIC

23© 2024 Fujitsu Limited

AI Computing Broker

DEMO展示新技術

データセンターの消費電力を劇的に削減

GPUを100%フル活用する技術

GPU削減により電力量半減へ

GPUでモデル計算すべきジョブを事前に分析し、動的に割り当てる

AIの計算機リソース縮小で年間10TWh以上を削減可能に

Program A

CPU

GPU

CPU

GPU

CPU

Program B

CPU

CPU

GPU

CPU

GPU

日本の約2400万世帯の年間電力消費量に相当様々な効率化方策をとっている

TSUBAMEでもGPU利用率は30%程度
FUJITSUPUBLIC

24© 2024 Fujitsu Limited

AI × Data & Security
AIがもたらす偽・誤情報は最大のグローバルリスク
世界経済フォーラム2024

生成AIや合成コンテンツによる偽情報が、選挙プロセスや株式市場操作などかつてない社会リスクをもたらしている

FUJITSUPUBLIC

25© 2024 Fujitsu Limited新たな社会課題への取り組み
ルールメイキングと偽情報対策技術の開発
国際ガバナンス形成の議論に参加・提言

世界初の真偽判定統合分析システムの構築問題となる情報OECD
総務省・経産省

G7広島AIプロセス

AI事業者ガイドライン

新技術
判定結果と文章で根拠を説明

真偽判定統合分析システム

Mis-Info(誤情報)

Dis-Info(偽情報)Mal-Info(悪意ある情報)

FUJITSUPUBLIC

真偽判定

生成元分析

根拠収集

⚫ テキスト⚫ 画像・動画⚫ 音声⚫ 根拠 / エンドース

メントグラフ

統合分析

判定結果⚫ 矛盾検証⚫ 根拠分析

⚫ 真意判定⚫ 根拠説明

根拠説明

世界初

26

© 2024 Fujitsu Limited

AI × Converging Technology
都市は世界のエネルギーの65%以上を消費し世界のCO2排出量の70%以上を排出
欧州委員会2024

AIと人文・社会科学との融合で社会問題に取り組む

FUJITSUPUBLIC

27© 2024 Fujitsu Limited環境, 社会, 経済のトレードオン施策立案
ソーシャルデジタルツイン
行動選択モデルNEW

合意形成支援モビリティ

ピッツバーグ

エネルギー・環境
都市交通の安全化

DEMO展示

防災・防犯

欧州

ウェルビーイング
公共交通機関の利用促進

リアルタイム3Dツイン生成

世界初 １台の単眼カメラでリアルタイムに都市の3Dツインが作れる

移動の安全性とコストを両立

移動の効率化と脱炭素を両立

インド

山形

EV充電インフラの配置

充電スポットの効率化と脱炭素を両立

FUJITSUPUBLIC

28

地域医療の再編医療サービス向上とコストを両立© 2024 Fujitsu Limited

AI × 量子コンピューター
量子がもたらす桁違いの計算機性能でAIの世界に革命を起こす
超パーソナライズドAI
大規模マルチエージェントAI
超低消費電力エッジAI

FUJITSUPUBLIC

29© 2024 Fujitsu Limited世界初の量子機械学習技術

新技術

ハイブリッド量子プラットフォームの活用開始

世界初の量子ノイズ除去技術

固体物質の性質を予測

量子オートエンコーダを用いてデータ復元に成功

磁性体の性質に対する学習

水素化リチウムのエネルギー計算

損失関数（学習進行度）

世界最高速の量子CNN技術

加速

従来手法
ノイズありデータ

当社手法 ※固体物質がもつ対称性利用

当社手法
真のデータ

学習回数（時間）

ノイズ除去

CNN: 畳み込みニューラルネットワーク
FUJITSUPUBLIC

30© 2024 Fujitsu Limited

AIを軸にした技術領域の融合による新しい価値創出

FUJITSUPUBLIC

31© 2024 Fujitsu Limited