Vertex AI の実運用環境を考える
2022, 3, 15

01
自己紹介

スピーカー紹介

Google Cloud のデベロッパーアドボケイトとして、機械学習や AI 系プロダクトの開発者支援を担当。Google Cloud Next、Google I/O、NVIDIA
GTC 等の主要イベントでスピーカーを務め、Google Cloud
公式ブログに多数の記事を寄稿。また Google Cloud 開発者コミュニティを10 年以上にわたり支援している。
佐藤一憲
Developer Advocate, Google CloudGCPUG Slack の #vertex-ai チャンネル
gcpug.jp

スピーカー紹介

Citadel AI でプロダクトの開発業務に従事。Money Forward で MLOps に関するアドバイザーを務める。他にもブログ記事などで MLOps について情報発信中。Kubeflow Pipelines, TFX のコントリビューター。「見て試してわかる機械学習アルゴリズムの仕組み 機械学習図鑑」の共著者のひとり。

杉山阿聖
Software Engineer, Citadel AI

Vertex Pipelines に機械学習基盤を移行
学習 & 推論のバッチ処理を Vertex
Pipelines で実施
メンテナンスが困難になってしまった機械学習パイ
プラインを、自分たちで運用できる基盤を目指して
Vertex Pipelines に再構築
以前に別のイベントで詳細を紹介したのでよければご確認くださいスピーカー紹介

2021 年 12 月に CADDi AI Lab を立ち上げ、機械学習アルゴリズムの実装からインフラ、プロダクトの開発業務に従事。その他、趣味開発チーム
Bolder's を主催し、VertexAI の導入などを推し進める。
Gokart や lightgbm-rs など ML/MLOps に関連する OSS で活動。
エムスリーエンジニアリングフェロー。
河合俊典
Tech Lead, CADDi, inc.

CADDi での Vertex 活用
Vertex AI による機械学習のパイプライン基盤と開発環境としての利用●

LightGBM を用いたレコメンデーションの学習/推論や、

Make Image List

Rust による図面画像処理アルゴリズム、DNN による推論/特徴量化が自動で走る Vertex Pipeline を構築●Vertex AI を用いた AutoML による画像分類モデル構築、

Image Recognition

Preprocess

API deploy なども検証中●Vertex Workbench を共用の開発環境として利用
BigQuery との連携等を重要視

DNN Inference

Upload Feature Store02
Vertex AI WorkbenchNo code / low code
workﬂow

Custom training
workﬂow

Vertex AI

VisionVideo

Language

BigQuery ML

Translation

Tables

Forecast

AutoML

Experiment

Train

DeployData LabelingTraining

Prediction

Vertex SDKNASMatching
EngineTensorBoard

Vizier

Generally available
Model Monitoring

Explainable AI

Feature Store

Pipelines

Workbench

ML Metadata

NEW(PREVIEW)
Proprietary+ Confidential

Vertex AI WorkbenchA single notebook interface for your data,
analytics and machine learning workflow.

Data Science Surface
Vertex AI WorkbenchAnalytics

DataBigQuery

Spark on Google Cloud
Unified Data FabricDataplex

MLVertex AI

Vertex AI Workbench あれこれいいところ●

フルマネージド●

BigQuery 連携：開発生産性は？

●Executor：どこまで使える？

●

Pipelines 連携

がんばってほしいところ●

Notebook から Pipelines への移行○

単にノートを component 化するだけでは不足○

ポータブルな API を用意してほしい03
Vertex Pipelines

Vertex Pipelines
Define pipelines with your components fordata ingestion, preprocessing, training,validation and deployment with Kubeflow
PipelinesServerless, automated, scalable: pay onlyfor what you use
Track artifacts and lineage of data, feature,model and experiment metrics across yourML workflow with metadata store for higher
governance and auditingProprietary + Confidential

ManageSimplify MLOps with Vertex Pipelines
Container Registry

Vertex Pipelines

Extract
Data

Validate
Data

PrepareData

Data warehouse

Serverless Training

BigQuery

Vertex Training

Train Model

Processing
Dataflow or
Dataproc

Evaluate
ModelValidate
Model

Scalable Inference
Vertex Prediction

DeployModelArtifact Store
Cloud Storage

Proprietary + Confidential

ML MetadataArtifact, lineage, and execution tracking for your ML workflow

Automatically track inputs and outputs to allcomponents in an ML pipeline, and their lineage.

Visualize the workflow for faster debugging with a
DAG of all related executions.

Manage artifacts by projects, group byexperiments, and track the usage of datasetsand models in your organization

Preview

Vertex Pipelines あれこれいいところ

がんばってほしいところ

●

サーバレス

●

KFP SDK で ML パイプライン記述○

起動やデプロイの遅さ●

Metadata Store でガバナンス○

かゆいところ●Training/AutoML, Prediction, Git 等と連携○

テンプレ化？

○

Component のテスト記述と共有●●

ベストプラクティスの共有

事例共有

04
その他

Vertex AI 実運用環境のあれこれここはどうする？

Vertex Training どう使う？
GitHub Actions/Cloud Build 連携のベストプラクティス
Security/IAM
リージョンまたぎ問題

Thank you.