非構造化データにおける真の4つのV

[How to Generate Business Value From Unstructured Data Analytics \- The Databricks Blog](https://databricks.com/blog/2022/03/23/the-real-4-vs-of-unstructured-data.html)の翻訳です。

:::note warn
本書は抄訳であり内容の正確性を保証するものではありません。正確な内容に関しては原文を参照ください。
:::

パワフルなビッグデータ処理プラットフォームとアルゴリズムの進化に伴い、大規模かつ複雑なデータセットを分析する能力が出現しています。非構造化データ分析によって達成される多大なるビジネス価値により、この能力はデータウェアハウスと互換性がある構造化、準構造化データの枠を超えるものとなっています。

# 企業はなぜ非構造化データを処理する能力を必要とするのか

非構造化データの量と多様性は増加し続けています。生成される全てのデータの[70%](https://www.forbes.com/sites/bernardmarr/2019/10/16/what-is-unstructured-data-and-why-is-it-so-important-to-businesses-an-easy-explanation-for-anyone/)から[90%](https://venturebeat.com/2021/07/22/why-unstructured-data-is-the-future-of-data-management/)が非構造化データとなっています。年間[60%](https://www.datamation.com/big-data/structured-vs-unstructured-data/)の増加が見込まれており、数百ゼタバイトになると推定されています。このようなデータをストレージに格納し、クラウドデータウェアハウスでアクセスすることは間違いなく価値のあることですが、多くの価値は特定のユースケースに合わせたカスタム処理によって得られます。

# 非構造化データ分析ユースケース

非構造化データ分析のよく知られている例は、医療、自動車領域からのものとなります。非構造化医療データの価値は明確です。例えば、人体の画像データに対する深い理解によって命が救われます。しかし、他の業界でも感情分析、予兆分析、リアルタイムの意思決定など数多くの実世界におけるユースケースが存在しています。もちろん、データタイプの制限はありません。画像、音声、テキストは全て価値のある情報を含んでいます。

Databricksでは最新の機械学習ライブラリをネイティブでサポートしているので、データを移動・コピーすることなしに、あらゆるタイプのデータを意味のある方法で処理することができます。これによって、お客様は自身の分析やモデルに、ソーシャルメディアのポストから画像のカタログを作成するためのメタデータに至る非構造化データの全てのプロパティを含めることができます。

これによって、我々は非構造化データの真の[4V](https://technologyadvice.com/blog/information-technology/the-four-vs-of-big-data/)に到達しました: Value、Value、Value、そしてValueです。以下に、さまざまな業界における非構造化データを用いた様々なユースケース例を得られたビジネス価値とともにまとめました。

| 業界 | ユースケース | Databricksにおけるソリューション | 価値 |
|:--|:--|:--|:--|
| マテリアル  |[Wood log inventory estimation based on drone imagery](https://databricks.com/session_na20/wood-log-inventory-estimation-using-image-processing-and-deep-learning-technique)   | →ドローン画像のバッチ取り込み<br><br>→カスタムの画像認識アルゴリズムのトレーニング<br><br>→コンピュータ支援による画像アノテーション  |![](https://databricks.com/wp-content/uploads/2022/03/db-41-blog-img-1.jpg) 手動によるデータラベリングの期間を月当たり2日削減   |
| メディア&エンターテイメント  | [Voice control of home domotica](https://databricks.com/customers/comcast)  |→スポーチサンプルのストリーミング取り込み<br><br>→カスタムのスピーチ認識(NLP)モデルの定期的トレーニング<br><br>→顧客エンゲージメントを改善するためのボイスコントロール   |  Deltaによるデータ処理パイプラインのコストを10倍削減![](https://databricks.com/wp-content/uploads/2022/03/db-41-blog-img-2.png) |
| Eコマース  | [Background removal in e\-commerce fashion images](https://databricks.com/blog/2021/04/29/automated-background-removal-in-e-commerce-fashion-image-processing-using-pytorch-on-databricks.html)  | →衣料品画像のバッチ取り込み<br><br>→カスタムの前景/背景画像識別モデルのGPUトレーニング<br><br>→Eコマースで表示する高品質在庫写真  |アウトソースではなくカスタム処理を行うことで10倍のTCO削減![](https://databricks.com/wp-content/uploads/2022/03/db-41-blog-img-3.jpg)   |
| 自動車  | [Towards self\-driving trucks](https://databricks.com/customers/embark-trucks)  | →トラックから得られる35000時間の動画のバッチ取り込み<br><br>→画像認識アルゴリズムの適用<br><br>→自動運転トラックに向けた取り組み  |分析データのボリュームを75倍に増加![](https://databricks.com/wp-content/uploads/2022/03/db-41-blog-img-4.png)   |
| ライフサイエンス  | [Treatment discovery based on genomic sequencing](https://databricks.com/customers/regeneron)  | →10TBのゲノムシーケンスデータ<br><br>→高性能、高信頼な分散処理のためのDatabricks Spark<br><br>→創薬ターゲット特定の加速   | 600倍のクエリー実行性能改善![](https://databricks.com/wp-content/uploads/2022/03/db-41-blog-img-5.png)  |

# Databricksレイクハウスプラットフォームにおける非構造化データの処理

非構造化データに対する多くのユースケースは類似した計算パターンに従っています。構造化データの分析やモデリングと比較して、多くの場合、このようなモデリングの前に膨大な特徴量抽出ステップが必要となります。言い換えると、非構造化データは構造化を必要とします。しかし、それ以外には初歩的な機械学習と比較して根本的な違いはありません。

[Databricksのレイクハウスプラットフォーム](https://databricks.com/jp/product/data-lakehouse)では、データを構造化(準構造化)データと同じ方法で取り込むことができるので、ネイティブで非構造化データを処理することができます。ここでは、生のデータを徐々に利用可能な状態に洗練していくメダリオンアーキテクチャに従います。

- ドライバーノード、ワーカーノードで特徴量抽出に必要なPythonライブラリが利用できるように、Databricks機械学習ランタイムが稼働するクラスターを作成します。
- バッチあるいはストリーミングの取り込みでクラウドストレージからデータファイルを取得し、ブロンズDeltaテーブル(生データ)に追加します。
- クラスターのワーカーが特徴量抽出を並列に実行できるように、Apache Spark™の分散処理能力を活用し、意味のあるモデリング、分析に必要な追加情報を含む他のデータセットと組み合わせます。結果のデータセットは通常シルバーDeltaテーブルに格納されます。
- シルバーテーブルには、スピーチ認識、画像分類、自然言語処理や上述した様々なユースケースのようなモデルトレーニングに使用する特徴量と目的変数が含まれています。通常、これらの推論は(モデルトレーニングに使われていない)新規データファイルから導出され、ゴールドテーブルに格納されます。

Databricksにおける、ディープラーニングを用いた非構造化データのモデリングに対する一般的なアプローチの詳細については、[Databricksによるエンドツーエンドのディープラーニングパイプラインの管理](https://qiita.com/taka_yayoi/items/7de9c65eb0c3f67a28a0)をご覧ください。

非構造化データの分析のネイティブサポートに加え、データウェアハウスの性能に関してDatabricksが[世界記録](https://qiita.com/taka_yayoi/items/b9b25d2050685706a20b)を打ち立てたことをご存知ですか？これは我々がレイクハウスとして意図していることです。データエンジニア、データサイエンティスト、データアナリストが、先進的な機械学習から[高性能かつ高信頼のBIワークロード](https://databricks.com/blog/2021/12/15/announcing-general-availability-of-databricks-sql.html)など、お客様にビジネス価値を提供するためのあらゆるデータドリブンのケースに共に取り込む場所がレイクハウスです。

特にDatabricksにおける画像処理のベストプラクティスに興味があるのでしたら、過去の[Data \+ AI Summit session on image processing](https://databricks.com/session_na21/image-processing-on-delta-lake)や[関連ブログ記事](https://qiita.com/taka_yayoi/items/887343d522fceb7e793c)を参照ください。レコメンデーションシステムにおける画像処理のユースケースに関しては、[類似性ベースの画像認識システムに関するブログ記事](https://qiita.com/taka_yayoi/items/173d5228c1d08c5130ef)をご覧ください。自然言語処理に関しては、薬の有害反応イベント検知に関するソリューションアクセラレーターを含む[こちらの記事](https://databricks.com/blog/2022/01/17/improving-drug-safety-with-adverse-event-detection-using-nlp.html)をご覧ください。

### Databricks 無料トライアル

[Databricks 無料トライアル](https://databricks.com/jp/try-databricks)