[Ignite編] スタートアップが押さえるべきMicrosoft AIアップデート５選

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/767bbe1b-8d0d-2b3a-126d-d7701af61585.png)


先日[Microsoft Ignite](https://ignite.microsoft.com/en-US/home)で、マイクロソフトのAIとクラウド技術の最新のアップデートが発表されました。。2日間のアクション満載の日々を通じて、マイクロソフトは生成AIインフラの革新、新しいツール、そして採用、生産性、セキュリティの進歩にわたる100以上のアップデートが発表されました。これらのアップデートはAIを使って構築するすべての人にとってゲームチェンジャーとなり、マイクロソフトAzureがAIのための主導的なクラウドプラットフォームであることを示しています。

その中で **すべてのスタートアップが知っておくべきトップ5** のマイクロソフトAI発表をまとめました：

1. **Microsoft AI supercomputer** :Nvidiaとの提携によるより強力なパワー、優れた価格設定、目的に合わせて作られたシリコン。
2. **OSS LLMインタラクションの単純化**：簡単なAPIコールを通じてインタラクション（Llama2, Mistral, Jais）を合理化
3. **Azure OpenAIサービスのアップデート**：マルチモーダル機能、OpenAI GPT-4ファインチューニング、ビジョン機能を持つOpenAI GPT-4ターボ、費用効果的な価格設定でAzure OpenAIサービスを強化。

4. **新しいベクター検索とセマンティックランキング**：情報検索の精度を優先
5. **拡張された責任あるAIツール**：進んだセキュリティ対策と倫理的配慮を持って消費者と企業の信頼を築くアプリケーションの開発を促進。

### Azure AIインフラストラクチャ - Azure is the world’s computer
Azureは、クラウドサービスから最も洗練されたAIモデルの実行まで、さまざまなソリューションに電力を供給しています。価格とパフォーマンスの選択肢をデータセンターとそれらを動力とするシリコンを含むAzureインフラストラクチャ技術スタック全体にわたって追加したことを発表できることを嬉しく思います
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/542601d3-56b2-c802-7bc7-56add919dbe3.png)

#### マイクロソフトクラウド内のAIおよびエンタープライズワークロード用に**カスタムビルドされたシリコン**
この新しいカスタムシリコンは、業界パートナーとのマイクロソフトのオファリングを補完します。2つの新しいチップ、Microsoft Azure MaiaとMicrosoft Azure Cobaltは、パフォーマンスと価格を最適化するためにハードウェアとソフトウェアシステムの全体的な視点で構築されました。Microsoft Azure Maiaは、OpenAIモデル、Bing、GitHub Copilot、ChatGPTなどのAIワークロードのクラウドベースのトレーニングと推論を実行するために設計されたAIアクセラレーターチップです。Microsoft Azure Cobaltは、一般的なワークロードに対するパフォーマンス、省電力性、コスト効率を最適化するためにArmアーキテクチャに基づいて構築されたクラウドネイティブチップです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/12063fe8-74ad-379e-e7f7-d7fb3cbd1d30.png)

#### Azure Boostが一般提供
icrosoft Azureの最新かつ最も重要なインフラ改善の1つであるAzure Boostは、現在一般提供されています。Azure Boostは、ネットワークとストレージのパフォーマンスをスケールで向上させ、セキュリティを改善し、ホストサーバーによって従来行われていた仮想化プロセス（ネットワーキング、ストレージ、ホスト管理など）をこれらのプロセスに最適化された専用のハードウェアとソフトウェアに移行することで、サービスの影響を減らします。このイノベーションにより、マイクロソフトは今日市場で最速のリモートおよびローカルストレージパフォーマンスを実現しており、リモートストレージのパフォーマンスは12.5Gbps（ギガビット毎秒）のスループットと650K IOPS（1秒あたりの入出力操作）、ローカルストレージのパフォーマンスは17.3Gbpsのスループットと3.8M IOPSです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/2cf599cf-2d01-5ad4-bc2d-68c54014e55c.png)


#### 新しいVMとGPUの提供
新しいGPUの提供には、生成AIワークロードに最適化されたAMDチップを搭載したND MI300 v5仮想マシン、最新のNVIDIA GPUを搭載したNC H100 v5仮想マシン、およびプレビュー中の新しいNC H100 v5仮想マシン（VM）シリーズが含まれ、プレビュー中の最新NVLバリアントのNVIDIA Hopper 100 (H100)に基づいて構築されており、GPUあたりのメモリを増やすことができます。これらの新しいVMシリーズは、中規模のAIトレーニングと生成AI推論のために、顧客により高いパフォーマンス、信頼性、効率を提供します。VM内のGPUあたりのメモリを維持することで、顧客はデータ処理の効率を高め、全体的なワークロードのパフォーマンスを向上させることができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/f10ab1e3-128f-58ed-c9af-7df1b22cadcc.png)

### Model-as-a-Service の紹介
Azure Machine Learningは、プロンプトフローとモデルカタログの一般提供、Microsoft Fabric内のOneLakeとの統合のプレビューなど、新しい機能強化を通じてユーザー体験を向上し続けています。これにより、スタートアップや機械学習の専門家は、AI駆動のアプリケーションの開発を合理化し、生成AIソリューションを生成AI開発ライフサイクルの全段階で運用化することが可能になります。特に重要な新機能は、モデルカタログ内の[Models as a Service (MaaS) 機能](https://techcommunity.microsoft.com/t5/ai-machine-learning-blog/announcing-llama-2-inference-apis-and-hosted-fine-tuning-through/ba-p/3979227)であり、スタートアップがMetaのLlama 2やMistral、G42のJaisからの今後のプレミアムモデルなどの最新のAIモデルをアプリケーションへのAPIエンドポイントとして容易に統合できるようにします。スタートアップはまた、GPUインフラの設定と管理について心配することなく、独自のデータでモデルをカスタマイズすることもでき、これにより複雑さを排除し、生産性を向上させることができます。これは、小さなチームで作業している初期段階のスタートアップにとって非常に重要です。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/7421be2f-f49b-faba-4295-355386bf49a4.png)


### Azure OpenAIサービスに新しいマルチモデル機能が登場
これは、過去数週間にわたりFounders Hubのスタートアップから最も要望されていた分野の1つであり、Azureに来ることがとても興奮しています。新しいOpenAI GPT-3.5ターボモデルは16Kトークンのプロンプト長で一般提供され、OpenAI GPT-4 turboはAzure OpenAI Serviceで現在パブリックプレビューです。OpenAI GPT-4 turboは、プロンプトの長さを拡張し、生成AIアプリケーションにさらにコントロールと効率性をもたらすことを可能にします。さらに、[OpenAI GPT-4 turboにVision機能](https://techcommunity.microsoft.com/t5/ai-azure-ai-services-blog/gpt-4-turbo-with-vision-on-azure-openai-service/ba-p/3979933)が追加され、近日プレビュー公開される予定であり、[DALL·E 3](https://techcommunity.microsoft.com/t5/ai-azure-ai-services-blog/azure-openai-service-announces-new-models-and-multimodal/ba-p/3978865)は現在Azure OpenAI Serviceでパブリックプレビューが利用可能です。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/e7f87542-cbb7-7bf9-0ca2-d6935dfacb15.png)

これにより、スタートアップはOpenAI GPT-4と共に画像に関する高度な機能を追求することができ、企業向けソリューションの次の世代を支援します。そして、Azure AI Vision Serviceと組み合わせることで、OpenAI GPT-4 turboにVision機能はビデオを理解し、テキスト出力を生成することができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/c0689a08-bc8e-b90d-1890-c0f63b6039c6.png)


![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/c7165ad5-1e6e-6404-ba88-9900e658e628.png)


### ベクター検索とセマンティックランカーの一般提供
Azure AI Search（以前のAzure Cognitive Searchとして知られていた）は、情報検索と取得プラットフォームであり、スタートアップが生成AIアプリケーションで非常にパーソナライズされた体験を提供できるようにします。Azure AI Searchの機能である[ベクター検索](https://techcommunity.microsoft.com/t5/ai-azure-ai-services-blog/announcing-general-availability-of-vector-search-and-semantic/ba-p/3978525)は、現在一般提供されているため、スタートアップは生成AIアプリケーションで各ユーザーに非常に正確な体験を提供することができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/74fd5d55-601d-d5d0-e521-a0a7b0d641bb.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/add14586-56d4-f86b-22be-8b76d142e641.png)

セマンティックランカー（以前はセマンティック検索として知られていた）も利用可能であり、マイクロソフトBingから採用された多言語深層学習モデルを含んでおり、最も関連性の高い検索結果が最初に提供されるようにスタートアップが優先順位をつけることを可能にします。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/5b4b1f8c-cc0d-ab9c-b501-68c8cc43c577.png)


### 責任あるAIへの取り組みの強化
最後に、生成AIソリューションを構築するすべてのスタートアップは、セキュリティと責任ある方法でオファリングを構築するという新しい課題に直面しています。マイクロソフトは、AIの安全かつ責任ある使用における業界をリードしています。同社は、著作権侵害の訴訟から商業顧客を防御し補償するという業界をリードするコミットメントを設定しており、Copilot Copyright Commitment (CCC)として知られています。今日、マイクロソフトはAzure OpenAIサービスを使用する顧客にCCCを拡大することを発表することで、そのコミットメントをさらに一歩前進させています。新しい特典はCustomer Copyright Commitmentと呼ばれます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/d6917cfb-938e-64e7-67c9-717309034d09.png)

また、[Azure AI Content Safety](https://news.microsoft.com/source/features/ai/azure-ai-content-safety-in-azure-ai-platform)が一般提供されており、スタートアップが有害なコンテンツをさらに検出し、緩和してより良いオンライン体験を作り出すのを助けます。顧客は、Azure OpenAIサービス内の組み込みセーフティシステムとしてAzure AI Content Safetyを使用したり、Azure Machine Learningのプロンプトエンジニアリングの一環としてオープンソースモデルに使用したり、スタンドアロンのAPIサービスとして使用することができます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/133617/73b969af-694c-eac1-17bf-dfc8ce078d03.png)


### スタートアップはMicrosoft for Startupsを通じてAzure AIに無料アクセス (GPT-4 Turbo含む)

https://twitter.com/daiki15036604/status/1727266605779046652

これらのサービスと**他の約95の発表**について詳しく知りたい方は、Microsoft Igniteがこちらでオンデマンドで利用可能です。創業者は、これらの機能を手でテストし、探求するために、Microsoft for Startups Founders Hubプログラムを通じて最大$150,000のクレジットをAzure AIサービスに向けて活用できます。さらに、私たちのAIアドバイザリーチームが、ワンツーワンのコンサルテーションを通じてスタートアップのAIへの取り組みを加速するお手伝いをします。

まだ[Microsoft for Startups Founders Hub](https://www.microsoft.com/ja-jp/startups/ai)に参加していませんか？

https://speakerdeck.com/daikikanemitsu/microsoft-for-startups-founders-hub-new-offer

Microsoft for StartupsのためのDiscord Community

https://aka.ms/mfs_discord

LangCahin × Microsoft for Startups 事例

https://blog.langchain.dev/langchain-expands-collaboration-with-microsoft/

### 引用
本ブログは[Microsoft Azure updates every startup building with generative AI should know about
](https://startups.microsoft.com/blog/microsoft-azure-updates-every-startup-building-with-generative-ai-should-know-about/)の抄訳を基に掲載しています。

参考 Ignite Session
[Vector search and state of the art retrieval for Generative AI apps | BRK206H](https://www.youtube.com/watch?v=lSzc1MJktAo&t=3s)
[End-to-End AI App Development: Prompt Engineering to LLMOps | BRK203](https://www.youtube.com/watch?v=DdOylyrTOWg&t=364s)
[Inside Microsoft AI innovations with Mark Russinovich | WAKEY05](https://www.youtube.com/watch?v=c4SUhWBybXo&t=207s)
[What's New in Generative AI? | BRK202H](https://www.youtube.com/watch?v=T1YZ2tLS7LI&t=163s)
[Build your own Copilot with Azure AI Studio | BRK201HG](https://www.youtube.com/watch?v=obfs_LEzPHo&t=1838s)