計算と通信と #3

## はじめに
この記事は、シスコシステムズ合同会社の同士による [Cisco Systems Japan Advent Calendar 2024](https://qiita.com/advent-calendar/2024/cisco) の 21 日目として投稿しています。

2019年からの参加しており今年で6年目になります。去年に引き続き読み物の投稿をしてみようと思います。
いろいろなご意見があると思いますが、年末の軽い読み物としてお楽しみいただけましたら幸いです。

:::note info
去年に引き続き記事作成にはChatGPTを利用しております。具体的には去年と同様アイディアのみを自身で作成後、記事自体を生成しております。去年との違いは4.0(o1 preview)を用いている点です。
去年の記事は[こちら](https://qiita.com/ktsutsum/items/dd19c8b8445f36341138)
:::

# AI時代におけるインフラの変遷とセキュリティの重要性

現代社会は、かつてない速度で技術革新が進んでおり、その中心には**インターネット**と**人工知能（AI）**があります。これらの技術は、私たちの生活様式、ビジネスモデル、そして社会全体の構造を根本的に変化させています。

### インターネットの台頭とシスコの役割

1990年代、インターネットは情報の伝達手段として急速に普及し始めました。その背景には、ネットワークインフラを支えるハードウェアの進歩がありました。特に、**シスコシステムズ**はルーターやスイッチなどのネットワーク機器を提供し、インターネットの物理的な基盤を構築する上で重要な役割を果たしました。

- **シスコの成長**：インターネット需要の増加に伴い、シスコの製品は世界中で採用され、同社の収益と株価は大幅に上昇しました。
- **株価の推移**：1990年代初頭には数ドルだった株価が、2000年のITバブル期には80ドルを超え、一時は世界で最も価値のある企業の一つとなりました。  
  ※[Yahoo!ファイナンス - シスコシステムズ株価](https://finance.yahoo.com/quote/CSCO/history?p=CSCO)

### サービス事業者へのシフト

しかし、インターネット技術が成熟するにつれ、その上で動作するサービスを提供する企業が台頭してきました。

- **Google**：検索エンジンによる情報アクセスの革新  
  ※[Google Investor Relations](https://abc.xyz/investor/)
- **Amazon**：オンラインショッピングとクラウドサービスの提供  
  ※[Amazon Annual Reports](https://ir.aboutamazon.com/annual-reports)
- **Facebook（現Meta）**：ソーシャルメディアによる人々のつながりの強化  
  ※[Meta Investor Relations](https://investor.fb.com/)

これらの企業は、インターネットというインフラの上で新たなサービスやビジネスモデルを展開し、大きな成功を収めました。その結果、**収益構造はインフラ提供者からサービス事業者へとシフト**し、インターネット産業のエコシステムが形成されました。

### AIの台頭と新たなインフラとしての機能

現在、同様の現象が**AI業界**でも起こっています。AI技術の進歩により、さまざまな分野でAIが活用され始めています。

- **NVIDIAの役割**：高性能なGPUを提供するNVIDIAは、ディープラーニングなどのAI処理において不可欠な存在となっています。その需要増加により、NVIDIAの収益と株価も大幅に上昇しています。  
  ※[Yahoo!ファイナンス - NVIDIA株価](https://finance.yahoo.com/quote/NVDA/history?p=NVDA)

しかし、AIが社会のあらゆる領域に浸透する中で、単なる技術要素から**新たなインフラ**としての役割を担い始めています。

- **サービスの高度化**：音声認識、画像認識、自然言語処理など、AI技術は多くのサービスでコアコンポーネントとなっています。
- **ビジネスモデルの変革**：AIを活用したデータ分析や予測モデルにより、ビジネスの意思決定や顧客体験が向上しています。

### 既存のネットワークインフラとAIインフラの接続の重要性

AIが新たなインフラとして機能するためには、**既存のネットワークインフラとのシームレスな接続**が不可欠です。ネットワークとAIを統合することで、データの収集・解析・活用が効率化され、より高度なサービス提供が可能となります。

- **データ流通の最適化**：大量のデータをリアルタイムで処理するためには、高速で安定したネットワークが必要です。
- **エッジコンピューティングの活用**：データ処理をデータ生成元に近い場所で行うことで、遅延を減らし、効率的なAI処理が可能となります。

### セキュリティの新たな課題

AIがインフラ化する一方で、その**セキュリティリスク**も顕在化しています。AIシステムが攻撃されると、その影響は個々のアプリケーションに留まらず、社会全体に波及する可能性があります。

- **攻撃の高度化**：AI特有の脆弱性を狙った攻撃手法が増加しています。
- **信頼性の確保**：AIモデルの誤作動やデータ漏洩は、ビジネスやプライバシーに重大な影響を及ぼします。

---

## AIが新たなインフラとなることの影響とセキュリティの重要性

AIが社会のインフラとして浸透する中、その**セキュリティ**と信頼性を確保することが極めて重要となっています。AIシステムに対する攻撃は、社会全体に深刻な影響を及ぼす可能性があるため、適切なセキュリティ対策が不可欠です。

### AIに対する具体的な攻撃手法

以下は、[MBSD AIセキュリティポータル](https://www.mbsd.jp/aisec_portal/detail_attack.html)で紹介されている、AIに対する主な攻撃手法です。

#### 1. 敵対的サンプル攻撃（Adversarial Examples）

AIモデルが誤った判断を下すように、入力データに微小なノイズを加える手法。

- **例**：画像認識AIに対して、人間には認識できないノイズを追加し、正しいラベル付けを妨害する。

#### 2. モデル盗用攻撃（Model Stealing）

AIモデルの内部パラメータや構造を不正に取得する攻撃。

- **例**：APIを多数回呼び出し、出力結果からモデルの振る舞いを推測して再現する。

#### 3. データポイズニング攻撃（Data Poisoning）

学習データに不正なデータを混入させ、モデルの学習自体を妨害する手法。

- **例**：偽のデータを大量に投入し、モデルに誤ったパターンを学習させる。

#### 4. バックドア攻撃（Backdoor Attack）

モデルに意図的な脆弱性を組み込み、特定の条件下で誤作動させる攻撃。

- **例**：特定のトリガーパターンが入力されたときにのみ、モデルが異なる出力を返すようにする。

#### 5. メタデータ攻撃（Metadata Attack）

モデルが処理するデータのメタデータを利用して、情報を漏洩させる手法。

- **例**：学習データの統計情報から、個人情報を推測する。

---

## シスコのAI時代におけるセキュリティ対策

### AIネットワーキングとセキュリティの融合

シスコはAI時代のセキュリティ課題に対応するため、以下の取り組みを進めています。

- **AIセキュリティソリューションの提供**：AIモデルの保護やセキュリティ脅威の検知に特化したソリューションを開発。
- **ネットワークレベルでの防御**：AIシステムへの攻撃を検知・防御するためのネットワークインフラを強化。

### CiscoのAIセキュリティソリューション

シスコは、AIの安全な導入と運用を支援するための総合的なセキュリティソリューションを提供しています。

- **AI Security**：[Cisco AI Security](https://sec.cloudapps.cisco.com/security/center/resources/ai-security)は、AIシステムに対する高度な脅威から保護し、信頼性の高いAI環境を実現します。
- **SecureXプラットフォーム**：異なるセキュリティ製品を統合し、脅威の検知と対応を効率化。
- **ゼロトラストセキュリティ**：ユーザーやデバイスの検証を強化し、AIシステムへの不正アクセスを防止。

### Robust Intelligenceとの連携

シスコは、AIセキュリティの強化を目的として、**Robust Intelligence**との協業を行っています。

- **Robust Intelligenceとは**：AIモデルのセキュリティと信頼性を向上させるためのプラットフォームを提供する企業。
- **協業の内容**：
  - **モデルの堅牢性評価**：AIモデルが攻撃に対してどの程度耐性があるかを評価。
  - **脆弱性の検出と修正**：敵対的サンプル攻撃やデータポイズニング攻撃に対する脆弱性を特定し、対策を講じる。
- **メリット**：
  - **セキュリティ強化**：AIモデルの信頼性と安全性を高める。
  - **運用効率化**：セキュリティリスクを早期に発見し、迅速な対応が可能。

※[Cisco、Robust Intelligenceの買収意向を発表](https://blogs.cisco.com/news/fortifying-the-future-of-security-for-ai-cisco-announces-intent-to-acquire-robust-intelligence)

### Splunkとの協業とXDRの活用

シスコは、既存のネットワークインフラと新しいAIインフラを接続し、セキュリティを強化するために**Splunk**との連携を強化しています。

- **Splunkとは**：機械データの収集・分析プラットフォームを提供する企業で、リアルタイムのデータモニタリングと分析を可能にします。
- **Cisco XDR（Extended Detection and Response）**：
  - **統合されたセキュリティプラットフォーム**：シスコのXDRソリューションは、ネットワーク、エンドポイント、クラウドなど、複数のセキュリティレイヤーからのデータを統合します。
  - **Splunkとの連携**：Splunkのデータ分析能力を活用し、異常検知やインシデント対応を迅速化。
- **既存インフラとAIの接続**：
  - **データの一元管理**：ネットワーク機器から収集されたデータとAIシステムのデータを統合的に管理・分析。
  - **リアルタイムの脅威検知**：AIを活用して高度な脅威をリアルタイムで検知し、ネットワーク全体のセキュリティを強化。

※[Cisco、Splunk買収の発表](https://www.cisco.com/site/us/en/about/corporate-strategy-office/acquisitions/splunk/index.html)

---

## AIセキュリティのベストプラクティス

### 1. モデルの堅牢性向上

- **対策**：Robust Intelligenceのツールを活用し、敵対的サンプルに対する耐性を高めるための訓練（Adversarial Training）を行う。
- **効果**：攻撃による誤認識を減少させ、モデルの信頼性を向上。

### 2. データの検証と管理

- **対策**：学習データの品質を確保し、不正なデータが混入しないようにする。データポイズニング検出ツールを導入。
- **効果**：データポイズニング攻撃のリスクを低減。

### 3. アクセス制御と監視

- **対策**：シスコのXDRソリューションやSplunkを用いて、モデルやデータへのアクセスを厳格に管理し、不正な操作を監視。
- **効果**：モデル盗用攻撃やバックドア攻撃の防止。

### 4. 暗号化とセキュアな通信

- **対策**：データの送受信やモデルの展開時に暗号化を適用し、通信経路のセキュリティを確保。
- **効果**：メタデータ攻撃や通信経路での情報漏洩を防止。

---

## まとめ

AIが新たなインフラとして社会や産業に浸透する中、そのセキュリティ対策はこれまで以上に重要となっています。特に、**既存のネットワークインフラと新しいAIインフラを接続**する部分が重要であり、この接続が効率的かつ安全に行われることで、より高度なサービス提供とセキュリティの強化が可能となります。

シスコは、ネットワークインフラのリーダーとして、**Robust Intelligence**や**Splunk**との協業を含む**AIセキュリティソリューション**を提供し、AI時代のセキュリティ課題に対応しています。さらに、XDRの活用により、複数のセキュリティレイヤーを統合し、全体的なセキュリティ態勢を強化しています。

今後もシスコは、AIとネットワーキング、そしてセキュリティの融合を推進し、社会や産業の発展と安全性向上に寄与していくでしょう。

---

## 情報ソース

- [シスコシステムズ 年次報告書](https://investor.cisco.com/financial-information/annual-reports/default.aspx)
- [NVIDIA 投資家情報](https://investor.nvidia.com/home/default.aspx)
- [OpenAI API](https://openai.com/api/)
- [Google TensorFlow](https://www.tensorflow.org/)
- [Cisco AI Security](https://sec.cloudapps.cisco.com/security/center/resources/ai-security)
- [Cisco、Robust Intelligenceの買収意向を発表](https://blogs.cisco.com/news/fortifying-the-future-of-security-for-ai-cisco-announces-intent-to-acquire-robust-intelligence)
- [Cisco SecureX](https://www.cisco.com/c/ja_jp/products/security/securex/index.html)
- [Cisco、Splunk買収の発表](https://www.cisco.com/site/us/en/about/corporate-strategy-office/acquisitions/splunk/index.html)
- [Yahoo!ファイナンス - シスコシステムズ株価](https://finance.yahoo.com/quote/CSCO/history?p=CSCO)
- [Yahoo!ファイナンス - NVIDIA株価](https://finance.yahoo.com/quote/NVDA/history?p=NVDA)
- [Google Investor Relations](https://abc.xyz/investor/)
- [Amazon Annual Reports](https://ir.aboutamazon.com/annual-reports)
- [Meta Investor Relations](https://investor.fb.com/)
- [MBSD AIセキュリティポータル - AIへの攻撃手法](https://www.mbsd.jp/aisec_portal/detail_attack.html)
---
[この記事はCisco Advent Calendar 2024の一部として投稿されました。]

# 免責事項
本サイトおよび対応するコメントにおいて表明される意見は、投稿者本人の個人的意見であり、シスコの意見ではありません。本サイトの内容は、情報の提供のみを目的として掲載されており、シスコや他の関係者による推奨や表明を目的としたものではありません。各利用者は、本 Web サイトへの掲載により、投稿、リンクその他の方法でアップロードした全ての情報の内容に対して全責任を負い、本 Web サイトの利用に関するあらゆる責任からシスコを免責することに同意したものとします。