推論のための AI インフラストラクチャ POD

 

Cisco AI 対応インフラストラクチャ スタックは、コスト効率の高い開発や低負荷タスクから高度な AI およびエンタープライズ アプリケーションまで、実績と拡張性に合わせて調整されたポッドを提供し、最適な生産性と成長を保証します。

つまり、Cisco はあらゆるニーズに対応するスケーラブルで効率的な AI ポッドを提供します。

製品概要

Cisco の AI 対応インフラストラクチャ スタックは、さまざまな AI および ML のユースケースに合わせた包括的なソリューションスイートを提供します。これらの検証済みの設計により、AI インフラストラクチャが簡素化および自動化されるため、エッジ推論から大規模なデータセンターまで、さまざまな環境に AI モデルを効率的に展開できます。Cisco のインフラストラクチャ スタックは、次のようなさまざまな要件に対応します。

●      Red Hat OpenShift AI を使用した MLOps により、機械学習の運用とモデルの展開を合理化します。

●      Intel Gaudi 2 プロセッサと Nexus 9000 を使用した Gen AI モデリングは、高性能 AI タスク用に最適化されています。

●      Cisco の堅牢なネットワーキングおよびコンピューティング機能を搭載したデータ モデリング プラットフォーム。

●      NVIDIA AI Enterprise および統合データシステムでサポートされる Digital Twin フレームワーク。

各ソリューションは、Cisco の検証済み設計に基づいて構築されており、AI アプリケーションのシームレスな統合と信頼性の高い実績を保証します。組織は、FlashStack や FlexPod などのコンバージド インフラストラクチャを選択することも、Nutanix などのハイパーコンバージド ソリューションで展開を拡張することもできます。

小規模企業から大企業まで、さまざまなセグメントのお客様が Cisco AI インフラストラクチャに大きな価値を見出します。小規模企業は開発および基本的なワークロードにコスト効率の高いポッドを利用できますが、大企業は高度なポッドを利用して集中的な AI およびデータ処理タスクを実行できます。主なビジネス上の利点には、生産性の向上、コストの削減、拡張性の向上が含まれますが、主な技術的価値は、既存のネットワーク インフラストラクチャ内でのシームレスな統合と運用を保証するポッドの高い実績と信頼性にあります。

機能と利点

表 1                 機能と利点

優れた機能

Cisco のフル スタック ソリューションによる AI アーキテクチャ設計の変革

このソリューションは、ハードウェアとソフトウェアの優れたテクノロジーを組み合わせて、さまざまなニーズに合わせた、堅牢でスケーラブルで効率的な AI 対応インフラストラクチャを作成します。

1.     NVIDIA AI Enterprise および NVIDIA Infrastructure Management Suite（NIMS）： これらのコンポーネントは、AI ワークロードを管理するための強力な基盤を提供します。実績が最適化され、運用が合理化され、高度な管理機能が提供されるため、ユーザーは基盤となるインフラストラクチャの複雑さを気にすることなく、AI モデルの開発と展開に集中できます。

2.     OpenShift by Red Hat： この Kubernetes ベースのコンテナプラットフォームは、コンテナ化された AI アプリケーションのオーケストレーションと展開を簡素化します。柔軟性と拡張性を提供するため、ユーザーは AI プロジェクトの成長に合わせて簡単に管理および拡張できます。

3.     Cisco Unified Computing System（UCS）： Cisco UCS はハードウェアのバックボーンとして機能し、複数のサーバー構成で高い実績と信頼性を提供します。これにより、要求の厳しい AI ワークロードに必要なコンピューティング能力をすぐに利用でき、スケーラブルになります。

4.     コンバージド インフラストラクチャ ソリューション：

◦    FlashStack（Pure Storage を搭載した Cisco UCS サーバー）と FlexPod（NetApp ストレージを搭載した Cisco UCS サーバー）はどちらも、大規模な AI および機械学習タスクの処理に不可欠な高性能ストレージとコンピューティング機能を提供します。これらのソリューションは、展開と管理を簡素化し、運用効率を向上させ、市場投入までの時間を短縮する、統合された事前検証済みの構成を提供します。

Cisco のフルスタックソリューションを活用することで、お客様は次のようなメリットを得られます。

●      購入しやすい

◦    Cisco AI ポッド  は、すぐに注文できる事前設定済みの検証済みバンドルとして提供されるため、お客様は特定の AI ニーズに適したセットアップを迅速に選択できます。これにより、個々のコンポーネントを選択する複雑さが解消され、意思決定にかかる時間が短縮されます。

◦    今四半期に発注可能なバンドルを提供することで、Cisco はお客様の価値実現までの時間を短縮し、不要な遅延なく AI イニシアチブを加速できるようにします。

●      展開と統合が容易：

◦    Cisco AI ポッド  はプラグアンドプレイ展開向けに設計されており、最小限の労力で既存のデータ センターまたはクラウド環境に迅速に統合できます。このシームレスな展開機能は、Cisco の Intersight および Nexus Dashboard によってサポートされており、一元管理、リアルタイムの可視性、および自動化を提供して、運用の複雑さを軽減します。

◦    事前設定されたバンドルは事前にテストおよび検証されており、すべてのコンポーネントが箱から出してすぐに調和して動作することが保証されます。これにより、展開の問題のリスクが軽減され、AI ワークロードの実稼働までの時間が短縮されます。

◦    Cisco AI ポッド  は、FlashStack や FlexPod などのコンバージド インフラストラクチャ セットアップに展開する場合でも、Nutanix などのハイパーコンバージド環境に展開する場合でも、柔軟性と拡張性を提供します。これにより、幅広い既存のインフラストラクチャ設定に簡単に統合でき、組織のニーズに合わせて拡張できる将来に対応したソリューションが提供されます。

●      管理が容易：

◦    ソリューションの事前統合および事前テストの性質により、AI インフラストラクチャの設計の複雑さが軽減されます。最適な実績を実現するための明確で複製可能な公式を提供し、当て推量を排除します。

◦    このソリューションは、小規模なエッジ推論セットアップから大規模で高性能な環境まで、さまざまな展開規模をサポートします。この拡張性により、組織のニーズに合わせてインフラストラクチャを拡張できます。

◦    NVIDIA と Red Hat の統合管理ツールにより、AI インフラストラクチャの日常的な運用が簡素化され、IT チームによる AI プロジェクトのサポートが容易になります。

アイデアの段階にある個人や組織にとって、Cisco のフルスタック ソリューションは、堅牢な AI アーキテクチャを開発するための明確で構造化されたパスを提供します。最新の AI 管理、コンテナ オーケストレーション、および高性能ハードウェアを組み合わせたもので、AI 機能の構築と拡張を検討しているすべての人にとって理想的な選択肢です。

オンデマンドの拡張性

要件は頻繁に変更されます。また、別のリソースが必要になったときに、リソースのセットに制限されないシステムが必要です。Cisco AI 対応インフラストラクチャ スタックは、Cisco UCS X シリーズのモジュール型の性質により、本質的に成長に対応しており、生成 AI 推論のニーズに合わせてシームレスに拡張できます。Cisco Intersight^®を使用して、モデルの進化やワークロードの拡大に合わせて、サーバーの追加または削除、メモリ容量の調整、リソースの設定を自動化するだけで簡単に実行できます。さらに、特定のユースケースに応じて、CPU と GPU の比率を変更したり、単一のシャーシ内で Intel Xeon Scalable または AMD EPYC プロセッサを選択したりすることもできます。

●      動的リソース割り当て： コンピューティング リソースとストレージ リソースを簡単に追加または削減します。

●      柔軟な CPU/GPU 比率： コンピューティング能力のバランスをカスタマイズします。

●      自動スケーリング： ワークロードの増加に応じてリソースを自動的に調整します。

将来を見据えた

Cisco の AI 対応インフラストラクチャ スタックは、将来に備えて構築されており、新しいテクノロジーで進化し、新たなビジネス目標に適応します。UCS X シリーズ モジュラ システムは、将来の世代のプロセッサ、ストレージ、不揮発性メモリ、アクセラレータ、および相互接続をサポートするように設計されました。個別の管理モジュールやサーバを購入、設定、保守、電力供給、冷却する必要がなく、部分ごとに選択的にアップグレードできる。Intersight Software-as-a-Service モデルによって新しい機能が頻繁に提供されても、自動的にクラウドベースの管理は最新の状態に保たれます。その結果、ハードウェアのライフサイクルが延長され、時間の経過とともに継続的なコストが削減されます。

●      モジュール設計： 大規模なオーバーホールなしでコンポーネントを簡単にアップグレードできます。

●      寿命： 次のハードウェア世代のサポート。

●      投資の保護： 上位互換性のあるインフラストラクチャにより、テクノロジーへの投資を保護します。

カスタマイゼーション

Cisco のカスタマイズ可能な構成により、選択したモデルをホストし、構成を編集し、さまざまなデータソースやサービスに接続できます。この柔軟性により、特定のニーズと展開規模に合わせて、AI ワークロードに対する最適な実績と制御が保証されます。

●      モデルの柔軟性： お客様固有の要件に合わせて任意の AI モデルをホストできます。

●      構成可能なセットアップ： 必要に応じてハードウェアのセットアップを変更します。

●      包括的な制御： 展開環境を完全に管理および制御します。

包括的なプラットフォーム

AI の運用化は、すべての企業にとって困難な作業です。AI/ML の取り組みが概念実証から実稼働に移行できない最大の理由の 1 つは、実稼働対応モデルを提供するデータと機械学習の合理化と管理に関連する複雑さにあります。AI/ML の取り組みごとに技術的負債を追加するアドホックな ML の取り組みではなく、モデルを迅速かつ正確に提供および維持できるプロセス、ツール、ベストプラクティスを採用することが重要です。Cisco AI 対応インフラストラクチャ スタックは、複雑さを軽減することで AI/ML の取り組みを促進する、専用のフルスタック ソリューションを提供します。この設計では、Cisco UCS X シリーズ モジュラ プラットフォームと最新の Cisco UCS M7 サーバ、NVIDIA GPU を搭載した Cisco UCS X440p PCIe ノードを使用します。これらはすべて、Cisco Intersight を使用してクラウドから一元管理されます。この高速化された高性能インフラストラクチャに基づいて構築された Red Hat OpenShift AI は、AI を一貫して効率的に加速し、運用するために不可欠なツールとテクノロジーを統合することでソリューションを強化します。NVIDIA AI Enterprise ソフトウェアはソリューションをさらに補完し、仮想 GPU、GPU オペレータ、AI 用に最適化されたツールとフレームワークの包括的なライブラリなどの主要な機能を提供します。これらの機能により、AI ソリューションの展開とスケーリングが簡素化され、企業が AI テクノロジーを簡単に運用できるようになります。

●      エンドツーエンドのソリューション： インフラストラクチャから AI フレームワークまで。

●      生成 AI サポート： 大規模な AI モデルの展開に最適化されています。

●      エンタープライズグレード： 大規模な企業の要求を満たすのに十分な堅牢性を備えています。

シンプルな管理

Cisco Intersight でよりインフラストラクチャ管理を最適化します。Cisco のプラットフォームは、一元化されたプロビジョニング、リアルタイムの可視性、および自動化を提供し、UCS サーバと GPU の管理を簡素化します。これにより、運用が合理化され、手動による介入が減少し、効率が向上し、複雑さが軽減されます。

●      一元管理： 単一のインターフェイスからすべてのリソースを管理します。

●      リアルタイムの可視性： 実績とステータスをリアルタイムでモニターします。

●      自動化： 自動化された管理プロセスにより、手動による介入を削減します。

製品仕様

Cisco AI Data Center and Edge Inference Pod は、エッジ推論アプリケーション向けに専門的に設計されており、データソースに近いネットワークエッジのユーザーのすぐ近くで計算を促進します。この戦略的な設計は、一元化されたクラウドやデータセンターに依存するのではなく、データをローカルで処理することで、遅延を最小限に抑え、効率を最大化します。Llama 2-7B、GPT-2B、その他の小規模言語モデル（SLM）などの高度なモデルをサポートするデータセンターおよびエッジ推論ポッドは、非常に用途が広く、機能が豊富です。シャーシ内に統合された X シリーズ ダイレクト ファブリック インターコネクトが含まれているため、追加のハードウェアが不要になるため、複雑さが軽減され、運用が合理化されます。

表 2                 Cisco AI データ センターおよびエッジ推論ポッドの仕様

Cisco AI RAG 拡張推論ポッドは、要求の厳しい AI ワークロード専用に設計されており、Llama 2-13B や OPT 13B などの大規模モデルをサポートします。強化された GPU とノード容量を搭載し、複雑なタスクを効率的に管理し、計算能力と効率を向上させます。この高度なポッドは、知識ソースを活用してクエリ サービス中にコンテキストに基づく関連性を提供するRAG（Retrieval-Augmented Generation）のような最適化に対応し、幻覚を大幅に減らし、応答精度を向上させることができます。そのため、Cisco RAG 拡張推論ポッドは、堅牢な AI 機能と優れた実績を必要とする高度なアプリケーションに最適です。

表 3                 Cisco AI RAG 拡張推論ポッドの仕様

Cisco AI Scale Up Inference Pod for High Performance は、CodeLlama 34B や Falcon 40B などの大規模モデルをサポートするように細心の注意を払って最適化されています。十分な GPU とノード容量を備えたこのポッドは、最も複雑な AI タスクに対して優れた実績を提供するように設計されています。大規模なベクトルデータベースをサポートし、高度なアルゴリズムによってベクトル検索の精度を向上させることで、取得拡張生成（RAG）機能を大幅に強化します。

表 4                 Cisco AI Scale Up Inference Pod for High Performance の仕様

大規模展開向け Cisco AI スケールアウト推論ポッドは、比類のない柔軟性を提供するように設計されており、単一のシャーシ内で複数のモデルを同時に実行できます。堅牢なライフサイクル管理やモデルの高可用性を必要とする組織に最適です。このポッドは、特定のタスクごとに最適なモデルを選択できるようにすることで精度を高め、複数のユーザーをサポートするために簡単にスケールアウトします。これにより、ポッドは、多様で要求の厳しい AI ワークロードを処理するために、スケーラブルで効率的で信頼性の高い AI インフラストラクチャを求める組織にとって、優れた選択肢となります。

表 5                 大規模展開向け Cisco AI スケールアウト推論ポッドの仕様

システム要件

表 6                 システム要件

発注情報

表 7                 Cisco AI データ センターおよびエッジ推論ポッドの発注ガイド

全体的な MLB PID：UCSX-AI-EDGE

表 8                 Cisco AI RAG 拡張推論ポッドの発注ガイド

全体的な MLB PID：UCSX-AI-RAG

表 9                 Cisco AI Scale Up Inference Pod for High Performance 発注ガイド

全体的な MLB PID：UCSX-AI-LARGERAG

表 10              大規模展開向け Cisco AI スケールアウト推論ポッドの発注ガイド

全体的な MLB PID：UCSX-AI-LARGEINF

保証情報

Cisco UCS X210c コンピューティング ノードには、3 年後の翌営業日（NBD）のハードウェア保証と 90 日間のソフトウェア保証があります。

Cisco Smart Net Total Care^® および Cisco  ソリューション サポート サービスは、Cisco のテクニカル サービス ポートフォリオの一環として、Cisco Unified Computing System^™（Cisco UCS）保証を補強しています。Cisco Smart Net Total Care には、受賞歴のある、業界をリードする Cisco の基本的なテクニカルサービスが含まれています。また、Cisco Smart Net Total Care ポータルのスマート機能を通じて、実用的かつ高度なビジネスインテリジェンスも提供されます。詳細については、https://www.cisco.com/c/ja_jp/support/services/smart-net-total-care/index.html を参照してください。

Cisco ソリューション サポートには、Cisco^®製品サポートとソリューションのサポートの両方が含まれており、製品サポート単体の場合よりも平均 43% 迅速にマルチベンダー環境の複雑な問題を解決します。Cisco Solution Support は、データセンター管理の重要な要素であり、実績、信頼性、投資回収率を維持しながら、発生した問題の迅速な解決を支援します。

このサービスは、エコシステムに展開された Cisco 製品とソリューション パートナー製品の両方に対応するため、マルチベンダーの Cisco 環境全体でのサポートが一元化されます。Cisco 製品またはソリューション パートナーの製品のどちらに問題がある場合でも、Cisco にご連絡ください。Cisco のエキスパートが主な連絡窓口となり、最初のお電話から問題の解決までお客様をサポートします。詳細については、https://www.cisco.com/c/ja_jp/support/services/solutions-support/index.html を参照してください。

製品持続性

Cisco  の環境、社会、ガバナンス（ESG）イニシアチブおよび実績に関する情報は、Cisco の CSR および持続可能性レポートで提供されます。

表 11              Cisco の環境保全に関する情報

Cisco およびパートナーの提供サービス

AI 対応インフラストラクチャ向けのCisco とパートナーのサービス

Cisco と認定パートナーは、AI インフラストラクチャをサポートする包括的なサービスを提供し、シームレスな統合と最適な実績を実現します。計画サービスと設計サービスにより、技術とビジネス目標との整合性を図り、展開の効率性を向上させることができます。テクニカル サービスは、運用効率を高め、コストを削減し、リスクを軽減します。最適化サービスは、パフォーマンスを継続的に改善し、新しい技術を使いこなすのに役立ちます。詳細については、Cisco AI サービスのページを参照してください。

Cisco Capital

目的達成に役立つ柔軟な支払いソリューション

Cisco Capital により、目標を達成するための適切なテクノロジーを簡単に取得し、ビジネス変革を実現し、競争力を維持できます。総所有コスト（TCO）の削減、資金の節約、成長の促進に役立ちます。Cisco の柔軟な支払いソリューションは 100 か国以上で利用可能であり、ハードウェア、ソフトウェア、サービス、およびサードパーティ製の補完的な機器を、利用しやすい計画的な支払方法で購入できます。  詳細はこちらをご覧ください。

詳細情報

Cisco AI ポッドで AI の未来を切り開く

Cisco の AI 対応インフラストラクチャがビジネスにどのように変革をもたらすかをご確認ください。デモをリクエストするか、無料のアセスメントにサインアップするか、仮想営業担当者に連絡して、カスタマイズされたソリューションを確認してください。詳細については、Cisco AI ソリューションの概要ページにアクセスし、ホワイトペーパー、ケーススタディなどを参照してください。生産性と成長を最適化するように設計された最先端のテクノロジーで、ビジネスをリードします。

マニュアルの変更履歴