この記事は、、Intel AI Blog で公開されている「Intel and Microsoft Collaborate to Optimize DirectML for Intel® Arc™ Graphics Solutions」の日本語参考訳です。原文は更新される可能性があります。原文と翻訳文の内容が異なる場合は原文を優先してください。
生成 AI テクノロジーは私たちの働き方を改革し、リアルタイム・グラフィックスからビデオ作成、コーディングに至るまで、さまざまな分野で新たな可能性を切り開いています。Microsoft Ignite 2023 デベロッパー・カンファレンスに合わせて、インテルとマイクロソフトは、Windows* のインテル GPU で先端の生成 AI ワークロードを可能にすることを目的とした共同開発作業を発表 (英語) しました。
インテル® Arc™ GPU: 将来の AI ワークロードに向けて構築
2022年、インテルはインテル® Arc™ A シリーズ・グラフィックス・カードを発表し、ディスクリート GPU 市場に参入しました。このシリーズのフラグシップ製品はインテル® Arc™ A770 GPU であり、16GB の高帯域幅 GDDR6 メモリーとインテル® Xe マトリクス・エクステンション (インテル® XMX) として知られる強力な AI アクセラレーター機能を備えています。XMX アレイは、要求の高い生成 AI ワークロードに必要な行列乗算ワークに対して、驚異的なスループットを提供します。
インテルはマイクロソフトと協力して、インテル® Arc™ A770 GPU からモバイル向けインテル® Core™ Ultra プロセッサー (開発コード名 Meteor Lake) に組み込まれたインテル® Arc™ GPU まで、あらゆる種類のインテル® Arc™ グラフィックス・ソリューション向けに DirectML を最適化してきました。
マイクロソフト社のパートナー・グループ・プロダクト・マネージャーである、Bryan Langley 氏は次のように述べています。
「インテルは長年にわたる重要なパートナーであり、両社の協力関係が生成 AI というエキサイティングな領域まで拡大することを喜ばしく思います。
インテルと協力してハードウェアの最適化を行うことで、開発者が次世代の AI 機能を導入するクライアント・システムで広範かつスケーラブルなベースを確保することを支援できます。」
Olive 最適化と今後
AI 機能をクライアント・システムに導入する際に開発者が直面する課題の 1 つは、コンシューマー PC システム構成の制約の中でモデルが適合し機能するかを確認することです。この課題に取り組むため、マイクロソフトは昨年、オープンソースの Olive モデル最適化ツールをリリースしました。さらに最近では、Stability AI 社の Stable Diffusion* XL (英語) テキストからの画像ジェネレーターや Meta 社の Llama 2 大規模言語モデルなど、最も注目される新しい AI モデルのいくつかを対象として Olive を改良しました。
このツールの例を 1 つ挙げると、Stable Diffusion* 1.5 の最適化された Olive (英語) バージョンは、DirectML 実行プロバイダーを備えた ONNX* ランタイムを介してインテル® Arc™ A770 GPU 上でデフォルトモデルの 2 倍のスピードで実行できることが分かりました。
これはかなりの改善ですが、それだけではありません。インテルのグラフィックス・ドライバーは、あらゆる生成 AI ワークロードの幅広いオペレーター・セットを最適化します。さらにパフォーマンスを加速するため、ドライバーには Stable Diffusion* のようなモデルからパフォーマンスを引き出す高度に最適化されたマルチ・ヘッド・アテンション (MHA) メタコマンドの実装が含まれています。その結果、インテルの最新ドライバーでは、Stable Diffusion* 1.5 のインテル® Arc™ A770 GPU で以前のバージョンと比較して最大 36% のパフォーマンス向上をもたらしました。
ワークロードと構成については、この記事の末尾を参照してください。結果は異なることがあります。
全体として、インテル® Arc™ A770 で Stable Diffusion* 1.5 の累積速度が最大 2.7 倍向上しました。
さらに、この新しいドライバーによって、Stable Diffusion* XL と Llama 2 両方で Olive に最適化されたバ―ションの機能サポートが可能となり、これら 3 つのモデルすべてに対する追加の最適化がまもなく提供される予定です。
インテル® Arc™ グラフィックスの最新ドライバーは、こちらからダウンロードできます。
次にすることは?
インテルは、長年にわたり開発者と協力してプラットフォーム上で AI 機能の高速化に取り組んできました。その成果には、Adobe* Creative Cloud*、Topaz Labs の AI を導入した製品、および Blackmagic DaVinci Resolve* などのコンテンツ作成向けの強力な製品を含む、さまざまなエンドユーザー向けのアプリケーションがあります。また、インテル® Xe スーパー・サンプリング (XeSS) AI ベースのアップサンプリング技術により、ゲーム開発者が多くの人気タイトルのゲーム体験を強化できるように支援してきました。マイクロソフトや開発者コミュニティーと協力し、Windows* 11 以降の AI PC の変革を引き続き推進していきます。
開発者は、Microsoft Ignite 2023 またはインテル AI デベロッパー・ポータル (英語) で詳細を確認できます。
出展: 2023年11月1日～2日現在のインテル社内の測定値。システム構成: インテル® Arc™ A770 16GB LE グラフィックス・カード、インテル® Core™ i9-13900K プロセッサー、Asus* Prime Z790-P マザーボード、32GB DDR5-5600 RAM、Samsung* SSD 980 Pro 1TB。Windows* 11 10.0.22621 build 22621。インテル® グラフィックス・ドライバー 31.0.101.4900 および 31.0.101.4952。Stable Diffusion* 1.5。
性能は、使用状況、構成、その他の要因によって異なります。詳細については、http://www.intel.com/PerformanceIndex/ (英語) を参照してください。
