モデル化された領域のデータ転送を調査

精度レベル

中

有効となる解析

サーベイ + 特性化 (キャッシュ・シミュレーションおよびメディアデータ転送シミュレーションによるトリップカウントと FLOP) + 依存関係を想定しないパフォーマンスのモデル化

結果の解釈

Medium (中) 精度でオフロードのモデル化パースペクティブを実行すると、拡張オフロードモデル化レポートが表示され、オフロードされたアプリケーションのメモリーとキャッシュの使用とコストに関する情報が表示されます。基本データに加え、結果には以下が含まれます。

• すべてのキャッシュとメモリーレベルのトラフィックおよび時間をさらに正確に予測できます。
• データ転送を測定し、ホストメモリーとデバイスメモリー間のデータ転送を推測します。
• 異なる呼び出し先のループ/関数の合計データ。

オフロードのモデル化パースペクティブは、依存関係のタイプが不明である場合、ループは並列化されていると見なします。これは、コンパイラーがループに関連する情報を示さないか、ループが並列として明示的にマークされていない (例えば、OpenMP*、SYCL*、インテル® oneAPI スレッディング・ビルディング・ブロックなどのプログラミング・モデルで) ことを意味します。

すでに低精度のレポートが生成されている場合、すべてのオフロードに関する推奨事項、メトリック、およびスピードアップが更新され、より正確なデータを取得できます。

オフロードのモデル化レポートの [アクセラレートされた領域] タブで、メモリー使用量とデータ転送に関連するメトリックを確認します。

• コード領域メトリックテーブル:
  • [Estimated Bounded by (推測される制限)] カラムで、データ転送にかかる時間 (データ転送コスト) を確認します。[Taxes with Reuse (再利用のコスト)] カラムで、コード領域をターゲット・プラットフォームにオフロードするのに必要な最大および合計コストを調べます。

    [Estimated Bounded by (推測される制限)]  グループを展開すると、領域をターゲット・プラットフォームにオフロードする際に必要な時間コスト全体が表示されます。

  • [Estimated Data Transfer with Reuse (再利用が推測されるデータ転送)] カラムでは、カーネルごとに双方向 (ホストからデバイス、デバイスからホスト) で転送されるデータ量を確認します。メモリーレベルごとのデータを参照するにはカラムを展開します。
  • [Memory Estimations (メモリーの推測)] カラムで、アプリケーションがすべてのメモリーレベルのリソースをどの程度利用しているか確認します。グループを展開して、それぞれのメモリーレベルの詳細で正確なメトリックを表示します。

    

• 表でコード領域を選択し、[Data Transfer Estimations (データ転送の見積もり)] ペインでホストとデバイスメモリー間で転送されるデータ量と詳細を確認します。
  • [Transferred Data & Tax (転送されたデータとコスト)] ヒストグラムで、ホストとターゲットデバイス間で双方向に転送されたデータの分布を確認します。
  • 選択されたコード領域におけるデータ転送の最適化に関するヒントを参照してください。

    

• [Recommendations (推奨事項)] タブで、コードをターゲットデバイスにオフロードし、コードが最大のメリットを得られるように最適化するガイドを取得します。コード領域に最適化の余地が残っている場合、またはターゲットデバイスの能力を十分に活用していない場合は、インテル® Advisor はコードの最適化に役立つヒントとコードの例を示します。

次のステップ

アプリケーションのホストとターゲットデバイス間で推測されるデータ転送の詳細を確認するには、次のいずれかのプロパティーを指定してオフロードのモデル化を実行します。

• 特性化解析のデータ転送シミュレーションを Medium (中) に設定してパースペクティブを実行します。結果には、それぞれのコード領域のメモリー。オブジェクトに関連するデータレポートを含む、[Data Transfer Estimations (データ転送の見積もり)] ペインが拡張されます。

  [Offloaded Objects (オフロードされたオブジェクト)] ペインには、1 つの領域の異なるインスタンス間の各オブジェクトに関するデータを含むメモリー・オブジェクトのリストが表示されます。

  

  Analytics (解析) ヒストグラムには、選択した領域でアクセスされたメモリー・オブジェクト数がサイズ別に表示されます。

  

• 特性化解析でデータ転送シミュレーションを High (高) に設定し、パフォーマンスのモデル化解析の [Data Reuse Analysis (データ再利用解析)] チェックボックスを有効にします。データ再利用解析により、インテル® Advisor はターゲット GPU デバイスに転送されたメモリー・オブジェクトを再利用できる並列コード領域のグループを特定します。再利用可能なメモリー・オブジェクトは、GPU に一度だけ転送されその後再利用できるためデータ転送効率が向上します。

  結果は、[Code Regions (コード領域)] ペインにコード領域ごとにデータの再利用にかかわらず推測されたデータ転送メトリックが表示されます。[Estimated Bounded By (推測される制限)] と [Estimated Data Transfer with Reuse (再利用が推測されるデータ転送)] カラムを調べて、データを再利用することでコード領域で利益が得られるか確認します。

  データの再利用で恩恵を得られるコード領域については、[Recommendations (推奨事項)] タブの [Apply Data Reuse (データ再利用を適用)] ガイドを参照してください。このガイドには、データの再利用の有無によって推測されるデータ転送量と、データを再利用することで達成可能なパフォーマンス向上が示されます。また、データ再利用をコードに適用する方法も説明します。

  

• 推測された高速化が目的に達し、アプリケーションをオフロードする準備ができていると思われる場合は、収益性の高いコード領域をターゲット・プラットフォームにオフロードするようにコードを書き換え、GPU Roofline Insights (GPU ルーフラインの調査) の観点から GPU カーネルのパフォーマンスを予測します。

関連情報

• インテル® oneAPI ベース・ツールキットを使用して GPU アプリケーションを最適化
• インテル® oneAPI プログラミング・ガイド