Metal 3で、GPUバイナリをターゲットにして最適化する

Metal 3で、GPUバイナリをターゲットにして最適化する

オフラインのコンピレーションを使用して、プロジェクトビルド時にGPUバイナリを完全に生成する際に、App内のスタッター、初回起動の時間、新しいレベルでのロード時間を削減する方法をご覧ください。また、「サイズの最適化」のコンパイラオプションを使用して、大規模なGPUプログラムでのコンパイル時間やバイナリサイズの合計を最適化する方法も紹介します。

リソース
関連ビデオ

WWDC23
- Macへのゲーム展開 Part 2：シェーダーをコンパイルする
- MetalでGPUレンダリングを最適化
WWDC22
- Metal 3の紹介
WWDC21
- Metalのコンパイルワークフロー
WWDC20
- MetalでGPUバイナリを作成する
ダウンロード

♪ ♪ 皆さんこんにちは GPUソフトウェア部門技術担当のGalo AvilaですこのセッションではEylonと Metal3を使ってAppの GPUバイナリ生成を改善する方法を紹介しますオフラインコンパイルによる App内の処理時間初回起動時間ロード時間を短縮する方法を説明します次にコンパイラーオプションを使用しコード拡張変換を調整しコンパイル時間を向上する方法を説明します
オフラインコンパイルによりバイナリの生成を移行可能です MetalAppにもたらす利点を理解するために今GPUバイナリ生成できる方法を確認しましょうバイナリの生成はビルド時と実行時の両方で起きます例えばソースからメタル- ライブラリをインスタンス化するとしますこれはAppの実行時 AppleのIntermediate Representation AIR に生成するものですこれはCPUに高負荷の作業ですがソースを Metalライブラリにプリコンパイルし代わりにファイルからインスタンス化することで Appのビルド時に移動させることができますライブラリがメモリ上にあればステートと関数を含む Pipeline State Descriptorの作成は軽い操作で済みますパイプライン状態- オブジェクトを作成するまでこれは別のCPU集中型操作になることがありジャストインタイムのGPU バイナリ生成が行われます
実行時のGPUバイナリ生成は CPUに負荷がかかるため Metalはパイプラインの状態オブジェクト作成を高速化します PSOをインスタンス化するときMetalはファイルシステムのキャッシュにバイナリを保存しますまた新しいPSOを作成するたびに新しく生成された関数が追加されますそのため以前に生成されたバイナリが参照された場合はキャッシュから読み込まれることになります
Binary Archivesを使用し GPUバイナリがいつどこにキャッシュされるか明示的に制御することができます PSOディスクリプタを使うだけでアーカイブに GPUバイナリを何度でもキャッシュできますこれでPSOの作成が軽い操作で済むようになりますバイナリアーカイブはより柔軟なキャッシュが可能ですただ実行時に生成する必要があります多くの場合ビルド時にアーカイブを生成することが望ましいのですがそれがついに可能になりましたオフラインバイナリ生成ではプロジェクトのビルド時に Metal pipelines scriptと呼ばれる新しい artifactをMetalソースか Metalライブラリと共に指定しますパイプラインスクリプトは APIにおけるパイプライン記述子コレクションに相当するcompiler toolchainですコンパイルプロセスの出力はバイナリアーカイブです App実行時それ以上の GPUコード生成は起こりません構築済バイナリアーカイブを読むだけでPSO作成が加速します
オフラインコンパイルは CPUオーバーヘッドを削減し Appにメリットをもたらしますさらに2つの方法でAppの操作性を向上できます初回起動や新しいレベルのロード時間が劇的に速くなり大きなエンゲージメントとインタラクションを得られますランタイムコンパイルによるスタッターやフレームレート低下をプリウォームフレームメモリやCPUコストなしに最終的に解消可能です次はこれらメリットをより詳しく探って行きます
ここでは従来のAppラン- タイムバイナリ生成をしますこの例ではAppはロード画面背後でGPUバイナリをコンパイルしてユーザーが Appを操作できるようになるまでの時間の約3分の2を費やしていますしかしオフラインコンパイルではランタイムシェーダーの生成はAppのビルド時に移動しPSOの作成はわずかな時間で行われロード画面での待機も無くすぐにAppを使えます
オフラインコンパイルはスタッターの軽減にも有効です従来のランタイムバイナリ生成ではロード時に作成するパイプラインの状態が多すぎるため代わりにジャストインタイムで何個か作成することがありますその際コンパイルがコマンドエンコードを一時的に中断する事によるコマ落ちが発生することがありますオフラインコンパイルでは Appのビルド時に多くのシェーダをコンパイルでき厄介なバブルを取り除けます次にオフラインコンパイルのメリットを活用するための開発者向けの新しいワークフローを紹介します
オフラインでGPUバイナリをビルドするためのツールチェイン新機能の使用方法を学びます Pipelineスクリプトの入力アーティファクトの生成方法を紹介します次にGPUバイナリ生成の為のツールチェインの呼び出し方についてです pipelines script artifactは 1つまたは複数の APIパイプラインの状態記述子をJSON形式で記述したもので様々な方法で生成することができます例えば好みのJSON エディタでのオーサリングや開発テスト時に直列化されたバイナリアーカイブから取得します状態や関数を含むパイプライン記述子と相当するJSON表現を生成する Metalコードのスニペットを示します API metal library fileは libraries path propertyで示されますディスクリプタの関数名を render pipelinesとします最後にraster_sample_countやピクセルフォーマットなどその他パイプラインの状態も script propertiesで取得されます JSONスキーマについては開発者用資料を参照してください
JSONスクリプト生成をキックスタートさせる場合 Metalランタイムを使用することが有効です実行時にバイナリアーカイブを生成し開発およびテストプロセスで直列化するだけですではMetal APIを使ってこれを実現する方法を紹介します
ランタイムのデータ取得はステートと関数を含むパイプライン記述子を作成しそれをアーカイブに追加するとGPUバイナリが生成されますそれをファイルシステムに直列化してAppのバンドルにインポートしたり Appからロードしたりすることから始まります Metal 3ランタイムはバイナリと一緒に pipeline descriptorを保存しますではその抽出方法を紹介します metal-sourceは既存のアーカイブから JSON pipelines scriptを抽出することを可能にしますバイナリ生成を実行時から構築時に移行でき便利です flatbuffersと出力- ディレクトリオプションをつけてmetal-sourceを起動するだけですその結果 pipelines script ファイルが生成されこれを編集し追加のバイナリを生成することができますではツールチェインを呼び出す方法を紹介しますビルドフェーズからGPUバイナリを生成するのは簡単ですターミナルからソースと pipelines scriptと出力ファイルを指定して metalを呼び出すだけです出力されたメタルライブラリはGPUバイナリを含みツール- チェーンがサポートするデバイスに展開できますまたソースの代わりに Metalのライブラリがあればそれもツールチェインに渡すことができます既存のMetalライブラリからバイナリを生成するのも Metal translator toolを使えば簡単ですターミナルでソースと pipelines scriptと出力ファイルを指定して metal-ttを呼び出すだけです結果Metalライブラリにはツールチェーンでサポートされた全デバイスのバイナリが含まれるようになりますオフラインでのバイナリ作成方法がわかったところでバイナリのロード方法をおさらいしておきますアーカイブディスクリプタの作成時にバイナリURLを指定しそれを使いアーカイブをインスタンス化しますそれだけです MetalのバイナリアーカイブAPI については過去のトークをご参照ください最後にオフラインで生成された成果物に対する GPUバイナリの互換性をMetalがどう処理するかのメモですオフラインで生成されたバイナリは将来の OSバージョンや製品との互換性を確保するため OSアップデート時や Appのインストール時にバイナリアーカイブを柔軟にアップグレードしますこれは非同期でバックグラウンドで行われます実行時のスタッタを取り除き初回起動や新しいレベルのロード時間を短縮するオフラインコンパイルの利点をご活用くださいこれら改善は利用者にも見えるものであり App全体の利便性を高めることができますさて次はEylonですありがとう Galo 次に新しいコンパイルオプションであるサイズの最適化を紹介します Metalコンパイラは実行時の性能向上のためにコードを最適化します最適化によってGPUのプログラムサイズが拡大し予期せぬコストが発生する場合があります例えば関数のインライン化は関数呼び出しのオーバーヘッドを回避するための最適化です呼び出し先に関数の本体をインライン化し動作しますこの例のカーネルはコードは多くないように見えますがインライン化した後です関数'f'と'g'のコピーを含みまた'f'と'g'から呼ばれる関数ヘルパーや非プリミティブライブラリ- 関数なども含む可能性があります
もう一つの最適化はループアンロールでループ本体のコピーをさらにインライン化することで反復処理に渡る並列性を確保し分岐のオーバーヘッドを回避しますコンパイラは2回のループの反復をアンロールすることも固定境界を持つループの全反復にも対応可能です最適化によって大きなプログラムが作られるとコンパイラもコンパイルに時間がかかり状況によってはコストを避けることが望ましい場合もあります Xcode14では新しくMetalにサイズの最適化モードを導入しましたこのモードではコンパイラが最適化を行う際にインライン化やループのアンロールなどのサイズ拡大変換を制限しますデフォルトの最適化ではコストがかかりすぎる場合に GPUバイナリを小さくしコンパイル時間の短縮を目的としていますサイズを最適化した場合結果的に実行性能が低下する可能性があります実際にそうなるかはプログラムにより異なるので両方の最適化モードを試して比較する必要がありますこの機能はすべてのシェーダーに対してサイズとコンパイル時間を改善できない可能せもありインライン化やアンロール化が一般的な深い呼び出しパスやループを持つ大規模なプログラムに対して最も効果が期待できますこのオプションはデフォルト最適化で予想外に長いコンパイル時間に遭遇した時試してみる価値がありますビルド時または実行時にコンパイルする場合に利用可能ですサイズの最適化が違いをもたらすケースを紹介します Cyclesは3Dデザイン環境 Blender製品版レンダラーを実装したオープンソースプロジェクトで最近 Metalをサポートするためアップデートされました Appleは最近Blender 開発基金に参加しましたがその中でわかったのは Blenderパスのパストレーシングのアルゴリズムは多くのヘルパー関数とループを持つ大規模な計算シェーダーを使用しコンパイル時間は数分に及ぶということでしたこれらシェーダーはMetal3の新しいオプションであるサイズの最適化の恩恵を受けると判明しました
シーンをApple Silicon GPUでレンダリングする際最適化を有効にすることでシェーダ-パイプラインのコンパイルを含むBlenderの準備時間が最大1.4倍改善されましたレンダリング速度による性能低下はほぼなくスピードアップを実現しましたレンダリング速度が最大4％低下するものもあれば全く低下しないものもありましたそのためランタイム性能が低下する可能性はありますしかし最適化することで実行時の性能向上も可能ですこちらに例を用意しました Intel GPUでサイズの最適化を有効にした場合の同じシーンのレンダリング時間の高速化ですその結果コンパイルが速くなっただけでなくレンダリングも最大で 1.6倍まで速くなりましたどのようにして？小さいGPUプログラムならサイズが大きい時に発生するランタイムペナルティをある程度回避出来るからです命令キャッシュミスの減少や必要なレジスタの減少メモリへの流出の減少さらにはより多くのスレッドを並列に実行することができます全てのシェーダーやシーンで再現される訳でない事性能低下が起こる可能性があることをご了承くださいコンパイル時と実行時の両方のパフォーマンスに対する実際の影響を評価する必要があります Metalソースからコンパイルする際 3つの環境でサイズの最適化を有効にすることができます Xcode14のユーザーインターフェイスではビルド設定でサイズの最適化を指定します「Metal Compiler」の「Build Options」で「Optimization Level」の設定を確認します「Default」レベルではパフォーマンスを最適化し「Size」はサイズを最適化します
コマンドラインでMetalソースをコンパイルする場合オプション-「Os」でサイズを最適化するよう指定します例1はコンパイル＆リンク- コマンドにオプションを指定例2ではコンパイル- コマンドを2つ用意しそのうちの1つだけにオプションを指定して一部のシェーダーに対してのみ有効にしていますこのオプションはリンクコマンドやそれ以降のコマンドに渡す必要はありませんまたこのトークで紹介したコマンドを使用しGPU- バイナリを生成の有無を問わずサイズの最適化を使用可能です
最後にApp実行時に newLibraryWithSourceなど Metal Framework APIで Metalソースをコンパイルする場合 optimizationLevelプロパティを使って MTLCompileOptionsオブジェクトでサイズの最適化を指定できます最適化レベルは「default」または「size」になります皆さんが新しい最適化モードの恩恵を受けることを期待していますまとめですまずオフラインのコンパイルを紹介しました GPUバイナリを完全に生成する新ワークフローで App内のスタッタを減少させ初回起動とロード時間を短縮します続いてソースのコンパイル時にプログラムサイズとコンパイル時間を削減する Metalの新しい最適化モード optimize for sizeを（サイズの最適化）を紹介しましたこれらの改善により皆さんのAppやゲームがより良いユーザー体験を提供できる事を願っていますコンパイルコスト削減でセットアップやロードの短縮スタッタの減少これが新しいワークフローを実現しますご視聴ありがとうございます

4:47 - Using a JSON editor: render pipeline descriptor

// An existing Obj-C render pipeline descriptor
NSError *error = nil;
id<MTLDevice> device = MTLCreateSystemDefaultDevice();

id<MTLLibrary> library = [device newLibraryWithFile:@"default.metallib" error:&error];

MTLRenderPipelineDescriptor *desc = [MTLRenderPipelineDescriptor new];
desc.vertexFunction = [library newFunctionWithName:@"vert_main"];
desc.fragmentFunction = [library newFunctionWithName:@"frag_main"];
desc.rasterSampleCount = 2;
desc.colorAttachments[0].pixelFormat = MTLPixelFormatBGRA8Unorm;
desc.depthAttachmentPixelFormat = MTLPixelFormatDepth32Float;

4:47 - Using a JSON editor: pipelines script

{
  "//comment": "Its equivalent new JSON script",
  "libraries": {
    "paths": [
      {
        "path": "default.metallib"
      }
    ]
  },
  "pipelines": {
    "render_pipelines": [
      {
        "vertex_function": "vert_main",
        "fragment_function": "frag_main",
        "raster_sample_count": 2,
        "color_attachments": [
          {
            "pixel_format": "BGRA8Unorm"
          },
        ],
        "depth_attachment_pixel_format": "Depth32Float"
      }
    ]
  }
}

5:33 - Harvesting sample

// Create pipeline descriptor
MTLRenderPipelineDescriptor *pipeline_desc = [MTLRenderPipelineDescriptor new];
pipeline_desc.vertexFunction = [library newFunctionWithName:@"vert_main"];
pipeline_desc.fragmentFunction = [library newFunctionWithName:@"frag_main"];
pipeline_desc.rasterSampleCount = 2;
pipeline_desc.colorAttachments[0].pixelFormat = MTLPixelFormatBGRA8Unorm;
pipeline_desc.depthAttachmentPixelFormat = MTLPixelFormatDepth32Float;

// Add pipeline descriptor to new archive
MTLBinaryArchiveDescriptor* archive_desc = [MTLBinaryArchiveDescriptor new];
id<MTLBinaryArchive> archive = [device newBinaryArchiveWithDescriptor:archive_desc error:&error];
bool success = [archive addRenderPipelineFunctionsWithDescriptor:pipeline_desc error:&error];

// Serialize archive to file system
NSURL *url = [NSURL fileURLWithPath:@"harvested-binaryArchive.metallib"];
success = [archive serializeToURL:url error:&error];

6:01 - Extracting a JSON script

metal-source -flatbuffers=json harvested-binaryArchive.metallib -o /tmp/descriptors.mtlp-json

6:24 - Generate a GPU binary from source

metal shaders.metal -N descriptors.mtlp-json -o archive.metallib

6:48 - Generate a GPU binary from Metal library

metal-tt shaders.metallib descriptors.mtlp-json -o archive.metallib

7:07 - Load GPU binaries via the runtime API

MTLBinaryArchiveDescriptor *desc = [MTLBinaryArchiveDescriptor new];
desc.url = [NSURL fileURLWithPath:@"archive.metallib"];
NSError *error = nil;
id<MTLDevice> device = MTLCreateSystemDefaultDevice();
id<MTLBinaryArchive> binaryArchive = [device newBinaryArchiveWithDescriptor:desc error:&error];

12:11 - Enable optimize for size in command lines

xcrun metal -Os large_shader.metal

# or

xcrun metal -c -Os large_shader.metal
xcrun metal -c     more_shaders.metal
xcrun metal large_shader.air more_shaders.air

12:44 - Enable optimize for size with Metal framework

MTLCompileOptions* options = [MTLCompileOptions new];
options.optimizationLevel = MTLLibraryOptimizationLevelSize;

NSString* source = @"...";
NSError* error = nil;
id<MTLLibrary> lib = [device newLibraryWithSource:source
                                          options:options
                                            error:&error];

特定のトピックをお探しの場合は、上にトピックを入力すると、関連するトピックにすばやく移動できます。

クエリの送信中にエラーが発生しました。インターネット接続を確認して、もう一度お試しください。

リソース

関連ビデオ

WWDC23

WWDC22

WWDC21

WWDC20