Core AIの概要
Core AIは、Appleシリコンに特化した包括的なテクノロジーセットです。AIモデルを完全にデバイス上で読み込んで実行することで、データのプライバシーを保ち、アプリの応答性を高め、コストをゼロに抑えます。
概要
Core AIフレームワークは、最新のメモリセーフなSwift APIを提供します。AIモデルを完全にデバイス上で読み込んで実行するため、サーバ依存やトークンコストをゼロに抑えます。モデルは実行するハードウェアに合わせて自動的に最適化され、事前コンパイルによって即時に読み込まれます。推論メモリのきめ細かな制御、ゼロコピーのデータパス、ステートフルな実行により、コンパクトなビジョンモデルから大規模な生成AIまで、iPhone、iPad、Mac、Apple Vision Proであらゆるものを実行するために必要なパフォーマンスを発揮できます。
リサーチコミュニティから提供されているCore AIに変換および最適化済みのモデルを使ってみましょう。提供されているモデルを確認し、Swiftパッケージをダウンロードしてプロジェクトに直接統合できます。生成AIスキルも含まれているため、特定のワークフローをスムーズに開始して実行できます。
Core AI PyTorch拡張機能は、PyTorchモデルをAppleシリコン向けに最適化されたCore AIアセットに変換します。1つ以上の推論関数を単一のモデルアーティファクトにエクスポートしたり、アテンションや正規化などの一般的なパターンに対してハードウェア最適化された組み込みの演算を利用したり、最大限のパフォーマンスを引き出すためにMetal 4カーネルをカスタマイズしたりできます。高度なユースケースでは、ターゲット認識型のパターンやレイアウトでモデルを再オーサリングし、基盤となるデバイスファミリーの電力効率を最大限に引き出せます。
Core AI最適化は、量子化やパレット化などの手法を用いて、精度損失を最小限に抑えつつモデルサイズを削減し、推論パフォーマンスを向上させます。構成を高度にカスタマイズできるため、圧縮するレイヤーを正確に制御しながら、レイヤーごとに異なる手法を選択し、粒度を調整してモデルの品質、サイズ、速度の最適なバランスを見つけることができます。Core AI最適化は、展開先に合わせて圧縮戦略を柔軟に調整できます。
XcodeとCore AIの新しい統合機能により、Core AIグラフの検査、モデルのパフォーマンスのプロファイリング、デプロイ前のアーティファクトの検証を行えます。Core AI DebuggerはmacOS専用のアプリで、パイプライン全体のモデルの動作とパフォーマンスを詳細に視覚化し、データを直接元のPythonソースコードまで追跡できます。