Core AI 시작하기
Core AI는 Apple Silicon을 위해 특별히 설계된 포괄적인 기술 세트입니다. 전적으로 온디바이스 방식으로 AI 모델을 로드하고 실행하므로 데이터가 비공개 상태로 보호되고, 앱의 반응성이 뛰어나며, 비용이 전혀 들지 않습니다.
개요
Core AI 프레임워크는 최신 메모리 안전 Swift API를 제공하여 전적으로 온디바이스 방식으로 AI 모델을 로드하고 실행하며, 서버 종속성과 토큰 비용이 전혀 없습니다. 모델은 모델이 실행되는 하드웨어에 맞게 자동으로 특수화되며, 사전 컴파일 지원으로 즉시 로드할 수 있습니다. 추론 메모리, 제로 카피 데이터 경로, 스테이트풀 실행을 정밀하게 제어하여 콤팩트 비전 모델부터 대규모 생성형 AI까지 모든 모델을 iPhone, iPad, Mac, Apple Vision Pro에서 실행하는 데 필요한 성능을 제공합니다.
연구 커뮤니티에서 제공하는 Core AI용으로 변환되고 최적화된 모델로 시작해 보세요. 사용 가능한 모델을 둘러보거나 Swift 패키지를 다운로드하여 프로젝트에 직접 통합할 수 있습니다. 또한 손쉽게 시작하고 특정 작업 흐름을 살펴볼 수 있도록 생성형 AI 기술도 포함되어 있습니다.
Core AI PyTorch 확장 프로그램은 PyTorch 모델을 Apple Silicon에 최적화된 Core AI 애셋으로 변환합니다. 하나 이상의 추론 함수를 단일 모델 아티팩트로 내보내거나, 어텐션 및 정규화와 같은 일반적인 패턴에 대해 내장된 하드웨어 최적화 연산을 활용하거나, 자체적인 맞춤형 Metal 4 커널을 적용하여 성능을 극대화할 수 있습니다. 고급 사용 사례에서는 타겟 인식 패턴과 레이아웃으로 모델을 다시 제작하여 기본 기기 제품군의 전력 효율을 극대화할 수 있습니다.
Core AI 최적화는 양자화와 팔레트화 같은 기법을 통해 모델 크기를 줄이고 추론 성능을 향상하며, 정확도 손실은 최소화합니다. 맞춤화 가능성이 큰 구성 덕분에 압축할 레이어를 정확하게 제어하고, 각 레이어별로 다양한 기법을 선택하며, 세분화 수준을 조정하여 모델 품질, 크기, 속도 간의 최적 균형을 찾을 수 있습니다. Core AI 최적화를 통해 배포 타겟에 맞게 압축 전략을 유연하게 조정할 수 있습니다.
Core AI를 위한 새로운 Xcode 통합으로 Core AI 그래프를 검사하고, 모델 성능을 프로파일링하며, 배포 전에 아티팩트를 검증할 수 있습니다. Core AI Debugger는 전용 macOS 애플리케이션으로, 전체 파이프라인에 걸쳐 모델 동작과 성능을 자세히 파악하고, 원본 Python 소스 코드까지 직접 데이터를 추적할 수 있습니다.