Google이 Metal까지 묶는 AI 런타임을 만들었다 — ML Drift가 바꾸는 온디바이스 AI 개발
모바일과 데스크톱, 웹을 아우르는 Google의 새로운 GPU 엔진 'ML Drift'가 기존 AI 개발 방식을 어떻게 뒤흔들고 있을까요?
모바일 온디바이스 AI의 성능 최적화와 멀티 플랫폼 GPU 추론 기술에 관심이 많은 iOS 및 머신러닝 엔지니어.
·Tensor Virtualization을 통해 모델의 논리적 구조와 GPU 하드웨어 배치를 분리하여 플랫폼별 Shader 작성 부담을 대폭 완화했습니다.
·기존 TFLite GPU Delegate를 대체하며, Operator Fusion 및 메모리 재사용 최적화를 통해 실시간 추론 성능을 향상했습니다.
·5D Tensor 지원 및 Prefill/Decode 단계별 맞춤형 최적화를 통해 모바일 기기에서도 고성능 생성형 AI 구동이 가능해졌습니다.
