토픽 153 / 172·고급 학습 기법
AI PC
AI PC
NPU(Neural Processing Unit) 등 AI 가속기를 탑재하여 온디바이스에서 LLM 추론, 이미지 생성, 음성 인식 등 AI 워크로드를 로컬에서 실행할 수 있는 차세대 개인용 컴퓨터
목적: 온디바이스 AI, 프라이버시, 저지연, 오프라인 AI, 생산성 향상
특징: NPU 탑재, 로컬 LLM 실행, 통합 AI 경험, 저전력, 프라이버시
핵심 하드웨어
- •NPU: AI 전용 가속기(TOPS 단위), Intel AI Boost, AMD Ryzen AI, Qualcomm AI Engine
- •CPU+GPU+NPU: 이종 컴퓨팅, 워크로드별 최적 프로세서 선택
- •메모리: Unified Memory, 대용량 RAM(32GB+)
주요 플랫폼
- •Intel Core Ultra(Meteor Lake): Intel AI Boost(NPU), 40+ TOPS
- •AMD Ryzen AI: XDNA NPU, 45+ TOPS
- •Qualcomm Snapdragon X Elite: Oryon CPU + NPU, 75 TOPS
- •Apple M3: Neural Engine, 18 TOPS / M4: 38 TOPS
AI 기능
- •Windows Copilot: OS 수준 AI 어시스턴트
- •로컬 LLM: 소형 모델(LLaMA, Phi) 온디바이스 실행
- •이미지 생성: Stable Diffusion 로컬 실행
- •실시간 번역: 오프라인 다국어 번역
- •배경 제거·노이즈 감소: 화상회의
소프트웨어 스택: DirectML(Windows), Core ML(Apple), ONNX Runtime, TensorFlow Lite
장점: 프라이버시(데이터 비전송), 저지연, 오프라인, 네트워크 비용 0, 장기 비용 절감
단점: 초기 비용, 모델 제약(크기), 업데이트 어려움, 하드웨어 성숙도
적용사례: Microsoft Surface(Copilot+), Dell XPS(AI PC), Lenovo ThinkPad, MacBook(Neural Engine)
비교: AI PC(로컬 NPU) vs 클라우드 AI(중앙 처리) vs 기존 PC(CPU/GPU만)
연관: Edge AI, NPU, 온디바이스 AI, 프라이버시, LLM, Windows Copilot