Learning
토픽 153 / 172·고급 학습 기법

AI PC

AI PC

NPU(Neural Processing Unit) 등 AI 가속기를 탑재하여 온디바이스에서 LLM 추론, 이미지 생성, 음성 인식 등 AI 워크로드를 로컬에서 실행할 수 있는 차세대 개인용 컴퓨터

목적: 온디바이스 AI, 프라이버시, 저지연, 오프라인 AI, 생산성 향상

특징: NPU 탑재, 로컬 LLM 실행, 통합 AI 경험, 저전력, 프라이버시

핵심 하드웨어

  • NPU: AI 전용 가속기(TOPS 단위), Intel AI Boost, AMD Ryzen AI, Qualcomm AI Engine
  • CPU+GPU+NPU: 이종 컴퓨팅, 워크로드별 최적 프로세서 선택
  • 메모리: Unified Memory, 대용량 RAM(32GB+)

주요 플랫폼

  • Intel Core Ultra(Meteor Lake): Intel AI Boost(NPU), 40+ TOPS
  • AMD Ryzen AI: XDNA NPU, 45+ TOPS
  • Qualcomm Snapdragon X Elite: Oryon CPU + NPU, 75 TOPS
  • Apple M3: Neural Engine, 18 TOPS / M4: 38 TOPS

AI 기능

  • Windows Copilot: OS 수준 AI 어시스턴트
  • 로컬 LLM: 소형 모델(LLaMA, Phi) 온디바이스 실행
  • 이미지 생성: Stable Diffusion 로컬 실행
  • 실시간 번역: 오프라인 다국어 번역
  • 배경 제거·노이즈 감소: 화상회의

소프트웨어 스택: DirectML(Windows), Core ML(Apple), ONNX Runtime, TensorFlow Lite

장점: 프라이버시(데이터 비전송), 저지연, 오프라인, 네트워크 비용 0, 장기 비용 절감

단점: 초기 비용, 모델 제약(크기), 업데이트 어려움, 하드웨어 성숙도

적용사례: Microsoft Surface(Copilot+), Dell XPS(AI PC), Lenovo ThinkPad, MacBook(Neural Engine)

비교: AI PC(로컬 NPU) vs 클라우드 AI(중앙 처리) vs 기존 PC(CPU/GPU만)

연관: Edge AI, NPU, 온디바이스 AI, 프라이버시, LLM, Windows Copilot