토픽 56 / 172·Transformer와 언어모델

Compound AI Systems (복합 AI 시스템)

단일 AI 모델이 아닌 여러 컴포넌트(LLM, 검색엔진, 도구, 에이전트, 데이터베이스)를 조합하여 복잡한 태스크를 수행하는 시스템 설계 패러다임

배경: 단일 모델 한계(환각, 최신 정보 부족, 도구 사용 불가) → 여러 컴포넌트 조합으로 극복, Berkeley AI Research(BAIR) 제안

핵심 패턴: RAG(검색+생성), Agent+Tool Use(도구 호출), Multi-Agent(에이전트 협업), Chain/Pipeline(단계별 처리), Router(입력 기반 분기)

구성요소: LLM(추론 엔진), Retriever(문서 검색), Tool(외부 API/계산기/코드 실행), Memory(대화/상태 저장), Orchestrator(흐름 제어)

비교: 단일 모델(단순/End-to-End/확장 한계) vs Compound System(모듈/조합 가능/복잡도 증가/성능 우수)

적용사례: ChatGPT(RAG+Code Interpreter+Web Browse), 기업 AI 어시스턴트, 자율 에이전트

연관: RAG, AI 에이전트, MCP, A2A, LLM, 멀티에이전트 시스템