복잡한 기업 데이터 속에서 AI가 정확하고 신뢰할 수 있는 답변을 내놓는 것은 여전히 어려운 과제였습니다. 특히 여러 시스템에 흩어진 정보를 통합하거나, 한 번의 검색으로는 부족한 심층적인 질의에는 AI가 종종 불완전하거나 부정확한 답변을 내놓곤 했죠.
이런 고민을 해결하기 위해 구글이 새로운 접근 방식을 내놓았습니다. 바로 기업용 AI의 정확도를 최대 34%까지 높인 '에이전틱 RAG(Agentic RAG)'입니다. 지난 2026년 6월 5일, 구글 리서치와 구글 클라우드는 이 에이전틱 RAG 프레임워크를 공개하며 제미나이 엔터프라이즈 에이전트 플랫폼에 적용했다고 밝혔습니다.
구글 기업용 AI 정확도 34% 향상, 핵심은 '충분한 맥락 에이전트'
기존의 검색증강생성(RAG) 시스템은 대규모 언어 모델(LLM)이 외부 데이터베이스에서 정보를 한 차례 검색해 답변을 생성하는 방식이었습니다. 하지만 '프로젝트 X에 사용된 서버 사양은 무엇인가?' 같은 질문에서 관련 문서에 서버 ID만 있고 실제 사양은 다른 데이터베이스에 있다면, 기존 RAG는 불완전한 답변을 하거나 정보를 찾지 못하는 한계를 보였습니다.
에이전틱 RAG는 이런 문제를 해결하기 위해 여러 전문 AI 에이전트들이 협력하는 다중 에이전트 구조를 채택했습니다. 이 중에서도 특히 중요한 역할을 하는 것이 바로 '충분한 맥락 에이전트(Sufficient Context Agent)'입니다.
이 에이전트는 AI가 답변을 생성하기 전에 검색된 정보가 질문에 충분한지, 누락된 부분은 없는지 스스로 검토합니다. 만약 정보가 부족하다고 판단되면, AI는 스스로 추가 검색 키워드를 만들어 필요한 정보를 반복적으로 탐색하고 검증하는 과정을 거칩니다. 이는 마치 AI 내부에 '품질 보증(QA) 시스템'이 내장된 것과 같아서, AI가 근거 없이 답변을 지어내는 '환각 현상'을 효과적으로 줄여줍니다.
여러 AI 에이전트가 협력하는 에이전틱 RAG 구조
다중 에이전트의 유기적인 협업으로 복잡한 질의 해결
에이전틱 RAG는 단순한 단일 에이전트가 아닙니다. 검색 과정을 전체적으로 조율하는 오케스트레이터(Orchestrator)를 중심으로, 다음과 같은 다양한 에이전트들이 유기적으로 협력합니다.
- 플래너 에이전트(Planner Agent): 어떤 데이터 소스를 조회할지 계획을 수립합니다.
- 쿼리 리라이터(Query Rewriter): 사용자의 질문을 구체적이고 검색하기 쉬운 형태로 재작성합니다.
- 서치 팬아웃 에이전트(Search Fanout Agent): 다양한 데이터 소스에서 정보를 병렬로 수집합니다.
- RAG 에이전트: 검색된 정보를 바탕으로 초기 답변을 생성합니다.
- 충분한 맥락 에이전트(Sufficient Context Agent): 답변에 필요한 정보가 충분한지 검토하고, 부족하면 재검색을 지시합니다.
이러한 멀티 에이전트 구조는 정보가 여러 데이터베이스나 팀에 분산된 기업 환경에서 특히 강점을 발휘합니다. 예를 들어 의료 기록, 법률 문서, 내부 지식 기반, 프로젝트 데이터 등 정확하고 추적 가능한 답변이 필수적인 기업용 사용 사례에 매우 적합하다는 평가입니다.
실제 성능은 어떨까? 정확도 90.1% 달성 및 낮은 지연 시간
구글 리서치의 테스트 결과는 에이전틱 RAG의 강력한 성능을 보여줍니다. 에이전틱 RAG는 사실 기반 질의응답 평가에서 기존 RAG 대비 최대 34% 높은 정확도를 기록했습니다. 또한, 여러 개의 독립적인 데이터셋을 탐색해야 하는 복잡한 '크로스 코퍼스(Cross-Corpus)' 설정에서도 무려 90.1%의 정확도를 달성했습니다.
정확도가 높아지면 응답 속도가 느려질 것이라는 우려와 달리, 구글은 단일 코퍼스 대비 응답 지연 시간 차이가 평균 3% 이내에 불과했다고 보고했습니다. 이는 신뢰성 향상을 위해 사용자가 눈에 띄게 기다릴 필요가 없다는 의미로, 에이전틱 RAG가 실제 기업 환경에 적용되기에 충분한 균형을 갖추었음을 시사합니다.
에이전틱 RAG의 34% 향상된 정확도
실무자 확인사항
구글의 에이전틱 RAG는 기업용 AI 도입을 고려하는 담당자들에게 몇 가지 중요한 시사점을 제공합니다.
- 복잡한 데이터 환경: 내부 데이터가 여러 시스템에 분산되어 있다면, 에이전틱 RAG와 같은 다중 에이전트 솔루션이 기존 RAG의 한계를 넘어설 수 있습니다.
- 높은 정확도 요구: 의료, 법률, 금융 등 답변의 정확성과 신뢰성이 절대적으로 중요한 분야에서는 에이전틱 RAG의 34% 정확도 향상이 큰 의미를 가집니다.
- 감사 및 추적 가능성: 에이전틱 RAG는 AI 응답의 출처를 명확히 기록하여 감사 및 추적 가능성을 높입니다. 이는 규제 준수와 내부 통제에 있어 중요한 이점입니다.
- 제미나이 엔터프라이즈 에이전트 플랫폼: 현재 퍼블릭 프리뷰로 제공되고 있으므로, 실제 업무 환경에 적용하기 전에 플랫폼 내에서 충분히 테스트해 보는 것이 좋습니다.
질문
에이전틱 RAG와 기존 RAG의 가장 큰 차이점은 무엇인가요?
기존 RAG는 보통 한 번의 검색으로 정보를 찾아 답변을 생성하는 반면, 에이전틱 RAG는 여러 AI 에이전트가 협력하여 질문을 분석하고, 필요한 정보가 충분한지 검토하며, 부족하면 스스로 반복적인 추가 검색을 수행한다는 점이 가장 큰 차이입니다. 이는 AI가 '충분한 맥락'을 확보할 때까지 탐색하는 '지속성'을 부여합니다.
에이전틱 RAG가 모든 기업에 필수적인가요?
모든 기업에 필수적이라고 단정하기는 어렵습니다. 하지만 데이터가 파편화되어 있고, 여러 데이터 소스 간의 복합적인 연결이 필요한 질문이 많으며, AI 답변의 정확도와 신뢰성, 그리고 출처 추적 가능성이 매우 중요한 기업 환경이라면 에이전틱 RAG가 매우 효과적인 해결책이 될 수 있습니다. 예를 들어, 민감한 정보를 다루는 의료, 법률, 금융 산업 등에 특히 유용할 수 있습니다.
에이전틱 RAG 도입 시 고려해야 할 주의사항이 있을까요?
에이전틱 RAG는 기존 RAG 대비 복잡한 구조를 가지므로, 초기 시스템 구축 및 통합에 더 많은 시간과 자원이 필요할 수 있습니다. 또한, 여러 에이전트 간의 조율과 최적화 과정이 중요하며, 기업의 특정 데이터 환경에 맞춰 에이전트의 역할을 세밀하게 설계해야 최적의 성능을 기대할 수 있습니다. 도입 전에 충분한 파일럿 테스트와 전문가의 도움을 받는 것을 권장합니다.
구글의 에이전틱 RAG는 기업용 AI가 단순히 정보를 찾아주는 것을 넘어, 마치 능숙한 연구원처럼 스스로 정보를 탐색하고 검증하며 신뢰성 높은 답변을 제공하는 새로운 시대를 예고하고 있습니다. 구글 기업용 AI 정확도 34% 향상이라는 숫자는 단순히 성능 개선을 넘어, AI가 기업의 핵심 의사결정을 돕는 더욱 믿음직한 파트너로 진화할 수 있음을 보여주는 강력한 신호입니다. 복잡한 데이터를 다루는 많은 기업들에게 이 기술이 어떤 변화를 가져올지 주목할 필요가 있습니다.