에이전틱 RAG (Agentic RAG)

에이전틱 RAG는 검색할지 여부와 검색어, 다음 행동을 에이전트가 실행 중에 스스로 판단하며 진행하는 RAG 구조입니다. 개발자가 검색 순서를 미리 정해 두는 대신, 에이전트가 질문을 나누고 소스를 고르고 결과를 평가한 뒤 부족하면 다시 검색합니다. 아직 표준화 기구가 정한 용어는 아니고, NVIDIA와 Weaviate, LlamaIndex 같은 벤더가 각자 강조점을 조금씩 다르게 쓰는 업계 용어입니다.

이 글은 NVIDIA, Weaviate, LlamaIndex의 공식 기술 블로그와 Agentic RAG 원 논문을 기준으로 작성했습니다. OpenAI, Google, Perplexity의 공식 발표도 참고했습니다.

검색 여부와 다음 행동을 에이전트가 정하는 구조

RAG는 원래 외부 자료를 찾아 생성 답변의 근거로 쓰는 구조 전체를 가리킵니다. 이 구조를 한 번만 검색하도록 짤 수도 있고, 미리 정한 순서대로 여러 번 검색하도록 짤 수도 있습니다. 어느 쪽이든 검색의 횟수와 순서는 개발자가 파이프라인을 설계할 때 이미 고정해 둔 것입니다.

에이전틱 RAG는 이 결정을 실행 중인 에이전트에게 넘깁니다. Weaviate는 검색 에이전트가 아래 네 가지를 그때그때 스스로 판단한다고 설명합니다.

• 정보를 검색할지 여부
• 어떤 도구로 검색할지
• 검색어를 어떻게 만들지
• 검색된 내용을 평가해 다시 검색할지

NVIDIA도 비슷하게 설명합니다. 질문을 짧은 하위 질문 여러 개로 나눠 계획하고, 각각을 검색기에 실행하고, 부분적으로 나온 답을 평가하고, 결과가 빈약하면 검색어를 바꿔 다시 시도한 뒤에야 최종 답을 만든다는 것입니다. 그래서 기본 RAG와 에이전틱 RAG는 검색 횟수가 아니라, 검색 여부와 검색어를 누가 언제 정했는지로 나뉩니다. 개발자가 미리 정해 뒀다면 여러 단계를 거치더라도 기본 RAG의 파이프라인이고, 에이전트가 실행 중에 판단했다면 에이전틱 RAG입니다.

RAG, AI 에이전트, 에이전틱 검색과 다른 점

이름이 비슷한 용어들이라 겹쳐 보이지만 각각 가리키는 범위가 다릅니다.

정리하면 AI 에이전트가 가장 넓은 개념이고, 에이전틱 검색은 그 에이전트의 능력을 조사와 검색에 적용한 형태입니다. 에이전틱 RAG는 그중에서도 RAG라는 이름이 붙은 검색과 생성 파이프라인에 한정해 이 동적 판단을 결합한 구현입니다.

해당하는 사례

• 질문을 여러 조사 과제로 나누고, 각 과제마다 검색할지와 어떤 도구를 쓸지 에이전트가 그때그때 정하는 구조
• 검색 결과가 부족한지 평가한 뒤 검색어를 바꿔 다시 검색하는 반복 루프가 실제로 있는 구조

그것만으로는 에이전틱 RAG가 아닌 사례

• 리랭커나 쿼리 재작성을 고정된 순서로 붙였을 뿐, 검색 여부와 검색어를 에이전트가 상태에 따라 바꾸지 않는 파이프라인
• 도구를 한 번 호출했다는 사실만 있고, 그 호출 여부를 모델이 실행 중에 판단했는지 확인되지 않는 경우
• 검색결과에 AI 요약이 붙었다는 사실만으로 내부에 이런 에이전트 구조가 있다고 단정하는 경우

벤더와 원 논문마다 다른 정의

에이전틱 RAG는 최근에 자리 잡은 이름이라 벤더마다 설명하는 결이 조금씩 다릅니다. 하나의 정의로 뭉뚱그리지 말고 출처별 차이를 구분해서 봐야 합니다.

• NVIDIA는 파이프라인 관점에서 설명합니다. 질의를 하나의 검색 호출이 아니라 추론 대상으로 다루고, 계획과 재시도, 종합까지 이어지는 과정 전체를 강조합니다.
• Weaviate는 에이전트의 판단 행위 자체에 초점을 둡니다. 검색 여부, 도구 선택, 질의 작성, 재검색 판단을 각각 에이전트가 내리는 결정으로 나눠 설명합니다.
• LlamaIndex는 자사 프레임워크의 한 구현 방식으로 설명합니다. 문서마다 별도 에이전트를 두고 그 위에 메타 에이전트가 도구 선택과 사고 과정을 맡는 계층 구조입니다. 이 계층 구조는 LlamaIndex의 구현 예시이지, 에이전틱 RAG 전체가 반드시 갖춰야 하는 조건은 아닙니다.
• Agentic RAG를 다룬 원 논문은 기본 RAG를 워크플로우가 정해져 있어 적응성이 부족한 구조로, 에이전틱 RAG를 다단계 추론과 복잡한 작업 관리에 필요한 유연성을 제공하는 구조로 구분합니다. 그러면서 에이전트가 reflection, planning, tool use, multi-agent collaboration 네 가지 설계 패턴을 활용한다고 정리합니다.

네 설계 패턴 가운데 multi-agent collaboration은 LlamaIndex의 문서 에이전트+메타 에이전트 구조처럼 여러 에이전트를 두는 방식이고, 나머지 셋은 에이전트 하나로도 구현할 수 있습니다. 즉 에이전틱 RAG라고 해서 반드시 여러 에이전트가 필요한 것은 아닙니다.

Deep Research 제품에서 나타나는 사례

에이전틱 RAG를 실제로 확인할 수 있는 대표 제품은 Deep Research류 기능입니다. 세 서비스 모두 공식 문서에서 다단계 검색과 계획 수정을 명시합니다.

• Gemini Deep Research는 조사 계획을 먼저 세우고, 사용자가 계획을 고친 뒤 시작하면 여러 자료를 반복해서 찾아 보고서를 만듭니다.
• OpenAI의 deep research는 인터넷에서 복잡한 과제에 대해 다단계 조사를 수행하는 에이전트 기능이라고 소개됩니다. 필요한 자료를 찾기 위한 여러 단계의 경로를 계획하고 실행하며, 막힌 경로에서는 이전 단계로 되돌아가고 실시간으로 얻은 정보에 따라 방향을 바꿉니다.
• Perplexity의 Deep Research 모드는 검색과 문서 읽기를 반복하고 다음에 무엇을 할지 추론하며, 주제를 알아갈수록 조사 계획을 다듬는다고 공식 블로그가 설명합니다.

다만 제품 이름에 agent나 deep research가 들어갔다고 모두 같은 방식으로 구현된 것은 아닙니다. 각 회사가 내부 구조를 어디까지 공개했는지가 다르므로, 답변이 길거나 출처가 많다는 사실만으로 에이전틱 RAG 구조라고 단정하지 않는 편이 안전합니다.

검색과 콘텐츠 실무에서 확인할 점

에이전틱 RAG 구조에서는 한 번의 검색이 아니라 여러 번의 검색과 재검색을 거쳐 답이 만들어집니다. 그 과정에서 같은 페이지가 여러 다른 하위 질문에 반복해서 걸리거나, 다른 출처와 교차 검증될 가능성이 생깁니다.

이 부분은 공식 문서가 직접 보장하는 내용이 아니라 AVCD의 해석입니다. 에이전틱 RAG를 쓴다고 특정 페이지의 AI 검색 노출이나 인용이 늘어난다는 근거는 확인되지 않았습니다. 다만 여러 번 검색되고 교차 검증될 수 있는 구조인 만큼, 콘텐츠를 만들 때 아래를 확인해 두면 이런 검증 과정에서 걸러지는 일을 줄일 수 있습니다.

• 같은 사실을 여러 페이지에서 다르게 써 두지 않았는가
• 수치와 조건에 확인 시점이나 적용 범위가 붙어 있는가
• 한 페이지 안에서 질문에 바로 답하는 문장이 앞뒤 맥락 없이도 읽히는가

함께 알아두면 좋은 용어

• RAG: 외부 자료를 검색해 답변 생성에 제공하는 구조
• AI 에이전트: 목표와 상태에 맞춰 다음 행동과 도구를 동적으로 정하는 시스템
• 에이전틱 검색: RAG를 전제하지 않는 더 넓은 범위의 동적 조사 과정
• 쿼리 재작성: 검색어를 검색에 더 적합한 형태로 바꾸는 전처리 단계
• 리랭커: 1차 검색 후보에 새 점수를 매겨 순서를 다시 정하는 구성 요소
• Gemini Deep Research: 에이전틱 RAG 방식을 확인할 수 있는 대표 제품 사례

참고 문서

• NVIDIA, Traditional RAG vs. Agentic RAG
• Weaviate, What Is Agentic RAG?
• LlamaIndex, Agentic RAG With LlamaIndex
• Singh et al., Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG
• OpenAI, Introducing deep research
• Perplexity, Introducing Perplexity Deep Research
• Google, Gemini Deep Research 제품 안내