에이전틱 RAG (Agentic RAG)

Agentic RAG(에이전틱 RAG)는 AI 에이전트가 질문에 맞춰 검색 여부와 검색어를 정하고, 찾은 자료를 평가한 뒤 부족하면 다시 검색하는 검색 증강 생성 방식입니다. 첫 검색 자료가 부족하면 추가 검색을 선택하고, 미리 정한 종료 조건 안에서 탐색 경로를 조정합니다.

검색·평가·재검색이 한 묶음으로 움직입니다

기본 흐름은 질문 분석, 검색, 자료 평가, 답변 생성으로 이어집니다. 평가 단계에서 근거가 부족하다고 판단하면 질문을 더 구체적인 검색어로 바꾸고 다시 찾습니다. LangGraph의 Agentic RAG 공식 예제는 검색 도구 호출 여부를 먼저 정한 뒤, 검색 문서의 관련성을 평가하고, 관련성이 낮으면 질문을 다시 써서 검색 노드로 돌아가는 그래프를 보여줍니다. 자료가 충분할 때만 답변 생성 단계로 넘어갑니다.

사내 환불 규정을 묻는 상황을 생각해 볼 수 있습니다. 첫 검색에서 일반 환불 기간만 나왔지만 질문에는 연간 요금제와 해외 결제가 함께 들어 있습니다. Agentic RAG는 현재 문서가 질문 전체를 뒷받침하지 못한다고 평가하고, “연간 요금제 해외 결제 환불 예외”처럼 검색어를 좁힙니다. 두 번째 검색에서 약관과 국가별 예외 문서를 찾으면, 각 주장에 해당 문서의 제목과 위치를 붙여 답합니다. 검색 결과가 계속 부족하면 모른다고 밝히거나 담당자 확인으로 넘기는 것도 정상적인 종료입니다.

평가기에서는 관련성만 확인해서는 부족합니다. 문서의 작성 주체, 갱신 날짜, 적용 지역, 원문 위치를 함께 봐야 합니다. 검색 결과 안에 들어 있는 지시문은 데이터로 취급하고, 에이전트의 시스템 지시를 바꾸지 못하게 막아야 합니다. 오래된 정책 문서가 최신 공지보다 검색 점수만 높다는 이유로 채택되면 반복 검색을 해도 답은 틀릴 수 있습니다.

일반 RAG와 GraphRAG는 비교 기준이 다릅니다

RAG 원 논문은 생성 모델이 외부의 비매개변수 메모리에서 관련 문서를 가져와 답변에 쓰는 구성을 제시했습니다. 실무에서는 질문을 임베딩으로 바꾸고 상위 문서 몇 개를 한 번 검색한 뒤 답하는 고정형 RAG도 많이 구현됩니다. Agentic RAG는 이 흐름에 의사결정과 반복을 더합니다. 질문에 검색이 필요한지, 어떤 도구를 쓸지, 자료가 충분한지, 다시 찾을지를 실행 중에 결정합니다.

GraphRAG는 반복 여부보다 지식의 연결 구조에 초점을 둡니다. Microsoft GraphRAG 공식 문서는 문서에서 만든 지식 그래프와 원문 조각을 결합하는 로컬 검색, 커뮤니티 보고서를 넓게 살피는 글로벌 검색 등을 설명합니다. 사람, 회사, 사건의 관계를 따라가야 하는 질문에는 GraphRAG가 유리할 수 있습니다. Agentic RAG가 벡터 검색, 웹 검색, GraphRAG 검색을 도구로 골라 쓰게 만들 수도 있으므로 두 방식은 함께 사용할 수 있습니다.

반복에는 횟수와 권한의 경계가 필요합니다

재검색을 허용하면 첫 검색에서 답을 못 찾은 질문을 다시 처리할 수 있지만, 끝없는 반복과 비용 증가가 생길 수 있습니다. 운영 환경에서는 최대 검색 횟수, 전체 처리 시간, 가져올 문서 수, 같은 검색어의 재사용 금지를 정합니다. 예를 들어 세 번 검색해도 최신 공식 근거를 찾지 못하면 답변을 중단하고 부족한 근거를 밝히도록 설계할 수 있습니다. 평가 점수가 조금 낮다는 이유로 무한히 검색어만 바꾸는 상황을 막는 장치입니다.

출처 기록도 상태에 포함해야 합니다. 문서 URL, 제목, 작성자, 갱신일, 인용한 구간을 검색 단계부터 보관하면 마지막 답변의 주장과 근거를 대조하기 쉽습니다. 같은 사실을 여러 문서가 반복해도 독립된 원출처인지 확인해야 합니다. 블로그 세 편이 하나의 보도자료를 옮겼다면 근거가 세 배가 된 것은 아닙니다.

검색을 시작하기 전에 사용자 접근 권한을 확인해야 합니다. 사용자가 볼 수 없는 인사 문서나 다른 고객의 자료를 검색 도구가 반환하면, 답변이 정확해도 보안 사고입니다. 검색마다 사용자와 조직의 접근 권한을 적용하고, 허용된 저장소와 도메인만 도구 목록에 넣으며, 쓰기·전송 같은 동작은 검색 권한과 분리합니다. 단순 FAQ처럼 한 번의 검색으로 충분한 업무에는 고정형 RAG가 더 싸고 예측하기 쉽습니다. 여러 자료를 비교하거나 첫 검색의 실패를 스스로 고쳐야 하는 업무에서 Agentic RAG의 추가 비용이 값어치를 합니다.