RAG (검색 증강 생성)

RAG는 생성형 AI가 외부 문서나 데이터에서 관련 지식을 찾아 답변의 문맥과 근거로 쓰는 방식입니다. Retrieval-Augmented Generation의 약자이며 검색 증강 생성이라고 번역합니다. 구현에 따라 답변 전 한 번만 검색하거나 생성 과정에서 여러 번 검색할 수 있습니다.

AI가 학습할 때 배운 내용만으로 답하면 최신 정보나 회사 내부 문서를 반영하기 어렵습니다. RAG는 답변하기 전에 관련 자료를 찾아 함께 읽게 해 이 한계를 보완합니다.

이 글은 RAG 원 논문을 기준으로 작성했습니다.

검색, 증강, 생성의 기본 흐름

1. 검색 단계에서 문서 저장소나 웹의 관련 자료를 찾습니다.
2. 증강 단계에서 찾은 자료를 질문과 함께 모델의 입력에 넣습니다.
3. 생성 단계에서 모델이 자료를 참고해 답변을 만듭니다.

질의를 검색하기 좋은 형태로 바꾸는 질의 재작성과 관련도가 높은 자료를 앞에 놓는 재정렬은 검색 품질을 높이려고 덧붙일 수 있는 선택 구현입니다. 모든 RAG가 이 두 단계를 반드시 거치는 것은 아닙니다.

자료를 찾는 여러 방법

웹 검색은 자료를 찾는 방법 중 하나입니다. RAG는 찾은 자료를 AI 답변에 함께 사용하는 전체 과정을 말합니다.

회사 내부 문서, 제품 데이터베이스, 논문 저장소나 고객 지원 문서도 검색 대상으로 사용할 수 있습니다. 따라서 모든 RAG가 공개 웹을 검색하는 것은 아닙니다.

RAG와 파인튜닝의 차이

두 방식을 함께 사용할 수도 있습니다.

RAG의 한계

관련 없는 문서를 검색하거나 중요한 문장을 놓칠 수 있고, 모델이 문맥을 잘못 해석할 수도 있습니다. 출처에 없는 내용을 추가하는 경우도 있습니다.

• 검색 대상 문서가 정확하고 최신인지 봅니다.
• 문서 분할 단위가 질문에 맞는지 확인합니다.
• 검색 결과의 관련성을 평가합니다.
• 답변 문장과 근거 문서가 실제로 일치하는지 검사합니다.
• 답을 찾지 못했을 때 추측하지 않는 규칙을 둡니다.

질문부터 답변까지의 실제 예시

직원이 올해 제주 추가 배송비가 얼마인가요?라고 사내 챗봇에 물었다고 해보겠습니다.

1. 검색기가 배송 정책 문서에서 2026년 제주 추가 배송비 3,000원 구간을 찾습니다
2. 시스템이 질문과 해당 문서 구간을 모델 입력에 함께 넣습니다
3. 모델이 제주 추가 배송비는 3,000원입니다라고 답하고 정책 문서를 출처로 표시합니다

검색기가 2024년 문서를 가져왔다면 답도 낡을 수 있습니다. 최신 문서를 찾았더라도 모델이 도서 지역은 5,000원처럼 원문에 없는 조건을 덧붙일 수 있습니다. 검색 결과와 최종 답변을 각각 평가해야 하는 이유입니다.

확인할 때는 대표 질문과 정답 문서를 미리 정하고, 검색 단계에서 정답 문서가 상위 후보에 들어왔는지 봅니다. 이어서 답변의 수치와 조건이 문서와 일치하는지 확인합니다. 검색 정확도와 답변 근거 일치율을 나눠 기록합니다.

검색 후보가 되는 문서 조건

AI 검색 서비스가 웹 문서를 검색해 답변에 활용할 수 있지만 모든 시스템이 같은 RAG 구조를 쓰는 것은 아닙니다. 검색엔진의 색인, 실시간 수집과 자체 지식 저장소가 조합될 수 있습니다.

Google 검색의 AI 기능에서 웹페이지가 지원 링크 후보가 되려면 색인되고 스니펫 표시 자격이 있어야 하며, Google은 중요한 내용을 텍스트로 제공하라고 권합니다. 다른 AI 서비스의 검색 조건은 제품마다 다릅니다. 접근 가능하다는 이유만으로 답변이나 AI 인용이 보장되지는 않습니다.

함께 알아두면 좋은 용어

• AI 인용: 생성 답변이 참고한 출처를 링크나 표기로 연결하는 방식
• AI 검색 최적화: AI 검색에서 콘텐츠의 발견과 활용을 고려하는 작업
• 크롤링: 웹페이지를 발견하고 내용을 가져오는 과정
• 색인: 검색 시스템이 페이지 정보를 저장하는 과정

참고 문서

• Lewis et al., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
• NeurIPS 2020 논문 원문
• Google 검색 센터, Google 검색의 AI 기능과 웹사이트