그라운딩은 AI가 외부 자료를 근거로 답변하도록 만드는 방법입니다. 웹 검색결과, 업로드한 문서, 사내 데이터나 API 응답을 제공해 모델이 학습한 지식만으로 답하지 않도록 합니다. 답변에 쓸 사실과 적용 조건을 자료에서 가져오게 하는 것이 목적입니다.
그라운딩과 RAG의 관계
RAG는 외부 자료를 검색해 답변 생성에 제공하는 구조로, 그라운딩을 구현하는 방법 중 하나입니다. 검색 단계를 거치지 않고 사용자가 올린 파일이나 API 응답을 모델에 직접 제공해 그 자료에 근거하도록 할 수도 있습니다.
검색으로 적절한 문서를 찾았더라도 답변이 그 내용을 무시하면 근거를 제대로 활용하지 못한 것입니다. 반대로 자료를 충실하게 따랐어도 자료 자체가 오래되거나 틀렸다면 최종 답변 역시 틀릴 수 있습니다. 자료에 충실한지와 실제로 맞는 답인지는 따로 평가해야 합니다.
근거로 제공하는 자료
| 자료 경로 | 예시 | 확인할 사항 |
|---|---|---|
| 웹 검색 | 최신 정책과 공식 웹페이지 | 오래된 사본이나 검색 누락, 잘못 선택한 출처가 있는지 확인합니다. |
| 업로드 파일 | 계약서와 보고서 | 파일 버전과 누락된 페이지를 확인합니다. |
| 사내 검색 | 고객센터 문서와 제품 매뉴얼 | 접근 권한과 정답 문서의 검색 여부를 확인합니다. |
| 도구와 API | 재고와 날씨, 주문 상태 | 호출 실패, 필드 해석, 갱신 시점을 확인합니다. |
Gemini API의 ‘Grounding with Google Search’는 모델이 질문을 보고 검색이 필요한지 판단한 뒤, 검색결과를 종합해 답변과 인용을 반환하는 기능입니다. OpenAI와 Anthropic의 웹 검색 도구, Perplexity의 검색 답변도 웹 자료와 인용을 제공하지만 각각의 도구와 인터페이스는 다릅니다. 특정 챗봇을 썼다는 이유만으로 모든 답변이 웹 자료에 근거한다고 볼 수는 없습니다.
오류가 발생한 단계의 구분
검색을 결합한 AI 시스템에서는 오류가 어느 단계에서 생겼는지 나눠 조사합니다.
- 검색 결과: 정답이 있는 문서가 검색 후보에 포함됐는지 확인합니다.
- 근거 전달: 검색 후보 중 답이 있는 구간을 모델에 전달했는지 확인합니다.
- 답변 충실도: 답변의 주장과 수치가 그 자료에 부합하는지 대조합니다.
- 최종 정확성: 근거 문서 자체가 현재 사실과 일치하는지 확인합니다.
문서가 검색 후보에 없다면 검색어와 색인, 문서 분할을 점검합니다. 후보에는 있지만 모델 입력에서 빠졌다면 재정렬 순위와 입력에 포함한 구간을 살펴봅니다. 올바른 자료를 전달했는데 수치를 바꿔 답했다면 생성 단계의 근거 충실도 문제입니다. 답변이 인용한 정책과 일치해도 그 정책이 이미 바뀌었다면 실제로는 잘못된 안내가 됩니다.
출처 표시와 근거 충실도의 차이
출처 링크가 있다는 사실만으로 모든 문장이 근거에 맞는 것은 아닙니다. 존재하는 문서를 인용하면서 원문에 없는 조건이나 수치를 덧붙일 수 있습니다. 반대로 사내 자료를 충실하게 참고했지만 화면에는 링크를 표시하지 않는 시스템도 있을 수 있습니다.
Gemini 앱도 출처뿐 아니라 답변과 관련된 추가 자료를 링크로 제공할 수 있습니다. Sources에 표시된 링크 전체를 각 문장의 직접 근거로 취급하지 말고, 해당 페이지가 그 문장의 내용을 뒷받침하는지 읽어야 합니다.
답변과 원문 대조 예시
배송 정책에 “제주 추가 배송비는 3,000원”이라고 적혀 있고 AI도 같은 금액과 조건을 답했다면 해당 주장은 근거와 일치합니다. 원문에 없는 “도서 지역은 모두 5,000원”을 덧붙였다면 그 부분은 출처 링크가 있어도 뒷받침되지 않습니다.
이렇게 답변을 주장별로 나눈 뒤 날짜, 수치와 적용 조건을 원문에 대조합니다. 원문의 발행일과 수정일도 확인하고 질문, 출처 URL, 근거 문장과 판정을 기록합니다. 자동 평가 점수만으로 사실 검증을 대신하지는 않습니다.
소비자용 챗봇 화면에서 확인할 수 있는 것은 주로 최종 답변과 표시된 출처입니다. 공개되지 않은 검색 후보나 모델 입력까지 추정해 오류 원인을 확정하기는 어렵습니다. 직접 운영하는 RAG나 API 시스템이라면 검색 후보와 점수, 모델에 전달한 문맥을 기록해 자료 검색의 문제인지 생성의 문제인지 조사할 수 있습니다.
자주 묻는 질문
그라운딩과 RAG는 같은 말인가요?
RAG는 검색한 자료를 생성에 결합하는 구조이고, 그라운딩은 답변이 근거를 따르도록 하는 것입니다. RAG는 그라운딩을 구현하는 대표적인 방법입니다.
그라운딩이 되면 AI 답변은 다 믿어도 되나요?
그라운딩은 오류를 줄이는 방법이지 정확성 보장은 아닙니다. 원문에 충실해도 원문이 틀릴 수 있고, 올바른 원문을 제공해도 모델이 조건을 빠뜨리거나 수치를 바꿀 수 있습니다.
내 콘텐츠가 근거로 쓰였는지 확인할 수 있나요?
출처 링크에 자사 페이지가 표시되면 어떤 문장을 뒷받침하는지 원문과 대조할 수 있습니다. 다만 링크가 없다고 활용되지 않았다고 단정할 수는 없습니다. 서비스가 실제 사용한 자료를 모두 공개하는 것은 아니기 때문입니다.
함께 알아두면 좋은 용어
- RAG: 외부 자료를 검색해 생성 모델의 입력에 제공하는 구조
- 할루시네이션: AI가 사실이나 제공된 근거와 맞지 않는 내용을 그럴듯하게 생성하는 현상
- AI 인용: AI 답변에서 근거로 표시하는 문서나 출처 링크
- LLM: 대규모 텍스트 등으로 학습해 언어를 이해하고 생성하는 모델