LLM은 대규모 데이터로 언어의 패턴을 학습한 AI 모델입니다. Large Language Model의 약자로, 한국어로는 대규모 언어 모델이라고 합니다. 텍스트 생성 모델은 앞선 문맥을 바탕으로 다음 토큰을 예측하며 답변을 만듭니다.
ChatGPT와 Gemini, Claude 같은 서비스가 LLM을 활용합니다. Google AI Overviews와 네이버 AI 브리핑은 언어 모델로 검색 자료를 정리해 답변을 제공합니다. 문장을 생성하는 모델에 서비스가 검색과 도구 기능을 연결하는 구조입니다. LLM을 사용한다는 사실만으로 매 답변마다 웹을 검색하거나 최신 정보를 확인한다고 볼 수는 없습니다.
다음 토큰을 예측하는 생성 원리
텍스트 생성 모델은 문장을 토큰 단위로 처리합니다. 토큰은 단어 전체일 수도 있고 단어의 일부나 문장부호일 수도 있습니다. 모델은 앞선 내용을 바탕으로 다음 토큰의 확률을 계산하고 하나를 선택한 뒤, 그 토큰까지 포함해 다음 예측을 반복합니다. "서울은 대한민국의" 뒤에 "수도"가 이어지는 상황을 예로 들 수 있습니다. 실제로 단어를 몇 개의 토큰으로 나누는지는 모델마다 다릅니다.
학습 과정에서는 문맥에 맞는 예측을 하도록 모델 내부의 수치를 조정합니다. 다만 문맥에 자연스럽게 이어지는 문장을 생성하는 것과 그 내용이 사실인지 검증하는 것은 다릅니다. 존재하지 않는 문헌이나 잘못된 날짜를 그럴듯하게 제시하는 할루시네이션이 발생할 수 있는 이유입니다.
RAG는 질문과 관련된 자료를 검색한 뒤 모델에 함께 제공해 답변을 생성하는 방식입니다. 모델이 참고할 근거를 보완하지만, 검색한 문서가 질문과 맞지 않거나 모델이 내용을 잘못 요약하면 답변은 여전히 틀릴 수 있습니다. 출처 링크가 있더라도 원문이 답변의 주장을 실제로 뒷받침하는지 확인해야 합니다.
토큰과 파라미터, 컨텍스트 윈도우
| 용어 | 뜻 | 실무에서 확인할 사항 |
|---|---|---|
| 토큰 | 모델이 텍스트를 나누어 처리하는 조각입니다. | 입력 한도와 API 사용량 계산에 활용합니다. |
| 파라미터 | 학습하면서 조정하는 모델 내부의 수치입니다. | 7B와 70B는 각각 약 70억 개와 700억 개를 뜻합니다. 수가 많다고 모든 작업의 성능이 더 좋거나 비용이 반드시 더 높지는 않습니다. |
| 컨텍스트 윈도우 | 한 번의 처리에서 다룰 수 있는 토큰의 한도입니다. | 문서뿐 아니라 요청문, 이전 대화와 생성할 답변의 분량도 계산에 포함합니다. |
한국어는 영어보다 더 많은 토큰으로 나뉘는 경우도 있습니다. 실제 개수는 토크나이저와 문장에 따라 달라지므로, 입력 한도와 API 비용을 계산할 때는 글자 수 대신 사용할 모델의 토큰 수를 확인합니다.
LLM과 GPT, ChatGPT의 구분
| 용어 | 범위 | 예시 |
|---|---|---|
| 생성형 AI | 텍스트와 이미지, 영상 등을 생성하는 AI를 포괄합니다. | 언어 모델과 이미지 생성 모델 |
| LLM | 언어를 처리하는 대규모 모델을 말합니다. | GPT 계열, Gemini, Claude의 언어 모델 |
| GPT | OpenAI의 모델 계열 이름입니다. | GPT 계열 모델 |
| ChatGPT | 모델을 이용해 대화하고 작업하는 서비스입니다. | 검색과 도구 기능을 결합한 사용자 서비스 |
같은 모델이라도 검색을 켠 답변과 검색 없이 생성한 답변은 참고 자료가 다릅니다. 시스템 지시와 첨부 문서도 결과에 영향을 줍니다. 브랜드 노출을 비교할 때는 모델명과 서비스, 검색 사용 여부를 기록해야 조건이 바뀐 결과를 콘텐츠 수정의 효과로 오인하지 않습니다.
학습 자료와 답변 시점의 검색 자료
모델이 학습한 정보와 답변할 때 새로 받은 자료는 갱신 방식이 다릅니다. 홈페이지를 고쳐도 이미 학습을 마친 범용 모델의 지식이 즉시 바뀌지는 않습니다. 지식 컷오프는 학습 정보의 시점을 이해하는 기준이며, 이후에 바뀐 정보는 검색이나 사용자가 제공한 문서로 보완할 수 있습니다.
웹을 검색하는 서비스라면 수정한 페이지를 찾아 참고할 가능성이 있습니다. 운영자는 AI 크롤러가 페이지를 읽을 수 있는지, 현재 가격과 정책이 본문에 정확하게 표시됐는지 점검할 수 있습니다. 다만 페이지를 갱신했다고 외부 서비스가 즉시 수집하거나 답변의 출처로 선택하는 것은 아닙니다.
GEO와 AI 검색 최적화에서는 페이지 수집을 막는 문제를 고치고, 질문에 답하는 데 필요한 정보를 보완합니다. AI 가시성은 정해진 질문에서 브랜드 언급과 인용이 어떻게 달라지는지 측정합니다. 언급 여부뿐 아니라 브랜드 설명이 정확한지, 인용된 페이지가 질문에 답하는지도 평가합니다.
자주 묻는 질문
LLM과 ChatGPT는 같은 말인가요?
LLM은 모델의 분류이고 ChatGPT는 모델을 이용하는 서비스입니다. 서비스에는 검색과 도구 등 추가 기능이 있으므로 모델만으로 전체 동작을 설명할 수는 없습니다.
왜 같은 질문에도 답이 매번 다른가요?
토큰을 선택하는 과정의 확률적 요소와 서비스 설정, 검색한 자료, 대화 문맥 등이 결과에 영향을 줍니다. 브랜드 노출은 같은 조건으로 여러 번 측정해야 변동을 확인할 수 있습니다.
우리 콘텐츠가 LLM 학습에 쓰이는 것을 막을 수 있나요?
각 회사가 공개한 학습용 크롤러 제어를 robots.txt 등에 적용할 수 있습니다. 학습용과 검색용 수집을 구분하고, 차단이 적용되는 범위를 공식 문서에서 확인해야 합니다. 이미 이뤄진 학습까지 자동으로 되돌리는 조치는 아닙니다.
LLM이 발전하면 검색과 SEO는 없어지나요?
현재 웹을 검색하는 AI 서비스도 근거가 될 페이지를 찾아 읽어야 합니다. 페이지가 수집되지 않거나 본문에 필요한 정보가 없다면 출처가 되기 어렵기 때문에, 이런 문제를 해결하는 SEO 작업은 여전히 필요합니다. 성과를 평가할 때는 일반 검색의 순위와 클릭에 더해 AI 답변의 브랜드 설명과 인용 URL도 살펴야 합니다.
함께 알아두면 좋은 용어
- RAG: LLM의 한계를 검색으로 보완하는 구조
- 할루시네이션: 사실과 다른 내용을 그럴듯하게 생성하는 현상
- 지식 컷오프: 학습 데이터의 시간 한계
- GEO: 생성형 AI가 콘텐츠를 찾고 답변에 활용하도록 개선하는 작업