파인튜닝은 이미 학습한 AI 모델을 추가 데이터로 더 학습해 특정 목적에 맞추는 기법입니다. 이 과정에서 모델의 학습 가능한 매개변수를 조정합니다. 입력과 정답 예시로 학습하는 방식이 흔하며, 여러 답변 중 어떤 답변을 더 선호하는지 알려 주는 데이터로 학습하기도 합니다.
파인튜닝이 잘 맞는 문제와 RAG가 잘 맞는 문제
파인튜닝은 고객 문의를 정해진 항목으로 분류하거나 문서에서 필요한 정보를 추출하는 등 반복 작업의 정확도와 일관성을 높일 때 검토합니다. 응답 형식이나 브랜드 말투를 맞추고, 특정 분야의 용어를 일관되게 처리하도록 학습할 수도 있습니다.
자주 바뀌는 사실이나 출처 확인이 중요한 정보에는 답변 시점에 자료를 검색하는 RAG가 보통 더 적합합니다. 파인튜닝으로 지식을 학습할 수는 있지만 배송비와 정책처럼 계속 달라지는 정보를 모델 가중치에만 맡기기는 어렵습니다.
제공사별 지원 범위와 이용 제한
파인튜닝은 같은 제공사의 제품이라도 지원 모델과 계정의 접근 조건이 다를 수 있습니다. 주요 제품의 지원 현황은 2026년 9월 기준입니다.
- OpenAI는 파인튜닝 플랫폼을 단계적으로 종료하고 있습니다. 신규 사용자는 이용할 수 없고, 기존 사용자는 한시적으로 학습 작업을 만들 수 있습니다. 이미 만든 모델은 기반 모델의 지원이 종료될 때까지 추론에 사용할 수 있습니다.
- Google은 Gemini API와 AI Studio에서 파인튜닝 지원 모델을 제공하지 않으며, 당장 지원을 재개할 계획도 없다고 안내합니다. Gemini Enterprise Agent Platform에서는 별도로 지원합니다.
- Anthropic은 Amazon Bedrock에서 Claude 3 Haiku 파인튜닝을 제공해 왔습니다. 다만 AWS 수명주기 문서상 이 모델은 2026년 3월 10일 Legacy 상태로 전환됐으며, 이후 새 파인튜닝 작업은 만들 수 없습니다. 지원 종료 예정일은 2026년 9월 10일입니다.
지원 모델 목록에 이름이 남아 있어도 새 학습 작업을 만들 수 있다는 뜻은 아닙니다. 모델의 지원 종료 일정과 파인튜닝 제한을 함께 확인해야 합니다.
브랜드를 모델에 학습시켜 준다는 주장
브랜드 자료로 별도 모델을 학습하는 것과 다른 사람이 사용하는 공개 ChatGPT의 답변을 바꾸는 것은 다릅니다. 제공사의 API로 파인튜닝하면 그 모델을 호출하는 애플리케이션의 응답이 달라집니다. 학습한 모델을 호출하지 않는 공개 AI 서비스에 같은 변화가 적용되는 것은 아닙니다.
공개 AI 검색에서 브랜드가 언급되도록 하겠다는 제안이라면 어떤 서비스가 어떤 자료를 찾아 답변에 참고하는지 물어야 합니다. 웹 자료를 검색해 그라운딩에 활용하는 방식인지, 고객용 챗봇의 모델을 따로 학습하는 방식인지에 따라 작업 대상과 결과가 달라집니다.
실제 적용 예시와 확인법
고객 문의를 ‘환불’, ‘배송’, ‘제품 문의’로 분류한다면 사람이 판정한 문의와 정답 항목을 학습 예시로 준비합니다. 비슷한 문의를 어떤 기준으로 나눌지 정답 데이터부터 일관돼야 합니다. 학습에 쓰지 않은 문의로 기본 모델과 학습 후 모델의 정확도를 비교하면 실제로 분류가 개선됐는지 알 수 있습니다.
먼저 프롬프트만 조정했을 때의 성능을 기준으로 삼습니다. 이후 학습용과 평가용 데이터를 분리하고, 같은 평가 세트로 정확도와 형식 준수율을 비교합니다. 성능이 나아졌더라도 비용이나 응답 시간이 운영 조건에 맞지 않을 수 있으므로 이 값도 함께 측정합니다.
자주 묻는 질문
파인튜닝으로 모델에 새 지식을 넣을 수 있나요?
새 지식을 학습할 수는 있습니다. 다만 배송비나 정책이 바뀔 때마다 추가 학습해야 한다면 유지 관리가 어려워집니다. 이런 정보는 답변할 때 최신 문서를 찾아 제공하는 RAG가 더 적합할 수 있습니다.
프롬프팅, RAG, 파인튜닝 중 뭐부터 해야 하나요?
프롬프트만으로 어느 정도 성능을 얻는지 먼저 평가합니다. 최신 정보와 근거가 부족하면 RAG를, 형식이나 행동이 일관되지 않으면 파인튜닝을 검토합니다. 필요에 따라 두 방법을 함께 쓸 수 있습니다.
지금도 파인튜닝을 쉽게 할 수 있나요?
제품과 모델에 따라 가능 여부가 다릅니다. OpenAI와 Gemini API의 지원 제한처럼 신규 이용이 막힌 경우가 있고, Bedrock에서도 지원이 종료되는 모델은 새 학습 작업을 만들 수 없습니다. 학습 데이터를 준비하기 전에 사용할 모델과 계정에서 작업 생성이 가능한지 확인해야 합니다.
파인튜닝하면 AI 검색 답변에 우리 브랜드가 나오나요?
별도로 학습한 모델의 답변이 바뀌는 것입니다. 그 모델을 호출하지 않는 공개 AI 서비스의 답변에 브랜드 정보가 자동으로 추가되지는 않습니다.
함께 알아두면 좋은 용어
- RAG: 답변 시점에 외부 자료를 찾아 제공하는 방식
- LLM: 대규모 데이터로 언어의 패턴을 학습한 모델
- 프롬프트 엔지니어링: 모델에 전달할 지시와 예시를 설계하고 개선하는 작업
- GEO: 생성형 AI 검색에서 콘텐츠의 발견과 활용을 개선하는 작업