생성형 AI를 사용하다 보면 한 가지 의문이 생깁니다.
“AI가 학습하지 않은 회사 내부 문서나 최신 자료를 어떻게 읽고 답할 수 있을까?”
이때 자주 사용되는 기술이 바로 RAG입니다.
RAG는 Retrieval-Augmented Generation의 약자로, 한국어로는 보통 검색 증강 생성이라고 부릅니다.
쉽게 설명하면 AI가 자신의 기존 지식만으로 바로 답하는 것이 아니라, 먼저 외부 자료에서 질문과 관련된 정보를 찾고 그 내용을 참고해 답하도록 만드는 방식입니다.
Microsoft는 RAG를 검색 기능과 대규모 언어 모델을 결합해 답변이 사용자의 데이터에 근거하도록 만드는 패턴으로 설명하고 있습니다. Google Cloud 역시 RAG를 검색 시스템과 생성형 AI의 장점을 결합하는 방식으로 정의합니다.
- RAG는 AI가 외부 자료를 검색한 뒤 그 내용을 참고해 답하게 만드는 방식입니다.
- 모델을 다시 학습하지 않아도 회사 문서, 매뉴얼, 데이터베이스 같은 정보를 활용할 수 있습니다.
- 최신 정보나 특정 분야의 전문 자료를 AI 답변에 반영할 때 유용합니다.
- 검색된 자료가 잘못되거나 관련성이 낮으면 RAG를 사용해도 답변 품질이 떨어질 수 있습니다.
- RAG는 AI 할루시네이션을 줄이는 데 도움을 줄 수 있지만 완전히 없애는 기술은 아닙니다.
목차
1. RAG란 무엇인가?
2. 왜 RAG가 필요할까?
3. RAG는 어떻게 작동할까?
4. 임베딩과 벡터 검색은 무엇인가?
5. 일반 생성형 AI와 RAG의 차이
6. RAG는 어디에 활용할 수 있을까?
7. RAG의 장점과 한계
8. RAG와 파인튜닝은 무엇이 다를까?
9. RAG FAQ
RAG란 무엇인가?
RAG는 Retrieval-Augmented Generation의 약자입니다.
단어를 나누어 보면 구조를 이해하기 쉽습니다.
- Retrieval : 필요한 정보를 검색합니다.
- Augmented : 검색한 정보를 질문에 추가합니다.
- Generation : 추가된 정보를 참고해 AI가 답변을 생성합니다.
즉, 사용자 질문이 들어오면 AI가 바로 답하는 것이 아니라 먼저 관련된 외부 정보를 찾습니다.
그다음 검색한 정보를 사용자의 질문과 함께 대규모 언어 모델에 전달하고, 모델은 제공된 자료를 바탕으로 최종 답변을 생성합니다.
Microsoft는 RAG의 기본 흐름을 검색 → 보강 → 생성의 세 단계로 설명하고 있습니다.
예를 들어 어떤 회사가 사내 인사규정 500페이지를 가지고 있다고 가정해보겠습니다.
직원이 AI에게 이렇게 질문합니다.
“육아휴직 신청은 언제까지 해야 하나요?”
일반적인 생성형 AI는 해당 회사의 내부 규정을 알지 못할 수 있습니다.
하지만 RAG 시스템은 먼저 사내 문서에서 ‘육아휴직’, ‘신청기간’과 관련된 내용을 검색합니다.
그런 다음 관련 문단을 AI에게 전달하고,
“다음 회사 규정을 기준으로 직원의 질문에 답하세요.”
라고 요청할 수 있습니다.
결과적으로 AI는 자신의 일반적인 지식이 아니라 회사의 실제 내부 문서를 근거로 답변할 수 있게 됩니다.
왜 RAG가 필요할까?
대규모 언어 모델은 매우 많은 데이터를 학습하지만 모든 정보를 알고 있는 것은 아닙니다.
특히 다음과 같은 정보에는 한계가 있습니다.
- 모델 학습 이후에 생긴 최신 정보
- 기업 내부 문서
- 회원 전용 자료
- 특정 분야의 전문 데이터
- 실시간으로 바뀌는 정보
- 사용자 개인 데이터
예를 들어 회사가 이번 주에 새로운 출장비 규정을 만들었다면 기존 AI 모델이 그 사실을 미리 알고 있을 수는 없습니다.
이 문제를 해결하는 방법 중 하나는 모델 자체를 다시 학습하는 것입니다.
하지만 새로운 문서가 생길 때마다 모델을 다시 학습하는 것은 비용과 시간이 많이 들 수 있습니다.
RAG는 다른 접근을 사용합니다.
모델을 다시 학습시키는 대신 답변할 때 필요한 자료를 찾아 그때그때 제공하는 방식입니다.
Microsoft는 RAG가 개인 문서나 자주 변경되는 정보가 필요한 상황에서 관련 콘텐츠를 검색해 모델에 제공할 수 있다고 설명합니다. AWS 역시 RAG가 기업 내부 문서처럼 모델 외부의 데이터를 LLM에 제공하는 실용적인 방법이라고 설명합니다.
RAG는 어떻게 작동할까?
실제 RAG 시스템의 구조는 서비스마다 다르지만 기본적인 과정은 비슷합니다.
초보자 관점에서는 다음 5단계로 이해하면 좋습니다.
1. 참고할 자료를 준비한다
먼저 AI가 참고할 자료가 필요합니다.
예를 들면 다음과 같습니다.
- PDF 문서
- 회사 업무 매뉴얼
- 고객 지원 문서
- 웹페이지
- 제품 설명서
- 데이터베이스
- 사내 지식 문서
AWS는 RAG에 사용하는 외부 데이터가 문서 저장소뿐 아니라 데이터베이스나 API에서도 올 수 있다고 설명합니다.
2. 긴 문서를 작은 단위로 나눈다
수백 페이지짜리 문서를 그대로 한 번에 AI에게 보내는 것은 비효율적일 수 있습니다.
그래서 RAG 시스템에서는 문서를 비교적 작은 단위로 나누는 경우가 많습니다.
이 작은 단위를 흔히 청크(chunk)라고 부릅니다.
예를 들어 100페이지짜리 제품 설명서가 있다면 기능, 설치, 문제 해결, 보증정책처럼 여러 구간으로 나눌 수 있습니다.
청크를 너무 크게 만들면 필요 없는 내용까지 함께 검색될 수 있고, 너무 작게 만들면 중요한 문맥이 끊길 수 있습니다.
따라서 실제 RAG 시스템에서는 문서를 어떻게 나눌 것인지도 품질에 큰 영향을 줍니다.
Microsoft의 RAG 구축 예시에서도 문서를 청크로 나눈 뒤 임베딩을 만들고 검색 인덱스를 구성하는 과정이 사용됩니다.
3. 검색할 수 있는 형태로 저장한다
문서를 나눈 다음에는 사용자의 질문과 관련된 부분을 빠르게 찾을 수 있도록 검색 가능한 형태로 저장합니다.
이 과정에서 자주 등장하는 개념이 임베딩과 벡터 데이터베이스입니다.
문장을 숫자의 집합으로 변환하면 컴퓨터가 문장 사이의 의미적인 유사성을 비교하기 쉬워집니다.
예를 들어 사용자가
“휴가 신청은 며칠 전에 해야 하나요?”
라고 질문했다고 가정해보겠습니다.
문서에는 정확히 같은 문장이 없더라도
“연차휴가는 사용 예정일 3일 전까지 신청한다.”
라는 내용이 있다면 의미가 비슷하므로 검색 결과로 찾을 수 있습니다.
4. 질문과 관련된 자료를 검색한다
사용자의 질문이 들어오면 시스템은 저장된 문서에서 질문과 관련성이 높은 내용을 찾아냅니다.
검색 방식에는 여러 종류가 있습니다.
- 키워드 검색
- 벡터 검색
- 의미 기반 검색
- 키워드와 벡터를 결합한 하이브리드 검색
Microsoft는 RAG의 인덱스에서 키워드, 의미 검색, 벡터 검색, 하이브리드 검색 등을 활용할 수 있다고 설명합니다.
5. 찾은 자료와 질문을 AI에게 함께 전달한다
마지막으로 검색된 내용을 원래 질문과 함께 모델에게 전달합니다.
예를 들면 다음과 같은 구조입니다.
“제품 보증기간이 얼마나 되나요?”
검색된 문서
“본 제품의 무상 보증기간은 구매일로부터 2년입니다.”
AI에게 전달되는 지시
“아래 검색된 문서를 기준으로 사용자 질문에 답하세요.”
AI는 이렇게 제공된 내용을 참고해 최종 답변을 작성합니다.
Google Cloud 역시 RAG에서 외부 정보를 검색한 뒤 이를 모델의 입력 문맥에 포함하고, 모델이 해당 정보를 기반으로 답하도록 하는 방식을 설명합니다.
임베딩과 벡터 검색은 무엇인가?
RAG를 공부하다 보면 거의 반드시 등장하는 용어가 있습니다.
바로 임베딩(embedding)입니다.
임베딩은 텍스트 같은 정보를 컴퓨터가 비교할 수 있도록 숫자로 표현하는 방식이라고 이해하면 좋습니다.
예를 들어 다음 두 문장을 생각해보겠습니다.
“오늘 비가 올까?”
“오늘 강수 가능성이 있나요?”
사용된 단어는 다르지만 의미는 상당히 비슷합니다.
단순한 키워드 검색만 사용한다면 두 문장의 관계를 충분히 찾지 못할 수도 있습니다.
임베딩을 이용하면 문장의 의미를 숫자 형태로 나타내고 서로 얼마나 가까운 의미인지 계산할 수 있습니다.
이렇게 만들어진 숫자 표현을 저장하고 검색하는 데 사용하는 시스템 가운데 하나가 벡터 데이터베이스입니다.
Microsoft는 RAG에서 임베딩을 벡터 유사성 검색을 위한 콘텐츠의 숫자 표현으로 설명하고 있습니다.
다만 RAG가 반드시 벡터 검색만 사용하는 것은 아닙니다.
실제 시스템에서는 키워드 검색과 벡터 검색을 함께 사용하는 하이브리드 방식을 활용하기도 합니다.
일반 생성형 AI와 RAG는 무엇이 다를까?
차이를 표로 보면 이해하기 쉽습니다.
| 구분 | 일반 생성형 AI | RAG 적용 AI |
|---|---|---|
| 주요 지식 | 학습된 데이터와 현재 대화 | 학습 지식 + 검색된 외부 자료 |
| 최신 정보 활용 | 제한될 수 있음 | 외부 데이터가 최신이면 활용 가능 |
| 회사 내부 문서 | 일반적으로 알 수 없음 | 연결된 문서에서 검색 가능 |
| 출처 제시 | 항상 가능한 것은 아님 | 검색 문서와 연결하도록 설계 가능 |
| 정보 업데이트 | 모델 업데이트에 영향받음 | 외부 데이터 변경으로 반영 가능 |
가장 중요한 차이는 답변할 때 참고할 자료를 외부에서 가져오느냐입니다.
RAG는 어디에 활용할 수 있을까?
RAG는 특히 자체 문서가 많은 조직에서 유용합니다.
사내 업무 도우미
직원이 회사 규정, 복지제도, 업무 절차 등을 질문하면 관련 내부 문서를 찾아 답할 수 있습니다.
예를 들어,
“출장비 숙박 한도는 얼마인가요?”
“재택근무 신청 절차가 어떻게 되나요?”
같은 질문을 사내 규정을 기반으로 처리할 수 있습니다.
고객센터 챗봇
제품 설명서와 FAQ, 고객지원 문서를 연결해 사용자의 질문에 답하게 만들 수 있습니다.
예를 들어 고객이
“이 제품을 초기화하려면 어떻게 해야 하나요?”
라고 질문하면 제품 매뉴얼에서 초기화 방법을 찾아 답할 수 있습니다.
문서 검색 시스템
기업에는 PDF, 보고서, 회의록처럼 검색하기 어려운 자료가 많습니다.
RAG를 활용하면 단순한 파일명 검색을 넘어 자연어 질문으로 관련 내용을 찾는 시스템을 만들 수 있습니다.
전문 분야 AI
법률 문서, 연구자료, 기술 매뉴얼처럼 특정 분야의 전문 문서를 기반으로 답하는 AI에도 활용할 수 있습니다.
다만 의료·법률·금융처럼 오류 영향이 큰 영역에서는 RAG를 사용하더라도 전문가 검토와 별도의 안전장치가 필요합니다.
RAG의 장점은 무엇인가?
최신 정보를 반영하기 쉽다
모델을 다시 학습시키지 않고도 연결된 데이터가 업데이트되면 새로운 정보를 검색해 활용할 수 있습니다.
Google Cloud는 RAG의 주요 장점으로 최신 정보에 접근할 수 있다는 점을 설명합니다.
회사 내부 데이터를 활용할 수 있다
RAG는 공개 인터넷에 존재하지 않는 사내 규정, 업무 매뉴얼, 제품 문서 등을 기반으로 답하도록 만들 수 있습니다.
AWS는 RAG를 기업 내부 문서 등 외부 데이터를 LLM의 문맥으로 제공하는 방식으로 설명합니다.
모델을 다시 학습하지 않아도 된다
Microsoft는 RAG를 이용하면 데이터를 모델에 다시 학습시키지 않고도 모델이 해당 자료를 지식처럼 활용할 수 있다고 설명합니다.
출처를 연결하기 쉽다
검색한 문서의 위치를 함께 저장하면 최종 답변에 참고 문서나 출처를 연결하는 시스템을 만들 수 있습니다.
이는 사용자가 답변의 근거를 직접 확인하는 데 도움이 됩니다.
RAG를 사용하면 AI 할루시네이션이 없어질까?
여기서 가장 많이 생기는 오해가 있습니다.
RAG를 사용한다고 해서 AI의 잘못된 답변이 완전히 사라지는 것은 아닙니다.
Google Cloud는 관련 사실을 모델에 제공하는 방식이 생성형 AI의 할루시네이션을 완화하는 데 도움이 될 수 있다고 설명합니다. 하지만 핵심은 모델에 관련성이 높은 사실을 정확하게 제공하는 것입니다.
예를 들어 사용자가 질문했는데 검색 시스템이 엉뚱한 문서를 가져왔다면 어떻게 될까요?
AI는 잘못 검색된 자료를 기준으로 답할 수 있습니다.
또 정확한 자료가 검색되더라도 AI가 그 내용을 잘못 해석할 가능성이 있습니다.
따라서 RAG의 품질은 단순히 AI 모델만으로 결정되지 않습니다.
다음 요소가 모두 중요합니다.
- 문서 자체가 정확한가?
- 문서를 적절한 크기로 나눴는가?
- 검색 시스템이 관련 문서를 잘 찾는가?
- 오래된 자료와 최신 자료를 구분하는가?
- 사용자에게 보여줄 권한이 있는 자료인가?
- AI가 검색된 자료를 제대로 해석하는가?
Microsoft 역시 실제 RAG 구현에서는 검색 품질, 보안, 개인정보, 비용, 지연시간 등 여러 요소를 함께 고려해야 한다고 설명합니다.
RAG는 AI에게 “정답을 보장하는 장치”가 아니라
답변에 사용할 근거 자료를 더 잘 제공하는 구조입니다.
RAG와 파인튜닝은 무엇이 다를까?
RAG를 공부하면 파인튜닝(fine-tuning)이라는 용어도 자주 접하게 됩니다.
두 방법 모두 AI를 특정 목적에 맞게 개선하기 위해 사용될 수 있지만 접근 방식이 다릅니다.
| 구분 | RAG | 파인튜닝 |
|---|---|---|
| 기본 방식 | 외부 자료를 검색해 프롬프트에 제공 | 추가 데이터로 모델을 조정 |
| 새 정보 반영 | 데이터를 업데이트해 반영 가능 | 추가 학습 과정이 필요할 수 있음 |
| 주요 목적 | 외부 지식을 답변에 제공 | 특정 출력 패턴·행동 등에 맞게 모델 조정 |
둘 중 하나가 무조건 더 좋은 것은 아닙니다.
실제 서비스에서는 필요에 따라 RAG와 파인튜닝을 함께 활용할 수도 있습니다.
RAG FAQ
Q1. RAG는 생성형 AI 모델의 한 종류인가요?
아닙니다. RAG 자체가 하나의 AI 모델을 의미하는 것은 아닙니다. 기존 LLM에 외부 검색 시스템을 연결해 관련 자료를 찾아 제공하고, 그 자료를 기반으로 답하게 만드는 구조 또는 패턴으로 이해하는 것이 적절합니다.
Q2. RAG를 사용하려면 반드시 벡터 데이터베이스가 필요한가요?
반드시 그런 것은 아닙니다. 벡터 검색은 많이 사용되는 방식이지만 키워드 검색이나 하이브리드 검색 등 다양한 검색 방법을 활용할 수 있습니다. Microsoft의 RAG 문서에서도 키워드, 의미 검색, 벡터 및 하이브리드 방식 등을 설명합니다.
Q3. RAG를 사용하면 최신 정보를 자동으로 알 수 있나요?
연결된 데이터가 최신 상태이고 검색 시스템이 해당 자료를 제대로 찾는다면 최신 정보를 답변에 활용할 수 있습니다. 하지만 오래된 문서가 저장돼 있다면 RAG 역시 오래된 정보를 사용할 수 있습니다.
Q4. RAG를 사용하면 할루시네이션이 없어지나요?
아닙니다. 관련성이 높은 근거를 제공함으로써 오류를 줄이는 데 도움이 될 수 있지만 검색 실패나 잘못된 자료, AI의 해석 오류 때문에 잘못된 답이 나올 가능성은 남아 있습니다.
Q5. 일반 사용자도 RAG를 활용할 수 있나요?
가능합니다. 직접 시스템을 개발할 수도 있지만 최근에는 문서나 지식베이스를 연결해 RAG 방식의 챗봇을 만들 수 있는 다양한 개발 도구와 클라우드 서비스도 제공되고 있습니다.
Q6. 웹 검색을 하는 AI도 RAG라고 볼 수 있나요?
웹에서 정보를 검색한 뒤 그 내용을 모델 입력에 추가해 답을 생성한다면 RAG와 유사한 구조를 사용할 수 있습니다. 다만 실제 서비스마다 검색, 자료 선택, 생성 과정의 구현 방식은 다르므로 모든 AI 웹 검색 기능을 하나의 동일한 RAG 구조라고 단정하기는 어렵습니다.
핵심 정리
RAG는 생성형 AI가 자신의 기존 지식만으로 답하지 않고 외부 자료를 검색한 뒤 그 내용을 참고해 답하도록 만드는 방식입니다.
기본 구조는 어렵지 않습니다.
질문 → 관련 자료 검색 → 검색 자료를 질문에 추가 → AI가 자료를 바탕으로 답변 생성
이 구조를 활용하면 회사 내부 문서, 최신 제품 정보, 업무 매뉴얼, 전문 데이터처럼 모델이 원래 알지 못하는 정보도 AI 답변에 활용할 수 있습니다.
특히 중요한 점은 RAG를 ‘AI가 무조건 정확해지는 기술’로 이해하지 않는 것입니다.
RAG의 답변 품질은 검색되는 자료의 정확성, 검색 품질, 문서 구성, 권한 관리, AI 모델의 해석 능력 등에 따라 달라집니다.
따라서 RAG의 핵심은 AI에게 모든 것을 새로 가르치는 것이 아니라 질문할 때 필요한 근거를 찾아 제공하는 것이라고 이해하면 가장 쉽습니다.
생성형 AI가 단순한 대화 도구를 넘어 회사 문서 검색, 고객지원, 전문지식 검색과 같은 실제 업무 시스템으로 확장되는 과정에서 RAG는 매우 중요한 기본 개념 가운데 하나입니다.
