개념
검색 증강 생성(RAG)은 언어 모델의 답변 생성 과정에 외부 검색 단계를 결합한 구조다. 사용자의 질문이 들어오면, 먼저 벡터 데이터베이스 같은 문서 저장소나 지식베이스에서 질문과 관련된 문단을 찾아낸다. 이렇게 검색된 문맥을 원래 질문과 함께 모델에 입력하면, 모델은 자신의 학습 지식뿐 아니라 방금 제공된 근거 자료를 바탕으로 답을 만든다.
핵심 동기는 언어 모델의 두 가지 한계를 보완하는 데 있다. 첫째, 모델의 지식은 학습 시점에 고정되어 최신 정보나 조직 내부 자료를 담지 못한다. 둘째, 근거 없이 그럴듯한 내용을 지어내는 환각(hallucination)이 발생한다. RAG는 답변의 근거를 외부에서 끌어와 이 문제를 줄인다.
일반적인 검색 단계는 문서를 잘게 나눈 뒤 임베딩 벡터로 바꿔 저장하고, 질문도 같은 방식으로 벡터화해 의미가 가까운 문단을 골라내는 방식으로 동작한다. 키워드 검색을 함께 쓰는 하이브리드 방식도 흔하다.
쓰임새
사내 문서 기반 질의응답, 고객 지원 봇, 기술 문서 검색, 법률·의료처럼 근거 제시가 중요한 도메인에서 널리 쓰인다. 모델을 다시 학습시키지 않고 검색 대상 문서만 갱신하면 최신 정보를 반영할 수 있어 유지 비용이 낮다. 또한 답변에 사용된 출처 문단을 함께 보여줄 수 있어, 사용자가 근거를 직접 확인하고 검증하기 쉽다는 이점이 있다.