개념
그라운딩(grounding)은 모델이 학습 과정에서 얻은 흐릿한 기억 대신, 지금 프롬프트에 함께 주어진 자료에 근거해 답하도록 만드는 설계를 말한다. 답의 각 주장이 어느 문서의 어느 대목에서 나왔는지 되짚을 수 있게 하는 것이 목표다.
이 개념이 필요한 배경에는 LLM의 동작 방식이 있다. 모델은 사실을 조회하는 것이 아니라 그럴듯한 다음 토큰을 이어 붙이기 때문에, 근거가 없어도 자연스러운 문장을 만들어 낸다. 이것이 환각이며, 그라운딩은 답의 출처를 자료 쪽으로 옮겨 이 문제를 줄이려는 접근이다.
실제 구현은 세 부분으로 나뉜다. 먼저 질문과 관련된 자료를 찾아 프롬프트에 넣고, 다음으로 주어진 자료 안에서만 답하고 자료에 없으면 없다고 말하라는 지시를 준다. 마지막으로 답변에 인용 표시를 달게 해서 사람이 원문과 대조할 수 있게 한다. 세 번째가 특히 중요한데, 검증할 수 없는 답은 근거가 있는지 없는지 확인할 방법이 없기 때문이다.
두 번째 지시가 제대로 작동하려면 모른다고 답하는 것이 실패가 아니라는 점을 지시문에 분명히 해야 한다. 모델은 기본적으로 답을 내놓는 방향으로 기울어 있어서, 자료에 없는 내용도 학습 시절의 기억으로 메우려 한다. 자료에 근거가 없을 때 어떻게 반응해야 하는지를 예시와 함께 명시해 두는 것이 그라운딩 설계의 실질적인 절반이다.
쓰임새
검색 증강 생성(RAG)이 가장 널리 쓰이는 형태다. 시맨틱 검색으로 사내 문서를 찾아 프롬프트에 담고, 그 범위 안에서 답하게 한다. 웹 검색 결과를 그대로 인용하며 답하는 서비스, 업로드한 PDF에 대해서만 답하는 문서 도우미도 같은 구조다.
법률, 의료, 금융처럼 근거 제시가 필수인 분야에서는 사실상 전제 조건에 가깝다. 답이 맞았는지보다 왜 그렇게 답했는지를 사람이 확인할 수 있어야 하기 때문이다. 평가에서도 정답 일치율뿐 아니라 인용한 출처가 실제로 그 주장을 뒷받침하는지를 함께 본다.
화면 설계도 그라운딩의 일부다. 인용 표시를 누르면 원문의 해당 대목이 바로 열리게 만들어 두면 사용자가 확인하는 비용이 낮아지고, 그만큼 잘못된 답이 걸러질 확률이 올라간다. 반대로 출처가 문서 이름만 덩그러니 적혀 있으면 아무도 확인하지 않아, 인용이 신뢰의 근거가 아니라 신뢰의 장식이 된다.
자주 하는 오해
그라운딩을 하면 환각이 사라지나?
줄어들 뿐 없어지지 않는다. 검색이 엉뚱한 문서를 가져오거나, 자료에 답이 없는데도 모델이 빈칸을 메우려 하면 그대로 발생한다. 자료 자체가 낡았거나 틀렸다면 근거 있는 오답이 나온다.
인용 표시가 있으면 근거가 확인된 것 아닌가?
인용 자체도 모델이 생성한 텍스트다. 존재하지 않는 문서를 지어내거나, 실재하는 문서를 엉뚱한 주장에 붙이는 일이 일어난다. 인용된 위치가 실제 원문과 맞는지는 시스템이 따로 검증해야 한다.
자료를 많이 넣고 검색만 잘하면 되는 것 아닌가?
관련성이 낮은 자료가 함께 들어가면 모델의 주의가 흩어져 정확도가 떨어지고, 서로 어긋나는 내용이 섞이면 어느 쪽을 따를지 예측하기 어려워진다. 검색이 정확한 자료를 가져와도 모델이 그것을 잘못 읽거나 일부만 반영하면 답은 여전히 틀린다. 자료를 찾아 오는 단계와 그 자료로 답을 쓰는 단계를 따로 점검해, 틀렸을 때 어디가 원인인지 구분하는 것이 개선의 출발점이다.