개념
파인튜닝은 대규모 데이터로 사전학습(pre-training)된 모델을 가져와, 목표 작업이나 특정 도메인의 비교적 작은 데이터셋으로 다시 학습시키는 과정이다. 모델을 무작위 초기값에서 새로 학습하는 것이 아니라, 이미 일반적인 패턴을 익힌 가중치를 시작점으로 삼아 조정한다.
이 방식은 전이학습(transfer learning)의 대표적인 형태다. 사전학습 단계에서 얻은 폭넓은 표현력을 재사용하므로, 적은 데이터와 계산 비용으로도 특정 목적에 맞는 성능을 얻을 수 있다.
모델 전체 파라미터를 갱신하는 전체 파인튜닝(full fine-tuning)과, 일부 파라미터나 소수의 추가 모듈만 학습하는 방식이 있다. 후자에는 LoRA, 어댑터 등 파라미터 효율적 방법(PEFT)이 포함되며, 메모리와 저장 비용을 크게 줄인다.
쓰임새
- 범용 언어모델을 고객 지원, 법률, 의료 등 특정 도메인 말투와 지식에 맞추기
- 분류·요약·번역처럼 정해진 형식의 출력을 안정적으로 내도록 조정
- 지시 따르기나 대화 스타일을 다듬는 정렬(alignment) 단계
데이터가 적거나 작업이 단순한 경우, 파인튜닝 대신 프롬프트 설계나 검색 증강(RAG)이 더 나은 선택일 수 있다. 파인튜닝은 학습 데이터 품질에 민감하며, 편향된 데이터로 학습하면 원래 모델의 일반 능력이 저하되는 과적합이나 망각이 생길 수 있다.