개념
사고의 연쇄(Chain-of-Thought, CoT)는 LLM에게 최종 답만 요구하는 대신, "단계별로 생각해서 풀어라" 같은 지시나 풀이 예시를 함께 제공해 중간 추론 과정을 거치도록 유도하는 프롬프트 기법이다. 모델이 다음 토큰을 예측하는 방식으로 동작한다는 점을 고려하면, 결론으로 곧장 건너뛰기보다 근거가 되는 중간 단계를 먼저 생성하게 하는 편이 답을 더 정확하게 끌어내는 경우가 많다는 것이 핵심 아이디어다.
적용 방식은 크게 두 가지다. 문제 풀이 예시 안에 추론 과정을 함께 넣어 보여주는 방식과, 별도 예시 없이 "단계별로 생각해 보자" 같은 지시문만 덧붙이는 방식이다. 수학 문제, 논리 추론, 다단계 계획처럼 중간 단계가 명확히 존재하는 과제에서 특히 효과가 두드러진다고 보고된다.
쓰임새
사고의 연쇄는 프롬프트 엔지니어링에서 자주 쓰이는 대표적인 기법 중 하나로, 산술·논리 문제, 코드 디버깅, 여러 조건을 함께 고려해야 하는 판단 작업 등에 적용된다. 다만 중간 추론 과정이 늘어나는 만큼 출력 토큰 수와 응답 시간이 늘어날 수 있고, 모델과 과제에 따라 효과의 크기가 달라질 수 있어 실제 적용 전에 검증이 필요하다.
프롬프트 설계의 다른 기법들과 함께 활용하는 방법은 프롬프트 엔지니어링 하는 법 가이드에서 다룬다.