개념
에이전트(AI agent)는 하나의 질문에 한 번 답하고 끝나는 단일 호출 방식과 달리, 목표가 주어지면 그 목표를 달성할 때까지 계획을 세우고 도구를 사용하고 결과를 스스로 점검하는 과정을 여러 차례 반복하는 AI 작업 단위다. 모델은 여기서 최종 답변을 한 번에 만드는 역할이 아니라, 다음에 무엇을 할지 판단하는 통제 로직으로 쓰인다.
일반적인 챗봇 호출이 "입력 → 모델 → 출력"으로 끝난다면, 에이전트는 이 흐름에 상태(state)와 반복이 추가된다. 이전 단계에서 얻은 정보와 진행 상황을 기억한 채로 다음 판단을 내리고, 필요하면 스스로 계획을 수정한다.
동작 방식
에이전트는 대체로 계획 → 도구 호출 → 검증의 루프를 목표가 달성되거나 정해진 한도에 도달할 때까지 반복한다.
- 계획: 주어진 목표를 더 작은 하위 작업으로 나누고, 다음에 수행할 행동을 정한다.
- 도구 호출: 검색, 코드 실행, 파일 조작, 외부 API 호출 등 모델이 직접 할 수 없는 작업을 실제로 수행한다.
- 결과 검증: 도구 호출의 결과가 기대한 형태인지, 목표에 얼마나 가까워졌는지를 확인하고, 실패하면 계획을 다시 조정하거나 재시도한다.
이 루프를 도는 동안 모델은 대화 기록뿐 아니라 도구 실행 결과, 중간 산출물 같은 상태 정보를 함께 참조하며 판단을 이어간다.
단순 LLM 호출과의 차이
단순 LLM 호출은 프롬프트 하나에 응답 하나가 대응되는 정적인 관계다. 반면 에이전트는 몇 번의 호출이 필요할지, 어떤 도구를 언제 쓸지가 실행 중에 동적으로 결정된다. 이 차이 때문에 에이전트는 더 복잡한 작업을 처리할 수 있지만, 예측 불가능한 행동이나 불필요한 반복 같은 위험도 함께 커진다. 외부에서 들어온 데이터를 처리하는 에이전트라면 그 데이터에 숨은 지시에 조종당하는 프롬프트 인젝션 위험도 있다. 그래서 자동 실행 범위를 제한하고 각 단계의 검증 기준을 명확히 두는 설계가 중요하다.
쓰임새
코드를 수정하고 테스트를 돌려 결과를 확인하는 코딩 에이전트, 여러 페이지를 오가며 정보를 모으는 리서치 에이전트, 문의를 분류하고 필요하면 시스템을 조회해 답하는 고객 지원 에이전트 등이 대표적인 예다. 이런 실무 예시와 첫 워크플로우를 설계하는 방법은 AI 에이전트 시작하기 가이드에서 더 자세히 다룬다.