장기 실행 에이전트에서 판단에 필요한 정보가 컨텍스트 밖으로 밀려나는 '행동 상태 감쇠(behavioral state decay)'를 별도의 메모리 에이전트로 완화하는 연구다. 실제 작업을 수행하는 행동 에이전트는 그대로 두고, 메모리 에이전트가 상황을 골라 알림을 끼워 넣을지 판단한다. Terminal-Bench 2.0에서 pass@1이 8.3퍼센트포인트, τ²-Bench에서 6.8퍼센트포인트 향상됐다.
작업이 길어질수록 에이전트가 지금 판단에 필요한 정보 — 과제 요구사항, 환경 상태, 이전 시도, 진단 결과, 아직 끝나지 않은 하위 목표 — 는 점점 더 넓게 흩어진다. 이 정보가 컨텍스트 창 안에 묻히거나 아예 창 밖으로 밀려나면, 정작 필요한 순간에 판단에 반영되지 못한다. 이 논문은 이런 현상을 "행동 상태 감쇠(behavioral state decay)"라 부르고, 이를 완화하기 위한 구조를 제안한다.
메모리를 왜 수동적 검색이 아니라 능동적 개입으로 다루나?
기존 접근이 메모리를 필요할 때 찾아보는 수동적 검색으로 다룬다면, 이 연구는 메모리를 상황에 따라 스스로 개입하는 장치로 다룬다. 실제 작업을 수행하는 행동 에이전트는 그대로 둔 채, 별도의 메모리 에이전트가 나란히 동작한다. 이 메모리 에이전트는 최근 실행 궤적을 바탕으로 구조화된 메모리 저장소를 갱신하고, 그 시점에 메모리에 근거한 알림을 끼워 넣을지 아니면 침묵할지를 판단한다. 이 구조는 별도의 학습 없이도 기존 프론티어 행동 에이전트나 에이전트 하네스에 꽂아 쓸 수 있게 설계됐다.
성능은 얼마나 올랐고, 어떤 개입 방식이 나았나?
Terminal-Bench 2.0과 τ²-Bench라는 두 벤치마크에서, 이 메모리 에이전트를 더한 구성은 약한 행동 에이전트와 강한 행동 에이전트 모두에서 pass@1을 끌어올렸다. 향상 폭은 다음과 같다.
| 벤치마크 | pass@1 향상 |
|---|---|
| Terminal-Bench 2.0 | 8.3퍼센트포인트 |
| τ²-Bench | 6.8퍼센트포인트 |
제거 실험(ablation)에서는 상황을 골라 개입하는 방식이 아래 대안들보다 더 나은 결과를 보였다.
- 메모리를 그냥 노출만 시키는 방식
- 항상 알림을 넣는 방식
- 조언만 하는 방식
- 일반적인 검색 방식
오픈 웨이트 모델로 옮길 수 있나?
연구팀은 메모리 개입 정책 자체를 오픈 웨이트 모델로 옮기려는 초기 시도로, Qwen3.5-27B를 SETA라는 데이터로 지도학습(SFT)과 GRPO를 이용해 학습시켰다. 그 결과 검증 보상이 향상됐고, 이 향상이 Terminal-Bench로도 부분적으로 이어지는 전이 효과를 확인했다고 보고한다.
자주 묻는 질문
- Q. 행동 상태 감쇠(behavioral state decay)가 무엇인가?
- A. 작업이 길어질수록 판단에 필요한 정보가 컨텍스트 창에 묻히거나 창 밖으로 밀려나, 정작 필요한 순간에 판단에 반영되지 못하는 현상이다.
- Q. 기존 행동 에이전트를 다시 학습시켜야 하나?
- A. 아니다. 별도의 학습 없이도 기존 프론티어 행동 에이전트나 에이전트 하네스에 꽂아 쓸 수 있게 설계됐다.
- Q. 성능은 얼마나 향상됐나?
- A. Terminal-Bench 2.0에서 8.3퍼센트포인트, τ²-Bench에서 6.8퍼센트포인트 pass@1이 향상됐다.
출처: arXiv:2607.08716v1 https://arxiv.org/abs/2607.08716v1