코딩 에이전트의 컨텍스트 압축 시점을 직접 학습시킨 AutoCompact 공개

왜 지금 이 주제인가

코딩 에이전트는 레포지토리 단위 작업을 처리할 때 코드 탐색, 편집, 테스트를 반복하며 긴 궤적을 쌓습니다. 작업이 길어질수록 초반의 탐색 기록은 쓸모가 없어지는데, 이를 정리하는 일은 단순히 컨텍스트 윈도우 오버플로우를 막는 문제가 아닙니다. 언제 압축할지, 무엇을 작업 상태로 남길지, 압축 이후 어떻게 이어갈지를 결정해야 합니다. 그동안은 고정된 토큰 임계값에 도달하면 기계적으로 요약하는 방식이 흔했습니다. 난양공대 등 연구진이 2026년 10월 1일 arXiv에 올린 AutoCompact는 이 세 가지 결정을 에이전트 정책 자체에 맡겨 학습시킨 결과를 내놓았습니다.

핵심 내용

AutoCompact는 Qwen3-Coder-30B-A3B-Instruct를 기반 모델로 썼습니다. 학습 데이터는 379개의 SWE-rebench 작업에서 기반 모델을 직접 굴려 만들었습니다. 매 단계마다 GPT-5.5-Codex를 심판으로 세워 에이전트가 제안한 행동을 검토하게 했고, 심판은 세 가지 유형으로 수정을 가했습니다. 압축 시점 교정(24%), 압축 후 남길 작업 상태 교정(53%), 압축 이후 이어지는 행동 교정(23%)입니다. 수정된 행동은 실제 환경에서 실행해 궤적으로 만들었고, 비정상 요청이나 요약 루프, 오류가 섞인 궤적을 걸러낸 뒤 최종 1,052개를 지도학습(SFT) 데이터로 썼습니다. 이후에는 압축에 특화된 보상 설계 없이, 작업 성공 여부만을 보상으로 삼아 강화학습을 돌려 코딩과 압축 결정을 함께 최적화했습니다.

비교 대상은 다섯 갈래였습니다. 전체 대화 기록을 그대로 유지하는 기준선, 고정 임계값에 도달하면 압축하는 Fixed Compaction, 길이 기반 압축을 강화학습으로 다듬은 CompactionRL, 추론 시점 규칙을 쓰는 SelfCompact, 오프라인 궤적에 압축 호출을 끼워 넣은 SWE-Compressor입니다.

결과는 두 벤치마크에서 모두 뚜렷했습니다. SWE-bench Verified 통과율은 기반 모델 30.4%에서 AutoCompact 39.6%로 9.2%포인트 올랐습니다. SWE-PolyBench Verified에서는 19.5%에서 24.5%로 5.0%포인트 올랐습니다. 이 개선은 256K 컨텍스트 윈도우(오버플로우가 거의 발생하지 않는 느슨한 환경)와 16K로 좁힌 윈도우(강제로 자주 압축해야 하는 빡빡한 환경) 양쪽에서 모두 유지됐습니다. 비용 측면에서는 Alibaba Cloud Model Studio의 토큰 가격을 기준으로 작업당 0.10달러에서 4.00달러 사이의 예산 구간을 나눠 비교했는데, AutoCompact는 전 구간에서 기준선들을 앞섰고 예산이 낮을수록 격차가 더 컸습니다.

의미와 한계

이 결과는 컨텍스트 관리를 별도의 규칙이나 보조 모델에 맡기지 않고 에이전트의 정책 자체에 통합할 수 있다는 것을 보여줍니다. 압축 시점을 너무 이르거나 늦게 잡는 실수, 압축 후 남겨야 할 작업 상태를 잘못 고르는 실수가 성능 저하의 상당 부분을 차지한다면, 이 결정 자체를 학습 대상으로 삼는 접근은 실용적인 방향입니다.

다만 한계도 분명합니다. 연구진은 자원 제약으로 강화학습 훈련은 32K 토큰 길이로 진행했지만, 실제 평가는 그보다 훨씬 긴 256K 윈도우에서 이뤄졌다고 스스로 밝혔습니다. 검증도 Qwen3-Coder-30B 기반의 단일 스캐폴드에 한정됐습니다. Codex나 Claude Code처럼 이미 자체 압축 메커니즘을 갖춘 널리 쓰이는 에이전트 하네스에 이 학습된 정책을 통합하는 문제는 다루지 않았고, 16K처럼 좁은 윈도우에서도 개선이 유지됐다는 결과가 그런 시스템에 적용될 가능성을 시사한다고만 언급했습니다. 또한 연구진이 공개한 깃허브 저장소는 이 글을 쓰는 시점에는 안내문만 올라와 있고, 1,052개 학습 데이터와 코드는 아직 공개되지 않은 상태입니다. 다른 연구자가 결과를 직접 재현해 검증하기까지는 시간이 더 필요할 것으로 보입니다.

한 줄 정리

코딩 에이전트의 컨텍스트 압축 시점과 방식을 정책으로 학습시킨 AutoCompact가 SWE-bench Verified 통과율을 9.2%포인트 끌어올렸습니다.