Summarization
대화가 길어져도 흐름이 끊기지 않도록 Kiro가 컨텍스트를 자동으로 압축하는 방식
왜 요약이 필요한가
모든 언어 모델에는 한 번에 처리할 수 있는 텍스트의 최대치, 즉 context window가 정해져 있습니다. 이 크기는 모델마다 다르며, 대화가 길어질수록 누적된 메시지가 이 한도에 점점 가까워집니다. Kiro는 매 응답마다 직전까지의 모든 대화 내역을 모델에 함께 전달해서 맥락을 유지하기 때문에, 한도를 넘기지 않으면서도 흐름을 끊지 않으려면 적절한 시점에 정리가 필요합니다.
Kiro의 자동 요약 동작
대화 길이가 모델이 허용하는 한도에 가까워지면 Kiro는 그동안 오간 메시지를 자동으로 압축합니다. 이를 통해 핵심 정보는 유지한 채 토큰 사용량을 한도 아래로 되돌리고, 이어지는 질의응답이 끊기지 않도록 합니다. 사용자가 별도로 명령을 내리지 않아도 백그라운드에서 처리되므로, 긴 세션 중에도 계속 같은 채팅 창에서 작업을 이어갈 수 있습니다.
Context Usage Meter
채팅 패널 상단에는 현재 대화가 모델의 context window를 어느 정도 점유하고 있는지 보여주는 Context Usage Meter가 함께 표시됩니다. 이 표시기를 통해 남은 여유를 시각적으로 확인할 수 있고, 곧 자동 요약이 일어날지 가늠할 수 있습니다.
요약이 일어나는 시점
- 대화를 진행하는 동안 Kiro는 누적된 메시지를 함께 전송하며 사용량을 추적합니다.
- Context Usage Meter의 수치가 모델 한도의 80%에 도달하면 자동 요약이 트리거됩니다.
- 이전 메시지들이 압축된 형태로 정리되고, 사용량은 다시 한도 아래로 떨어집니다.
- 요약된 내용을 토대로 대화는 그대로 이어집니다.
중요한 결정 사항이나 코드 스니펫처럼 잊지 말아야 할 정보가 있다면, Spec 파일이나 별도 메모로 보관해 두는 것이 좋습니다. 자동 요약 과정에서 세부 표현이 바뀌거나 일부 맥락이 축약될 수 있기 때문입니다.
Context Usage Meter가 한도에 가까워졌는데 작업 주제가 바뀌었다면, 새 채팅 세션을 여는 편이 더 깔끔합니다. 동일 세션에서 무관한 주제를 이어가면 요약 후에도 불필요한 잔여 맥락이 남아 응답 품질에 영향을 줄 수 있습니다.
활용 팁
- 긴 디버깅이나 리팩터링 세션에서는 주기적으로 Meter를 확인해 사용량을 인지하세요.
- 요약 직후에는 Kiro에게 "지금까지의 결정 사항을 정리해 줘"처럼 직접 요청해 핵심 맥락을 다시 한 번 명시적으로 굳혀 두는 것도 유용합니다.
- 모델을 더 큰 context window를 가진 옵션으로 변경하면 요약 빈도를 낮출 수 있습니다.