출처:
Meet the new Rovo Chat: One prompt, multiple steps, zero hand-holding
작성자:
Sumit Garg (Sr. Principal Product Manager)
발행일: 2026년 07월 28일
새로운 Long Horizon 추론 엔진은 멀티 에이전트 라우팅 방식을 하나의 추론 루프로 전환하며, 그 결과는 성능으로 입증됩니다.
TL;DR:
Rovo Chat의 새로운 Long Horizon 추론 엔진은 멀티 에이전트 라우팅 방식을 하나의 추론 루프로 전환해 Teamwork Graph 전반의 맥락을 유지합니다.
Jira, Confluence, Slack 등 다양한 도구의 전체 맥락을 바탕으로 복잡한 요청을 계획하고, 도구를 호출하며, 결과를 검토하고 반복적으로 개선해 더욱 완전하고 신뢰할 수 있는 답변을 제공합니다.
또한 테스트를 통해 품질 향상이 확인되었으며, 추론 과정(reasoning traces)을 통해 작업 진행 과정을 쉽게 파악할 수 있습니다.
초기 세대 Rovo Chat은 당시 LLM 환경에 맞춰 멀티 에이전트 라우팅 구조로 설계되었습니다.
Jira, Confluence, Slack을 각각 담당하는 에이전트를 두고, 각 에이전트가 해당 영역의 전문성을 바탕으로 작업을 처리하도록 구성했습니다.
구조는 깔끔했고 효율적이었습니다.
하지만 실제 사용 과정에서는 한계가 나타났습니다.
예를 들어,
“지난달 Jenny가 등록한 버그를 찾아주고, Slack에서 관련 내용도 알려줘”
위와 같이 여러 제품에 걸친 요청을 처리하기위하여 Rovo는 여러 에이전트 사이에서 작업을 전달해야 했습니다.
이 과정에서 내용이 일부 손실되거나 충분히 전달되지 않았습니다.
답변 속도 또한 느려졌고, 결과적으로 사용자 경험은 하나의 흐름으로 이어지지 않았습니다.
이러한 구조는 대규모 컨텍스트와 다양한 도구 처리에 한계가 있었던 이전 세대 LLM 환경에서의 현실적인 해결 방식이었습니다.
하지만 최신 프론티어 모델은 이러한 작업을 훨씬 더 효과적으로 처리할 수 있을 뿐 아니라, 계획 수립과 결과 검토까지 수행할 수 있을 만큼 발전했습니다.
그래서 우리는 한 가지 질문을 던졌습니다:
“만약 에이전트 간 작업 전달 자체를 없앤다면 어떨까?”
Project Long Horizon: 하나의 모델, 전체 맥락, 반복적 추론
Long Horizon은 Rovo Chat의 새로운 추론 엔진입니다.
기존에는 요청을 여러 전문 에이전트에게 분배하는 방식이었다면, 이제는 하나의 모델이 대화 전체의 맥락과 모든 도구 상호작용 정보를 유지합니다.
추론하고(Think), 도구를 활용하고(Act), 결과를 확인하고(Observe), 검토하고(Reflect), 다음 단계를 결정합니다.
모든 과정은 하나의 루프 안에서 이루어지며, 맥락을 잃지 않습니다.
실제 동작 방식은 다음과 같습니다:
추론(Think)
모델은 사용자의 요청을 분석하고, 답변을 찾기 위해 필요한 정보와 접근 방식을 판단합니다.도구 호출(Call tools)
필요한 정보를 수집하기 위해 적절한 도구를 선택합니다.
예: Jira 검색, Slack 조회, Confluence 검색관찰(Observe)
도구가 반환한 결과를 확인하고, 해당 정보가 사용자의 질문에 답하기에 충분한지 평가합니다.검토(Reflect)
“답변하기에 충분한 정보가 있는가, 아니면 추가 정보가 필요한가?”를 판단합니다.반복 또는 응답(Repeat or respond)
추가 정보가 필요하면 다시 루프를 반복합니다.
필요한 정보를 확보하면 최종 답변을 제공합니다.
필요한 경우, 모델은 하나의 요청에 대해 최대 150회까지 반복적으로 추론할 수 있습니다.
Long Horizon은 각 요청의 복잡도에 맞춰 추론 깊이를 자동으로 조절하는 적응형 추론(adaptive reasoning) 방식을 사용합니다.
예를 들어,
“PROJ-123의 현재 상태는 무엇인가요?”
같은 단순 조회 요청에서는 불필요한 추론 과정을 최소화하고 빠르게 답변합니다.
반면,
“지난 3개 분기의 스프린트 속도를 비교하고 주요 추세를 파악해 주세요.”
같은 여러 단계의 분석이 필요한 요청에서는 더 깊은 추론을 수행합니다.
이 과정에서 접근 방식을 계획하고, 중간 결과를 평가하며, 종합적인 답변을 생성합니다.
대부분의 질문은 3~8회의 반복 과정을 통해 답을 찾습니다.
이러한 개선에는 한 가지 트레이드오프(trade-off)도 있습니다.
요청이 복잡해질수록 최종 답변을 제공하는 데 걸리는 시간은 이전 아키텍처보다 조금 더 길어질 수 있습니다.
하지만 사용자 피드백을 통해 한 가지는 분명해졌습니다.
사용자는 몇 초 더 기다리더라도 더 신뢰할 수 있고 품질 높은 답변을 선호한다는 점입니다.
이러한 응답 지연 문제를 개선하기 위해 이제 UI에서 추론 과정(reasoning traces)을 확인할 수 있습니다.
사용자는 시스템이 작업에 어떻게 접근하는지, 진행 과정에서 어떤 부분에서 어려움을 겪고 이를 어떻게 해결하는지 확인할 수 있습니다.
이를 통해 투명성을 높이고, 사용자가 체감하는 대기 시간을 줄일 수 있습니다.
수치로 보는 개선 사항
오프라인 평가와 온라인 A/B 테스트에서 Long Horizon은 응답 지연에 따른 트레이드오프를 측정 가능하게 유지하면서도, 사용자 관점의 품질 측면에서 통계적으로 유의미한 개선을 보여주었습니다.
오프라인 답변 품질 8.5% 향상
엄선된 고난도 멀티 도구 쿼리 집합에서 정확도가 향상된 결과입니다.
Confluence 작업 평가 23% 향상
모델은 페이지 찾기, 콘텐츠 조회, 페이지 생성 및 편집 등 다양한 Confluence 작업에서 훨씬 향상된 성능을 보였습니다.
체감 지연 시간 37% 감소
기존처럼 에이전트가 백그라운드에서 작업을 전달하는 동안 아무런 표시 없이 기다리는 대신, Rovo가 정보를 수집하고 추론하는 진행 상황을 실시간으로 확인할 수 있습니다.
특히 Confluence 성능 향상은 주목할 만합니다.
Rovo는 이제 검색, 페이지 조회, 상호 참조 과정마다 전체 맥락을 유지할 수 있기 때문에, 복잡한 문서 환경을 더욱 효과적으로 탐색할 수 있습니다.
새로운 활용 사례
Long Horizon은 단순히 기존 질문에 더 빠르게 답변하는 기능이 아닙니다.
이전에는 안정적으로 구현하기 어려웠던 완전히 새로운 업무 워크플로를 가능하게 합니다.
- 에이전트 기반 도구 활용(Agentic tool use)
이제 Rovo는 Slack 메시지를 기반으로 Jira 티켓을 생성하거나, 여러 소스의 맥락을 바탕으로 Confluence 페이지를 업데이트하거나, 여러 제품에 걸친 다단계 워크플로를 실행할 수 있습니다.
예를 들어,
“이 버그에 대한 티켓을 생성하고 Q3 로드맵 에픽과 연결해 주세요.”
라고 요청하면 Rovo는 한 번의 작업으로 두 가지를 모두 안정적으로 처리합니다.
- 장시간 실행되는 백그라운드 작업(Long-running background tasks)
일부 요청은 처리하는 데 시간이 필요합니다.
예를 들어 하루 동안의 Slack 활동을 요약하거나, 실시간 프로젝트 데이터를 기반으로 주간 상태 보고서를 작성하거나, 배포 로그·PR·디자인 문서를 기반으로 운영 인시던트를 추적하는 작업이 있습니다.
이제 Rovo는 이러한 작업을 끝까지 수행할 수 있습니다.
여러 소스에서 정보를 수집하고, 일부 결과가 아닌 완전한 답변을 제공합니다.
- 더 깊어진 제품 간 추론(Deeper cross-product reasoning)
Jira, Confluence, Slack, 서드파티 도구에 걸친 질문을 Rovo에 요청하면, 이제 서로 다른 정보를 연결할 수 있는 전체 맥락을 유지합니다.
하나의 제품에서 얻은 맥락은 다음 제품에서 어떤 정보를 찾아야 하는지 판단하는 데 활용됩니다.
더 이상 여러 결과를 단순히 조합한 답변이 아닙니다.
전반적인 기반 강화
Long Horizon은 기반 기술 스택 전반에도 여러 개선 사항을 적용했습니다:
최신 파운데이션 모델을 사용하며, 현재 Claude Opus 4.x급 모델을 기반으로 운영됩니다.
또한 최신 고성능 추론 모델로 교체할 수 있는 구조를 갖추고 있습니다.
Teamwork Graph와 Jira, Confluence, Slack 간의 커넥터를 개선했습니다.
또한 MCP(Model Context Protocol)를 통해 서드파티 도구와의 상호 운용성도 강화했습니다.
팀이 더 많은 기술 스택을 연결할수록 Long Horizon의 제품 간 추론 능력은 별도의 추가 설정 없이 연결된 영역까지 자동으로 확장됩니다.
더 깊이 들여다보기: 엔지니어링 이야기
전체 아키텍처를 더 깊이 이해하고 싶은 엔지니어라면, 반복 전략(iteration strategy), 프롬프트 캐싱(prompt caching), 점진적 도구 탐색(progressive tool discovery), 품질 평가 방식 등을 다룬 기술 심층 분석 자료도 함께 확인해 보세요:
Long Horizon: Atlassian이 복잡한 AI 작업을 위한 추론 엔진을 구축한 방법
핵심 정리
업무 수행의 가장 큰 병목은 속도가 아닙니다.
바로 조율입니다.
Long Horizon은 이러한 조율 과정의 반복 루프에서 발생하는 마찰을 줄입니다.
하나의 모델이 모든 도구의 맥락을 유지하고, 누락되는 정보는 줄이며, 더욱 완전한 답변을 제공하고, 더 많은 결과물을 만들어낼 수 있도록 지원합니다.
Long Horizon은 현재 모든 Rovo 고객이 사용할 수 있습니다.
Atlassian 제품에서 Rovo Chat을 열고 여러 소스에 걸친 질문을 입력해 보세요.
모델이 작업을 수행하는 동안 추론 단계를 확인할 수 있으며, 실제 답변 결과의 차이를 직접 경험할 수 있습니다.
