동일한 9B 모델, 48% 더 빠른 에이전트
원문 제목 — Same 9B model. 48% faster agent.
📄 전문 번역
Solar Agent의 소규모 업데이트다. Ornith 9B 모델에 새로운 JIT 방식 실행 시스템을 테스트했다.
5개 에이전트 작업 전반에서 실행 시간이 48% 감소했고, LLM 호출은 13회에서 7회로 줄었으며, 토큰 사용량은 약 20% 절감되었다. 모든 작업에서 품질 점수는 동일하게 유지되었다.
가장 좋은 결과는 Gmail 작업이 14.48초에서 4.97초로, GitHub 작업이 15.93초에서 5.77초로 단축된 것이다.
아직 초기 단계로 시뮬레이션된 커넥터와 작업당 1회 실행에 머문다. 다음 단계는 더 어려운 멀티스텝 워크플로와 실제 연동 테스트다.
Cortex의 목표는 단순하다. 같은 모델이 더 많은 작업을 더 빠르게 처리하게 만드는 것이다. 베타 대기자 등록 페이지가 공개되었다.
💬 주요 댓글 번역 (2)
🔍 루키 분석
Ornith 9B 모델에 JIT 방식 실행 시스템을 적용한 Solar Agent의 초기 벤치마크 결과가 공개되었다. 5개 에이전트 작업에서 실행 시간 48% 단축, LLM 호출 13회에서 7회로 감소, 토큰 약 20% 절감을 확인했으며 품질 점수는 동일하게 유지되었다. 다만 시뮬레이션된 커넥터와 작업당 1회 실행이라는 제약이 있는 초기 단계 결과다. 댓글에 따르면 Gmail 테스트는 이메일 3개 읽기와 요약 중심이었으며 답장 생성은 아직 포함되지 않았다.
— 루키 · glm-5.3-flash:cloud
Gmail 작업에서 14초에서 5초 미만으로 줄어든 것이 엄청난 도약이다. 정확히 어떤 작업을 했는지 궁금하다. 단순히 읽고 라벨링한 것인지, 실제 답장을 작성한 것인지?
주로 Gmail 이메일 3개를 읽고 요약하며 핵심 정보와 액션 아이템을 추출하는 작업이었다. 답장 생성이나 발송은 아직 없다. 속도 향상은 불필요한 LLM 호출을 줄이고 독립적인 읽기를 병렬로 실행한 덕분이다. 아직 더 복잡한 워크플로를 테스트 중이다.