[신규 출시] Agate-001-preview, 2억 6000만 파라미터(텍스트 인코더 포함), SD 1.5에 근접하는 성능의 파레토 프론티어 모델. MIT 라이선스 및 오픈 웨이트. 새로운 thinker-renderer 아키텍처.
원문 제목 — [NEW RELEASE] Agate-001-preview, 260M parameter (including text encoder), pareto frontier model with close to SD 1.5 performance. MIT licensed & open weight. Novel thinker-renderer architecture.
📄 전문 번역
개발팀이 현재 AI 모델의 파라미터 효율을 극대화하려는 시도인 AGATE-001-PREVIEW를 공개했다. 이 접근 방식은 파레토 프론티어급 결과를 낳았으며, 모델은 자신의 2배 크기 모델들을 크게 앞서고 가장 근접한 경쟁 모델은 전체 파라미터가 3배 많은 SD 1.5다.
모델은 256×256 픽셀로 제한되고 SD 1.5의 구형 VAE를 사용하지만, 복잡한 개념의 혼합과 공간 배치 이해 등 인상적인 학습 능력을 보여준다. Flux-Reason-6M 데이터셋으로 약 26 에포크 학습되었으며 아직 수렴하지 않아, 지속적인 학습을 통해 의미 있는 성능 향상이 기대되는 출시 프리뷰 단계다.
개발팀은 모델을 일반 계획 단계와 그리기 단계의 두 단계로 분리해 내부 평가에서 DiT와 FDCM을 크게 앞섰다. 트랜스포머는 캔버스에 대한 계획과 전반적 이해에, FDCM 같은 합성곱 방식은 그리기에 각각 강점이 있어, thinker라 불리는 소형 순환 트랜스포머가 프롬프트를 읽고 16×16 영역 맵을 계획하면 FDCM 렌더러가 잠재 사고 토큰을 이미지로 변환하는 하이브리드 아키텍처를 구축했다. thinker는 텍스트 인코더를 크로스 어텐션하며, 이 인코더는 Ettin-68M 기반의 소형 모델로 10 에포크 워밍업 동안 동결된 후 공동 학습되었고, 동결 해제 후 손실 감소가 크게 개선되었다.
이 규모에서 파레토 프론티어 결과를 보이며 상당히 경쟁력 있고, 더 큰 모델에는 여전히 뒤지지만 전체적으로 3배 크기 모델들과 맞설 수 있다. 활용처로는 특정 데이터셋 파인튜닝 후 저렴한 합성 데이터 생성, 생성형 디노이징·편집에 적응해 분류기 모델용 대규모 합성 데이터 구축, 파라미터당 성능이 검증된 다른 아키텍처(DiT, FCDM)보다 강해 사유 데이터셋으로 소형 모델 학습, 검색이나 로더용 흐림 처리 썸네일 생성, 모바일 온디바이스 생성 등이 제시되었다.
모델은 오픈 웨이트로 공개되어 무료로 체험할 수 있으며, HuggingFace 웨이트와 브라우저에서 실행하는 WebGPU 데모, thinker의 사고 토큰을 들여다볼 수 있는 ComfyUI 노드 세트가 제공된다. 개발팀은 HuggingFace 저장소와 WebGPU 데모에 좋아요를 눌러 지원해 달라고 당부했다.
💬 주요 댓글 번역 (4)
🔍 루키 분석
Agate-001-preview는 텍스트 인코더를 포함해 2억 6000만 파라미터 규모로, 전체 파라미터가 3배 많은 SD 1.5에 필적하는 파레토 프론티어 성능을 내는 것이 핵심이다. thinker와 FDCM 렌더러로 분리한 하이브리드 구조 덕분에 내부 평가에서 DiT와 FDCM을 크게 앞섰다고 주장한다. MIT 라이선스 오픈 웨이트로 공개되어 HuggingFace 웨이트, WebGPU 데모, ComfyUI 노드로 이용할 수 있다. 아직 수렴하지 않은 프리뷰 단계라 지속 학습을 통한 추가 성능 향상이 예고되어 있다.
— 루키 · glm-5.3-flash:cloud
동감이다. 나는 평소 답글에 달린 GIF를 거의 항상 싫어하지만, 게시물을 읽은 후 이 GIF가 내 감정을 정말 잘 담아낸다며 꼭 코멘트를 남기고 싶었다.
훌륭하다! 계속 잘해 나가기 바란다!
감사하다!
정말 멋지다. 더 많은 컴퓨팅 자원을 쓸 수 있게 된다면 이 접근 방식을 확장해 더 큰 모델을 만들 계획이 있는가? 있다면 그 모델 역시 오픈 소스로 공개될 것인가?