Krea 2 Turbo — 4스텝 증류 LoRA(진행 중인 작업)다. Krea 2 Turbo에서 최소 사용 가능 스텝 수를 8에서 4로 줄여 주는 LoRA이며, 이번은 업데이트 릴리스다. 전체 세부 사항은 이전 게시물들에서 확인할 수 있다.

이번 업데이트의 핵심은 chk00026000이 순수 4스텝 실행이 8스텝 교사에 대해 남기는 예측 오차의 46%를 제거한 것이다. chk00014000은 44%, chk00010000은 40%였고, 모두 학습된 모든 해상도에 걸친 100개 프롬프트로 구성된 확대된 홀드아웃 세트에서 측정됐다. LoRA 미적용 실행이 아닌 서로 간의 측정으로는 남은 오차가 chk00014000보다 4%, chk00010000보다 10% 작다. 교사 강요 점수와 달리 자유 실행에서도 이득이 나타나, 교사 노이즈에서 시작한 4회 콜아웃 전체가 chk00014000보다 교사의 최종 잠재에 1.6% 더 가깝게 끝난다. 텍스처와 디테일도 개선됐다. 다운로드는 일반적으로 항상 최신 승인 체크포인트인 krea2_turbo_4step_rank_64_lora_latest.safetensors, 특정 체크포인트를 고정할 때는 krea2_turbo_4step_rank_64_lora_chk00026000.safetensors를 쓰면 되고, ComfyUI용으로는 동일 파일에 _comfyui 접미사가 붙은 버전이 함께 제공된다. 이전 체크포인트들(chk00004000부터 chk00019000까지)은 older_checkpoints 폴더에 남아 있고 해상도 스윕도 그대로 유지돼 발전 과정을 비교할 수 있다.

작성자는 19K 체크포인트 때는 게시물을 올리지 않았다고 밝혔다. 텍스처와 디테일은 좋아졌지만 교사와의 격차 점수가 이전에 공개된 14K보다 조금 나은 수준에 그쳤기 때문에, 두 지표가 모두 개선될 때까지 더 진행했고 26K가 그 결과를 냈다는 것이다. 19K도 지금은 이전 체크포인트 폴더에 공개됐으며 26K의 전체 해상도 스윕도 확인할 수 있다.

체크포인트 선정 방식: 이 프로젝트는 '오래 학습하고 최신 파일을 배포'하는 방식이 아니라고 강조한다. 샘플이 많다고 어댑터가 더 나아지는 게 아니며, 여기서 측정하기로는 오히려 나빠질 수 있고 숫자 자체는 아무 의미가 없다. 루프는 학습, 평가, 레시피 조정, 재학습, 재평가이며, 같은 홀드아웃 세트와 같은 평가에서 교체 대상보다 측정상 확실히 나을 때만 공개하고 전체 해상도 스윕에서 퇴보가 없어야 한다. 평이하거나 나쁜 결과의 실행은 레시피 정보로는 남기되 릴리스에서는 폐기했으며, 실제로 여러 차례 그랬다.

레시피는 실행마다 바뀌었다. chk00010000의 첫 시도는 같은 데이터에 옵티마이저를 그대로 둔 탓에 4000 샘플에 걸쳐 계속 나빠져 공개되지 않았지만, 코사인 학습률 감쇠와 웨이트 디케이로 재학습하자 모든 체크포인트가 이전 것을 개선했다. chk00014000은 스케줄의 마지막 텍스처 결정 구간에 손실 가중을 더 두고, 가중치의 이동 평균을 실제 값 옆에 두어 매 평가 때 함께 점수를 매긴 교훈을 반영했다. 평균 가중치가 그 어느 체크포인트보다 잘 나와 이를 배포했고, 그 지점을 넘겨 돌리면 어댑터의 크기가 다시 커지며 이후 체크포인트는 모두 나빠졌다. 현재의 chk00026000은 chk00014000의 평균 가중치에서 같은 레시피, 즉 같은 손실 가중과 이동 평균, 보수적인 상수 학습률로 훨씬 큰 교사 궤적 풀에 이어 학습한 결과다. 이번 이어 학습은 끝까지 성공해 평균 가중치의 홀드아웃 격차가 학습 내내 줄었고 모든 자유 실행 롤아웃이 이전보다 나았다. 공개된 모든 수치가 chk00014000을 개선한다. 홀드아웃 격차는 44%에서 46%로, 교사 노이즈에서의 롤아웃은 1.6% 더 가깝고, 8스텝 이미지와의 고정 시드 렌더 거리도 좋아졌다. 같은 이어 학습의 중간 지점인 chk00019000은 older_checkpoints 폴더에 보관돼 있다.