카드를 감시하며 원하는 것을 원하는 때에 교체·로드하는 시스템 서비스다. 수동 교체 없이 충돌을 피하고 실행 중인 기능에 VRAM을 온전히 할당해 점거자가 남지 않게 한다. 개발자는 Linux에서 노드 프로세스가 고아가 되어 comfyUI가 자동 시작되고 strata가 회수하지 못하는 500MB를 점유하는 문제를 매일 겪었으며, 각 엔진을 시작하거나 strata·llama가 로드된 채 붙어 있는지, 오래된 워크플로우가 comfyUI에 남긴 flux GGUF 점유를 신경 쓰지 않고 네이티브하게 전환하고 싶었다고 밝혔다.

실제로 Ninfer-4090(llama-swap), strata, comfyUI, OpenWebUI 사이를 오가며 같은 RTX 4090을 공유하는 여러 장치에서 전환한다. 밤에는 시스템이 Hermes를 돌리고 낮에는 카드를 되찾는 운용도 네이티브하게, 무엇을 언제 했는지 완전히 확인하며 가능하다. Berth는 엔진을 API로도 제공해 berth를 API 엔드포인트로 로드하면 strata, polystrata 등 커스텀 엔진을 불러올 수 있다. 게이밍 중에도 cron 작업이나 요청 등이 카드를 붙잡을 걱정이 없다. 코드는 GitHub의 T-Crypt/berth 저장소에서 공개됐다.

수정 글에 따르면 Berth v0.3이 출시되었으며 대용량 RAM과 GPU 2장 이상을 갖춘 테스터를 모집한다. v0.3은 엔진을 언로드하는 대신 시스템 RAM에 주차하고, 주차된 엔진으로 재전환 시 디스크 재로드를 건너뛴다. 개발자의 워크스테이션은 62GB이고 Strata 혼자 40GB를 고정해 사용자 규모의 주차 성능을 측정할 수 없다고 한다.

모집 대상은 24GB 카드와 64·96·128GB RAM 보유자로 vLLM이나 ComfyUI 엔진을 주차한 뒤 전환하고 복귀하며 소요 시간을 보고할 수 있는 사람, GPU 2장 이상 보유자(멀티 GPU 임대가 다음 릴리스이며 작성 전에 실제 토폴로지가 필요), NVIDIA 카드를 쓰는 Windows 사용자(contrib/windows/check.ps1이 Berth의 프로세스별 VRAM을 작업 관리자와 비교해 보고서를 작성), 그다음 릴리스를 위한 Linux의 AMD 사용자다. 이 글은 레딧 사용자 Distinct-Pie2389가 작성했다.