InclusionAI가 Sante도 발표했다. 하루에 두 번의 모델 발표라니, 정말 대단한 행보다. 필자는 오늘 아까 3.1-flash-1019 업데이트에 관해 게시했는데, 벌써 Sante를 발표했다. 하루에 두 번의 모델 발표라니, 정말 대단하다.

이 모델은 Ling-3.0-flash를 기반으로 구축되었으며, 총 124B 파라미터에 토큰당 5.1B가 활성화되고 256K 컨텍스트 윈도우를 갖춘다. 의료 추론, 문헌 연구, 도구 지원 워크플로우를 겨냥한 헬스케어 특화 버전이다. 가중치는 이미 Hugging Face에 공개되어 있다.

필자는 이들이 여전히 3.0 기반으로 개발을 이어가고 있어 기쁘다. 앞선 스레드의 상당 부분이 3.1을 구동하기에 충분한 메모리를 찾는 논의로 변해버렸기에, 오래된 베이스 모델에서 무언가 진행되고 있다는 점이 눈에 띄었다.

필자는 이런 특화된 릴리스가 더 많아지길 바란다. 분야를 하나 정하고, 그에 맞는 작업을 수행하고, 사람들이 직접 탐색할 수 있도록 가중치를 제공하는 것이다. 이는 일반 리더보드에서 몇 점을 더 올리는 것보다 필자에게 더 흥미로운 방향이다.