internlm이 과학 지능과 장기 에이전트를 위한 자사 최고 성능의 멀티모달 파운데이션 모델 Intern-S2-397B를 공개했다. Intern-S2-397B는 사전학습, 강화학습 과제 범위, 대화형 에이전트 환경이라는 세 가지 핵심 차원에서 확장되었다. 새로운 비전-언어 사전학습 패러다임에 대규모 멀티태스크 강화학습과 장기 에이전트 강화학습을 결합해 일반 추론, 과학적 문제 해결, 에이전트 역량에서 비약적인 발전을 이뤄냈다는 설명이다.

새로운 사전학습 패러다임: 시각 사전학습을 통해 Intern-S2-397B는 과학 문헌의 원본 페이지에서 직접 학습하며, 중간 파싱 없이 공유 표현 공간에서 기호적 의미와 시각적 관계를 함께 모델링한다. 이를 통해 텍스트-시각 대응이 보존되고 공간 및 시각 추론이 강화되며 데이터 효율성도 개선된다.

과학 모달리티 추론 및 생성: 20개 이상 도메인에 걸친 다양한 과학 강화학습 과제를 확장해 공동 학습함으로써 오픈소스 모델 가운데 선두권의 일반 추론 성능을 달성했으며, 생체분자 상호작용 설계와 소재 구조 생성 같은 전문 과학 과제에서도 강력한 결과를 보인다.

일반 및 과학 장기 에이전트: 여러 에이전트 프레임워크를 대규모 샌드박스 환경에 연결해 블랙박스 에이전트 강화학습을 수행함으로써 일반화 능력을 개선하고, 일반 및 과학 도메인 모두에서 장기 과제의 역량 상한을 높였다.