#MoE 모델
관련 뉴스 1건
-
IT
LongCat-2.0, 1.6조 파라미터와 480억 활성 파라미터를 가진 MoE 모델 공개
LongCat-2.0은 총 1.6조 개의 파라미터를 가지며 활성 파라미터는 480억 개입니다. 이 모델은 Mixture of Experts(MoE) 구조를 사용합니다. 이는 대규모 언어 모델의 한 종류입니다.
