#MoE
MoE 관련 기사 6건을 모았습니다. 임계(12건)까지 절반을 넘겼습니다.
시간순 흐름
-
미스트랄 라지 4 공개 — 1조 파라미터 오픈웨이트, 가중치는 10월 말
-
리플렉션 AI '빔' 공개 — 5010억 파라미터 오픈웨이트, 중국 모델을 3~4분의 1 연산으로
-
MoE(전문가 혼합)란 — 1250억 파라미터 AI가 게임용 GPU 한 장에서 도는 이유
-
딥시크 V4-Pro 정식 출시 — 1.6조 중 490억만 켠다
전체 기사
-
테크 · 5분미스트랄 라지 4 공개 — 1조 파라미터 오픈웨이트, 가중치는 10월 말
규모 — 총 약 1조, 토큰당 약 490억 파라미터. 그레이스 블랙웰 GPU 약 4000장으로 두 달 학습
-
테크 · 2분리플렉션 AI '빔' 공개 — 5010억 파라미터 오픈웨이트, 중국 모델을 3~4분의 1 연산으로
공개 — 10월 5일, 5010억 파라미터·활성 230억 MoE. 100만 토큰 컨텍스트, 23.8조 토큰 학습
-
테크 · 3분MoE(전문가 혼합)란 — 1250억 파라미터 AI가 게임용 GPU 한 장에서 도는 이유
구조 — 작은 '전문가' 여럿 + 토큰마다 몇 개만 고르는 라우터. 전체는 크게, 계산은 작게
-
테크 · 4분딥시크 V4-Pro 정식 출시 — 1.6조 중 490억만 켠다
V4-Pro-0813: 전체 파라미터 1.6조 · 활성 파라미터 490억 · 컨텍스트 100만 토큰 · 최대 출력 38만4000토큰
-
-
