Nvidia가 Computex에서 사전 발표한 **Nemotron 3 Ultra**를 공식 출시했다. 해당 모델은 **5500억 파라미터** 규모의 오픈 웨이트 **Mixture-of-Experts(MoE)** 아키텍처를 채택하고 있으며, 여러 플랫폼을 통해 배포되었다. MoE 구조 특성상 전체 파라미터 중 일부만 활성화되어 추론 시 연산 효율을 높이는 방식으로, 대규모 모델의 서빙 비용 최적화에 관심 있는 인프라 엔지니어에게 참고할 만한 아키텍처 사례다.
본 기사는 The New Stack의 내용을 기반으로 AI가 백엔드 개발자 관점에서 자동 요약한 스크랩입니다. 카테고리는 백엔드 분야에 해당하며, 관련 분야의 최신 동향 파악을 위해 매일 자동 수집됩니다.