#diffusiongemma

DiffusionGemma: 4배 빠른 텍스트 생성

DiffusionGemma: 4배 빠른 텍스트 생성 | GeekNews

<ul> <li><strong>DiffusionGemma</strong>는 텍스트 확산 방식으로 전체 텍스트 블록을 동시에 생성하는 Apache 2.0 라이선스의 26B MoE 실험용 공개 모델임</li> <li>일반적인 자기회귀 LLM의 순차적 토큰 생성 대신 <strong>256토큰 병렬 생성</strong>을 사용해…