#sparse-attention

총 2건 · 1/1 페이지

전체 24시간 7일 30일

전체 🇰🇷 한국어 본문

전체 High(60+) ⭐ Must-read(75+)

최신순 점수순

Sebastian Raschka · 2026-03-22 제목번역

현대 LLM의 어텐션 변형 시각 가이드

A Visual Guide to Attention Variants in Modern LLMs

From MHA and GQA to MLA, sparse attention, and hybrid architectures

#large-language-models #machine-learning #transformer-architecture #sparse-attention #attention-mechanisms #group-query-attention
Sebastian Raschka · 2025-12-03 제목번역

DeepSeek V3에서 V3.2로: 아키텍처, 희소 주의, 강화학습 업데이트

From DeepSeek V3 to V3.2: Architecture, Sparse Attention, and RL Updates

Understanding How DeepSeek's Flagship Open-Weight Models Evolved

#reinforcement-learning #llm-architecture #deepseek-v3 #sparse-attention #open-weight-models #model-evolution