AI News · #transformer-architecture

GeekNews · 2026-07-08 제목번역

30 Papers - 일리야 서츠케버 추천 AI 핵심 논문 목록 요약

30 Papers - 일리야 서츠케버 추천 AI 핵심 논문 목록 요약 | GeekNews

<ul> <li>일리야 서츠케버가 존 카맥에게 추천했다고 알려진 AI 핵심 논문 목록을 바탕으로, 머신러닝 핵심 논문을 초보자가 따라가기 쉽게 모은 사이트</li> <li>목록은 딥러닝, 컴퓨터 비전, 순차 모델링, 어텐션, 트랜스포머, 그래프 신경망, 스케일링 법칙, 정보이론, 복잡성 이론 등 현대 AI의 주요 발전 흐…

#machine-learning #deep-learning #neural-networks #ai-papers #transformer-architecture #research-guide

GeekNews · 2026-06-08 제목번역

[2026/06/01 ~ 07] 이번 주에 살펴볼 만한 AI/ML 논문 모음

[2026/06/01 ~ 07] 이번 주에 살펴볼 만한 AI/ML 논문 모음 | GeekNews

<h4>PyTorchKR🔥🇰🇷 🤔💭</h4> <p>이번 주 선정된 10편의 논문들을 살펴보면, 대규모 언어 모델(LLM) 기반 에이전트의 상태 관리, 추론 효율화, 그리고 실제 환경에서의 안전성과 검증 가능성을 중심으로 빠르게 수렴하고 있습니다. 특히, 에이전트의 효율성을 극대화하는 구조적 변화부터 트랜스포머 아키텍처의 …

#llm-agents #transformer-architecture #research-papers #efficiency #state-management

Sebastian Raschka · 2026-03-22 제목번역

현대 LLM의 어텐션 변형 시각 가이드

A Visual Guide to Attention Variants in Modern LLMs

From MHA and GQA to MLA, sparse attention, and hybrid architectures

#large-language-models #machine-learning #transformer-architecture #sparse-attention #attention-mechanisms #group-query-attention

Sebastian Raschka · 2025-11-04 제목번역

표준 LLM을 넘어서 - Sebastian Raschka 박사

Beyond Standard LLMs - by Sebastian Raschka, PhD

Linear Attention Hybrids, Text Diffusion, Code World Models, and Small Recursive Transformers

#large-language-models #transformer-architecture #linear-attention #text-diffusion #code-models #recursive-transformers

Sebastian Raschka · 2025-08-09 제목번역

GPT-2에서 gpt-oss로: 아키텍처 발전 분석

From GPT-2 to gpt-oss: Analyzing the Architectural Advances

And How They Stack Up Against Qwen3

#model-comparison #gpt-architecture #open-source-models #language-model-evolution #transformer-architecture #architectural-advances