-
Gemma 4 26B를 GPU 없이 13년 된 Xeon에서 초당 5개 토큰으로 실행하기
Running Gemma 4 26B at 5 tokens/sec on a 13-year-old Xeon with no GPU | Neomind
<p>Article URL: <a href="https://www.neomindlabs.com/2026/06/08/running-gemma-4-26b-at-5-tokens-sec-on-a-13-year-old-xeon-with-no-gpu/">https://www.neomindlabs.com/2026/06/08/runni…
-
Ornith-1.0 - 에이전트형 코딩을 위한 자기 개선 오픈소스 모델
Ornith-1.0 - 에이전트형 코딩을 위한 자기 개선 오픈소스 모델 | GeekNews
<ul> <li><strong>Ornith-1.0</strong>은 에이전트형 코딩용 자기 개선 오픈소스 모델로, 9B Dense, 31B Dense, 35B MoE, 397B MoE 구성을 제공하며 Gemma 4와 Qwen 3.5 위에서 후훈련됨</li> <li>훈련 프레임워크는 <strong>강화학습</strong>으…
-
로컬 모델 실행이 이제 좋아졌다
로컬 모델 실행이 이제 좋아졌다 | GeekNews
<ul> <li>2022년형 M2 Mac 환경에서도 <strong>로컬 LLM</strong>이 개발 질문, 코드 작업, 문서 확인에 실용적으로 쓰일 만큼 성능이 좋아졌음</li> <li>초기 로컬 모델은 느리고 쓰기 어렵고 프로그래밍 작업 정확도도 낮았지만, <strong>GPT-OSS</strong> 이후 API 모델…
-
DiffusionGemma: 4배 더 빠른 텍스트 생성
DiffusionGemma: 4x Faster Text Generation
<p>Article URL: <a href="https://blog.google/innovation-and-ai/technology/developers-tools/diffusion-gemma-faster-text-generation/">https://blog.google/innovation-and-ai/technology…
-
Gemma 4 QAT 모델: 모바일과 노트북 효율성을 위한 압축 최적화
Gemma 4 QAT 모델: 모바일과 노트북 효율성을 위한 압축 최적화 | GeekNews
<ul> <li>Gemma 4 <strong>양자화 인식 학습(QAT) 체크포인트</strong>는 일상적 에지 기기와 소비자용 GPU에서 로컬 실행을 돕도록 메모리 요구량과 온디바이스 성능을 최적화함</li> <li><strong>QAT</strong>는 학습 중 양자화를 시뮬레이션해 압축 시 품질 손실을 줄이며, 표준…
-
Gemma 4 QAT 모델: 모바일과 노트북 효율성을 위한 모델 압축 최적화
Gemma 4 QAT models: Optimizing model compression for mobile and laptop efficiency
<p>Article URL: <a href="https://blog.google/innovation-and-ai/technology/developers-tools/quantization-aware-training-gemma-4/">https://blog.google/innovation-and-ai/technology/de…
-
Gemma 4 12B: 통합형 인코더 없는 멀티모달 모델
Gemma 4 12B: 통합형 인코더 없는 멀티모달 모델 | GeekNews
<ul> <li><strong>Gemma 4 12B</strong>는 노트북에서 에이전트형 멀티모달 지능을 실행하도록 설계된 중간 크기 모델이며, edge 친화적인 E4B와 더 고급인 26B MoE 사이의 간극을 메움</li> <li><strong>인코더 없는 통합 아키텍처</strong>로 이미지와 오디오 입력을 별도 …