-
Jamesob의 최신 수준 LLM 로컬 실행 가이드
Jamesob의 최신 수준 LLM 로컬 실행 가이드 | GeekNews
<ul> <li>로컬에서 <strong>최신 수준 LLM</strong>과 음성-텍스트 변환을 돌리기 위한 하드웨어 구성, PCIe 스위치 설정, Docker 실행 구성을 한 저장소에 정리함</li> <li>약 <strong>$2k</strong> 예산은 2× RTX 3090으로 48GB VRAM을 확보해 Qwen3.6-…
-
내 홈랩 AI 개발 플랫폼
내 홈랩 AI 개발 플랫폼 | GeekNews
<ul> <li>홈랩 서비스 관리를 위해 <strong>OpenCode Web UI</strong>에 Git 접근을 붙이고, AI 변경은 PR 검토 뒤 GitOps가 배포하는 흐름으로 구성함</li> <li>약 12개의 <strong>docker compose</strong> 스택을 Arcane으로 옮겨 GitOps로 관…