-
Show GN: 로컬 LLM 에이전트 개발과 테스트를 한곳에서, 툴 검색과 HITL, MCP 연동까지
Show GN: 로컬 LLM 에이전트 개발과 테스트를 한곳에서, 툴 검색과 HITL, MCP 연동까지 (한국 통계 MCP 데모)
<p>국가통계포털(KOSIS)이 공식 MCP 시범서비스를 열어서, 노트북에서 도는 9B 로컬 모델에 붙여봤습니다. API 키 없이 합계출산율을 찾아 차트를 그리고, CSV로 저장하려는 순간에는 승인 창이 뜹니다. 파일 쓰기처럼 사람이 승인(HITL)해야만 하는 작업은 UI에서 사람이 확인하고 승인하도록 해뒀기 때문입니다.…
-
NvChat – NVIDIA의 무료 LLM을 쓰는 단일 exe 윈도우 클라이언트
NvChat – NVIDIA의 무료 LLM을 쓰는 단일 exe 윈도우 클라이언트 | GeekNews
<p>NVIDIA의 build.nvidia.com 은 여러 오픈 모델을 OpenAI 호환 API로 무료로 쓸 수 있게 해줍니다. 그런데 매번 웹 플레이그라운드로 들어가는 게 번거로워서, 클로드, ChatGPT 데스크톱 앱처럼 쓸 수 있는 윈도우 클라이언트를 직접 만들었습니다.</p> <h3>기능</h3> <ul> <li>…
-
LM Studio Bionic: 오픈 모델을 위한 AI 에이전트
LM Studio Bionic: 오픈 모델을 위한 AI 에이전트 | GeekNews
<ul> <li><strong>LM Studio Bionic</strong>은 코딩·조사·문서 작업을 로컬 또는 클라우드의 오픈 모델로 처리해, 개인정보와 AI 사용 비용을 직접 통제할 수 있는 별도 앱임</li> <li>모델은 기기에서 직접 실행하거나 <strong>LM Link</strong>로 연결할 수 있으며, 복…
-
Jamesob의 최신 수준 LLM 로컬 실행 가이드
Jamesob의 최신 수준 LLM 로컬 실행 가이드 | GeekNews
<ul> <li>로컬에서 <strong>최신 수준 LLM</strong>과 음성-텍스트 변환을 돌리기 위한 하드웨어 구성, PCIe 스위치 설정, Docker 실행 구성을 한 저장소에 정리함</li> <li>약 <strong>$2k</strong> 예산은 2× RTX 3090으로 48GB VRAM을 확보해 Qwen3.6-…
-
로컬 LLM 실행에 관한 모든 것
GitHub - jamesob/local-llm: Everything I know about running LLMs locally
<p>Article URL: <a href="https://github.com/jamesob/local-llm">https://github.com/jamesob/local-llm</a></p> <p>Comments URL: <a href="https://news.ycombinator.com/item?id=48775921"…
-
Qwen 3.6 27B: 로컬 개발의 최적 모델
Qwen 3.6 27B is the sweet spot for local development - Quesma Blog
<p>Article URL: <a href="https://quesma.com/blog/qwen-36-is-awesome/">https://quesma.com/blog/qwen-36-is-awesome/</a></p> <p>Comments URL: <a href="https://news.ycombinator.com/ite…
-
로컬 모델 실행이 이제 좋아졌다
로컬 모델 실행이 이제 좋아졌다 | GeekNews
<ul> <li>2022년형 M2 Mac 환경에서도 <strong>로컬 LLM</strong>이 개발 질문, 코드 작업, 문서 확인에 실용적으로 쓰일 만큼 성능이 좋아졌음</li> <li>초기 로컬 모델은 느리고 쓰기 어렵고 프로그래밍 작업 정확도도 낮았지만, <strong>GPT-OSS</strong> 이후 API 모델…
-
에이전트 코딩에 로컬 LLM 활용하기
에이전트 코딩에 로컬 LLM 활용하기 | GeekNews
<ul> <li>클라우드 플래그십 모델의 가격 급등 속에서, 비용 부담 없이 코딩 작업을 이어갈 수 있는 <strong>로컬 모델 활용법</strong> 정리</li> <li>로컬 모델은 SOTA 모델 성능에 미치지 못하지만 <strong>가격 대비 성능</strong>과 <strong>결정론적 하니스(determinis…
-
로컬에서 작동하는 회의녹취 및 Decision Wiki 검색 시스템
로컬에서 작동하는 회의녹취 및 Decision Wiki 검색 시스템 | GeekNews
<p>한국어 회의를 로컬에서 녹음하고, 전사·요약·Decision Wiki 정리하고 검색 (AI 챗)할 수 있는 오픈소스 도구를 만들어봤습니다.</p> <p>저처럼 업무 환경상 외부AI나 회의 녹취/전사 서비스를 사용할 수 없는 분들에게 도움이 되지 않을까 합니다.<br /> 하루에 회의가 10개 이상 있는 날은 회의에서…