-
Show GN: 로컬 LLM 에이전트 개발과 테스트를 한곳에서, 툴 검색과 HITL, MCP 연동까지
Show GN: 로컬 LLM 에이전트 개발과 테스트를 한곳에서, 툴 검색과 HITL, MCP 연동까지 (한국 통계 MCP 데모)
<p>국가통계포털(KOSIS)이 공식 MCP 시범서비스를 열어서, 노트북에서 도는 9B 로컬 모델에 붙여봤습니다. API 키 없이 합계출산율을 찾아 차트를 그리고, CSV로 저장하려는 순간에는 승인 창이 뜹니다. 파일 쓰기처럼 사람이 승인(HITL)해야만 하는 작업은 UI에서 사람이 확인하고 승인하도록 해뒀기 때문입니다.…
-
NvChat – NVIDIA의 무료 LLM을 쓰는 단일 exe 윈도우 클라이언트
NvChat – NVIDIA의 무료 LLM을 쓰는 단일 exe 윈도우 클라이언트 | GeekNews
<p>NVIDIA의 build.nvidia.com 은 여러 오픈 모델을 OpenAI 호환 API로 무료로 쓸 수 있게 해줍니다. 그런데 매번 웹 플레이그라운드로 들어가는 게 번거로워서, 클로드, ChatGPT 데스크톱 앱처럼 쓸 수 있는 윈도우 클라이언트를 직접 만들었습니다.</p> <h3>기능</h3> <ul> <li>…
-
LM Studio Bionic: 오픈 모델을 위한 AI 에이전트
LM Studio Bionic: 오픈 모델을 위한 AI 에이전트 | GeekNews
<ul> <li><strong>LM Studio Bionic</strong>은 코딩·조사·문서 작업을 로컬 또는 클라우드의 오픈 모델로 처리해, 개인정보와 AI 사용 비용을 직접 통제할 수 있는 별도 앱임</li> <li>모델은 기기에서 직접 실행하거나 <strong>LM Link</strong>로 연결할 수 있으며, 복…
-
Jamesob의 최신 수준 LLM 로컬 실행 가이드
Jamesob의 최신 수준 LLM 로컬 실행 가이드 | GeekNews
<ul> <li>로컬에서 <strong>최신 수준 LLM</strong>과 음성-텍스트 변환을 돌리기 위한 하드웨어 구성, PCIe 스위치 설정, Docker 실행 구성을 한 저장소에 정리함</li> <li>약 <strong>$2k</strong> 예산은 2× RTX 3090으로 48GB VRAM을 확보해 Qwen3.6-…
-
로컬 LLM 실행에 관한 모든 것
GitHub - jamesob/local-llm: Everything I know about running LLMs locally
<p>Article URL: <a href="https://github.com/jamesob/local-llm">https://github.com/jamesob/local-llm</a></p> <p>Comments URL: <a href="https://news.ycombinator.com/item?id=48775921"…