-
메모리 아끼면서 Cross Entropy Loss 계산하기
메모리 아끼면서 Cross Entropy Loss 계산하기 | GeekNews
<p>긴 context, 큰 vocab의 LLM 학습에서 LM head + cross entropy가 왜 가장 큰 메모리 소비처 중 하나가 되는지 짚어본 글. 128K context에서는 logits 텐서 하나가 40GB에 육박해서, 모델 weight보다도 커진다.</p> <p>16B 모델을 128K context로 학습…
-
AI 코딩 시대의 개발자 역할 변화: 코딩 실행자에서 맥락·검증·제품화 설계자로
AI 코딩 시대의 개발자 역할 변화: 코딩 실행자에서 맥락·검증·제품화 설계자로 | GeekNews
<h3>요약 개요</h3> <ul> <li> <p><strong>핵심 주장</strong></p> <ul> <li>AI가 코드를 직접 작성·수정·테스트하는 수준에 도달하면서, 개발자의 역할은 단순 코딩 중심에서 <strong>문제 정의, 작업 설계, 검증, 맥락 관리, 제품화 지원</strong>으로 이동하고 있다.</l…
-
OpenTag - Slack용 Claude Tag의 오픈소스 대안
OpenTag - Slack용 Claude Tag의 오픈소스 대안 | GeekNews
<ul> <li>Slack 스레드를 읽고 답변하며 도구를 호출해 결과를 대화창에 바로 렌더링하는 <strong>셀프 호스팅 AI 에이전트</strong></li> <li>락인없이 런타임을 소유하며, 원하는 모델을 자신의 도구에 연동 가능</li> <li>CopilotKit의 오픈 SDK인 <strong>@copilotki…
-
더 나은 모델, 더 나빠진 도구
더 나은 모델, 더 나빠진 도구 | GeekNews
<ul> <li>Pi의 edit 도구에서 <strong>Claude Opus 4.8</strong>과 <strong>Sonnet 5</strong>가 <code>edits[]</code> 내부에 스키마에 없는 필드를 덧붙여 호출이 거부됐고, 최신 모델이 특정 도구 스키마를 이전 모델보다 못 따르는 현상이 관찰됨</li> …
-
공장은 그저 방이다
공장은 그저 방이다 | GeekNews
<ul> <li>AI clock 제작 과정을 초등학생에게 보여준 발표는 제조를 멀리서 감탄할 대상이 아니라 누구나 손댈 수 있는 <strong>만들기 과정</strong>으로 다룸</li> <li>아이디어와 놀이에서 출발해 <strong>프로토타이핑</strong>, 디자인, CAD, e-paper 반복본, 브레드보드와 …
-
GPT-5.5 Codex의 추론 토큰 클러스터링이 성능 저하로 이어질 수 있음
GPT-5.5 Codex의 추론 토큰 클러스터링이 성능 저하로 이어질 수 있음 | GeekNews
<ul> <li>OpenAI Codex 이슈 #30364는 <code>gpt-5.5</code> 응답의 <code>reasoning_output_tokens</code>가 <strong>516</strong>, 1034, 1552 같은 고정값에 몰리는 현상이 복잡한 Codex 작업의 품질 저하와 관련될 수 있다고 보고함<…
-
워크스페이스 인스턴스 또는 소비자 계정 간 잠재적 세션/캐시 누출
워크스페이스 인스턴스 또는 소비자 계정 간 잠재적 세션/캐시 누출 | GeekNews
<ul> <li>Claude Code 이슈 #74066에서 Enterprise ZDR 워크스페이스 사용자가 자신의 작업과 무관한 <strong>Minecraft temple</strong> 관련 응답이 세션에 섞였다고 신고하며, 워크스페이스 캐시 격리와 소비자 플랜 간 누출 가능성을 문제 삼음</li> <li>신고 환경은…
-
웹 개발자를 위한 Safari MCP 서버
웹 개발자를 위한 Safari MCP 서버 | GeekNews
<ul> <li><strong>Safari MCP 서버</strong>는 코딩 에이전트를 실제 Safari 창에 연결해, 웹 개발·디버깅 중 브라우저에서 보이는 상태를 직접 확인하게 함</li> <li>에이전트는 <strong>DOM</strong>, 네트워크 요청, 스크린샷, 콘솔 출력에 접근해 코드만으로는 알기 어려운…
-
Fable 비용 60% 절감: 코드를 이미지로 변환하고 모델이 OCR하게 하기
Fable 비용 60% 절감: 코드를 이미지로 변환하고 모델이 OCR하게 하기 | GeekNews
<ul> <li><strong>pxpipe</strong>는 Claude Code 요청의 큰 컨텍스트를 로컬 프록시에서 PNG 이미지로 바꿔 입력 토큰을 줄이며, Fable 현재 정가 기준 엔드투엔드 청구액을 약 <strong>59~70% 낮춘다</strong>고 밝힘</li> <li>핵심 원리는 이미지 토큰 비용이 안에…
-
Leanstral 1.5: 모두를 위한 증명 풍요
Leanstral 1.5: 모두를 위한 증명 풍요 | GeekNews
<ul> <li>형식 검증을 실제 개발 작업에 더 가깝게 쓰려는 흐름 속에서, Mistral AI가 <strong>Lean 4</strong>용 Apache-2.0 모델 <strong>Leanstral 1.5</strong>를 공개함</li> <li>모델은 119B 총 파라미터 중 6B만 활성화하며, 중간 학습·지도 미세…
-
달러당 성능이 더 빠르고 저렴해지고 있음
달러당 성능이 더 빠르고 저렴해지고 있음 | GeekNews
<ul> <li>추론 수요가 공급을 앞지르고 NVIDIA GPU와 토큰 비용이 오르는 가운데, <strong>AMD MI355X</strong>는 B300 대비 GPU당 평균 약 2.75배 저렴해 저비용 추론 대안으로 부상함</li> <li>AMD Instinct MI350 계열은 Blackwell과 실리콘 수준에서 경쟁…
-
Jamesob의 최신 수준 LLM 로컬 실행 가이드
Jamesob의 최신 수준 LLM 로컬 실행 가이드 | GeekNews
<ul> <li>로컬에서 <strong>최신 수준 LLM</strong>과 음성-텍스트 변환을 돌리기 위한 하드웨어 구성, PCIe 스위치 설정, Docker 실행 구성을 한 저장소에 정리함</li> <li>약 <strong>$2k</strong> 예산은 2× RTX 3090으로 48GB VRAM을 확보해 Qwen3.6-…
-
PM의 채용 공고가 바뀌었다 (이력서 대신 60초 데모를 내는 시대)
PM의 채용 공고가 바뀌었다 (이력서 대신 60초 데모를 내는 시대) | GeekNews
<p>PM 채용 공고의 패러다임이 급변하고 있음.<br /> 기존의 PRD 작성과 요구사항 정의 중심에서 AI 네이티브 빌더로 진화하는 중</p> <p>주요 변화:</p> <p>• Amazon Ring: 'Builder PM' 포지션 신설. Cursor, Claude, Replit 같은 AI 코딩 툴을 사용해 직접 프로토…
-
Fable을 이기는 '짧은 목줄' AI 코딩 방법
Fable을 이기는 ‘짧은 목줄’ AI 코딩 방법 | GeekNews
<ul> <li>보안 중요 소프트웨어에서 AI 코딩 에이전트를 쓰려면 자율 실행을 맡기기보다, 개발자가 변경을 계속 통제하는 <strong>Short Leash 방식</strong>이 필요함</li> <li>여러 에이전트가 병렬로 코드를 만들고 검토하는 “vibe”식 접근은 코드베이스 이해를 약화시키고, AI가 <stro…
-
Retry-now, 지금 바로 윤회 - 완전 자율 루프 에이전트
Retry-now, 지금 바로 윤회 - 완전 자율 루프 에이전트 | GeekNews
<p>AI 코딩 에이전트를 반복 실행해서 코드베이스를 점진적으로 개선하는 에이전트 <code>retry-now</code>를 만들었습니다.</p> <p>핵심 아이디어는 "매 이터레이션마다 완전히 새로운 컨텍스트 0 세션에서 코드를 다시 보게 하자"입니다.<br /> 기존 장기 실행 에이전트는 이전 판단을…
-
Fable 필드 가이드: 나의 미지(Unknowns) 찾기
Fable 필드 가이드: 나의 미지(Unknowns) 찾기 | GeekNews
<ul> <li>Claude Fable 5 작업의 핵심은 사용자가 주는 <strong>지도(map, 프롬프트·스킬·컨텍스트)</strong> 와 작업이 실제 일어나는 <strong>영토(territory, 코드베이스·현실·제약)</strong> 의 간극, 즉 <strong>미지(unknowns)</strong> 를 찾아 …
-
저커버그, Meta의 해고가 효과 없었음을 '인정'
저커버그, Meta의 해고가 효과 없었음을 ‘인정’ | GeekNews
<ul> <li>Meta는 AI 에이전트 개발에 맞춰 조직을 크게 흔들었지만, Zuckerberg는 최근 4개월간 <strong>에이전트 개발 궤적</strong>이 기대만큼 가속하지 않았다고 말함</li> <li>1~2월 구조조정 논의는 회사가 변화에 뒤처질 수 있다는 <strong>상위 인력들의 우려</strong>와…
-
Alibaba, 백도어 위험 우려해 사내에서 클로드 코드 사용 금지 조치 예정
Alibaba, 백도어 위험 우려해 사내에서 클로드 코드 사용 금지 조치 예정 | GeekNews
<ul> <li>중국 IT 대기업 Alibaba가 <strong>중국 연계 사용자 식별</strong> 기능으로 논란이 된 Anthropic의 <strong>Claude Code</strong>를 업무에서 사용하지 못하도록 직원들에게 금지 조치</li> <li>Anthropic이 Alibaba를 상대로 <strong>Cl…
-
로컬 인텔리전스에 대한 권리
로컬 인텔리전스에 대한 권리 | GeekNews
<ul> <li>RTI는 플랫폼 계정이나 클라우드 API에 묶이지 않고 자기 기기에서 <strong>로컬 AI</strong>를 실행할 권리를 보호하려는 활동임</li> <li>공개 AI 모델의 <strong>다운로드·소유·실행·연구·수정·공유</strong>는 합법적 사용으로 보장하되, 실제 피해 행위는 계속 단속해야 …