GeekNews

메모리 아끼면서 Cross Entropy Loss 계산하기

메모리 아끼면서 Cross Entropy Loss 계산하기 | GeekNews

<p>긴 context, 큰 vocab의 LLM 학습에서 LM head + cross entropy가 왜 가장 큰 메모리 소비처 중 하나가 되는지 짚어본 글. 128K context에서는 logits 텐서 하나가 40GB에 육박해서, 모델 weight보다도 커진다.</p> <p>16B 모델을 128K context로 학습…

AI 코딩 시대의 개발자 역할 변화: 코딩 실행자에서 맥락·검증·제품화 설계자로

AI 코딩 시대의 개발자 역할 변화: 코딩 실행자에서 맥락·검증·제품화 설계자로 | GeekNews

<h3>요약 개요</h3> <ul> <li> <p><strong>핵심 주장</strong></p> <ul> <li>AI가 코드를 직접 작성·수정·테스트하는 수준에 도달하면서, 개발자의 역할은 단순 코딩 중심에서 <strong>문제 정의, 작업 설계, 검증, 맥락 관리, 제품화 지원</strong>으로 이동하고 있다.</l…

OpenTag - Slack용 Claude Tag의 오픈소스 대안

OpenTag - Slack용 Claude Tag의 오픈소스 대안 | GeekNews

<ul> <li>Slack 스레드를 읽고 답변하며 도구를 호출해 결과를 대화창에 바로 렌더링하는 <strong>셀프 호스팅 AI 에이전트</strong></li> <li>락인없이 런타임을 소유하며, 원하는 모델을 자신의 도구에 연동 가능</li> <li>CopilotKit의 오픈 SDK인 <strong>@copilotki…

더 나은 모델, 더 나빠진 도구

더 나은 모델, 더 나빠진 도구 | GeekNews

<ul> <li>Pi의 edit 도구에서 <strong>Claude Opus 4.8</strong>과 <strong>Sonnet 5</strong>가 <code>edits[]</code> 내부에 스키마에 없는 필드를 덧붙여 호출이 거부됐고, 최신 모델이 특정 도구 스키마를 이전 모델보다 못 따르는 현상이 관찰됨</li> …

공장은 그저 방이다

공장은 그저 방이다 | GeekNews

<ul> <li>AI clock 제작 과정을 초등학생에게 보여준 발표는 제조를 멀리서 감탄할 대상이 아니라 누구나 손댈 수 있는 <strong>만들기 과정</strong>으로 다룸</li> <li>아이디어와 놀이에서 출발해 <strong>프로토타이핑</strong>, 디자인, CAD, e-paper 반복본, 브레드보드와 …

GPT-5.5 Codex의 추론 토큰 클러스터링이 성능 저하로 이어질 수 있음

GPT-5.5 Codex의 추론 토큰 클러스터링이 성능 저하로 이어질 수 있음 | GeekNews

<ul> <li>OpenAI Codex 이슈 #30364는 <code>gpt-5.5</code> 응답의 <code>reasoning_output_tokens</code>가 <strong>516</strong>, 1034, 1552 같은 고정값에 몰리는 현상이 복잡한 Codex 작업의 품질 저하와 관련될 수 있다고 보고함<…

워크스페이스 인스턴스 또는 소비자 계정 간 잠재적 세션/캐시 누출

워크스페이스 인스턴스 또는 소비자 계정 간 잠재적 세션/캐시 누출 | GeekNews

<ul> <li>Claude Code 이슈 #74066에서 Enterprise ZDR 워크스페이스 사용자가 자신의 작업과 무관한 <strong>Minecraft temple</strong> 관련 응답이 세션에 섞였다고 신고하며, 워크스페이스 캐시 격리와 소비자 플랜 간 누출 가능성을 문제 삼음</li> <li>신고 환경은…

웹 개발자를 위한 Safari MCP 서버

웹 개발자를 위한 Safari MCP 서버 | GeekNews

<ul> <li><strong>Safari MCP 서버</strong>는 코딩 에이전트를 실제 Safari 창에 연결해, 웹 개발·디버깅 중 브라우저에서 보이는 상태를 직접 확인하게 함</li> <li>에이전트는 <strong>DOM</strong>, 네트워크 요청, 스크린샷, 콘솔 출력에 접근해 코드만으로는 알기 어려운…

Fable 비용 60% 절감: 코드를 이미지로 변환하고 모델이 OCR하게 하기

Fable 비용 60% 절감: 코드를 이미지로 변환하고 모델이 OCR하게 하기 | GeekNews

<ul> <li><strong>pxpipe</strong>는 Claude Code 요청의 큰 컨텍스트를 로컬 프록시에서 PNG 이미지로 바꿔 입력 토큰을 줄이며, Fable 현재 정가 기준 엔드투엔드 청구액을 약 <strong>59~70% 낮춘다</strong>고 밝힘</li> <li>핵심 원리는 이미지 토큰 비용이 안에…

Leanstral 1.5: 모두를 위한 증명 풍요

Leanstral 1.5: 모두를 위한 증명 풍요 | GeekNews

<ul> <li>형식 검증을 실제 개발 작업에 더 가깝게 쓰려는 흐름 속에서, Mistral AI가 <strong>Lean 4</strong>용 Apache-2.0 모델 <strong>Leanstral 1.5</strong>를 공개함</li> <li>모델은 119B 총 파라미터 중 6B만 활성화하며, 중간 학습·지도 미세…

달러당 성능이 더 빠르고 저렴해지고 있음

달러당 성능이 더 빠르고 저렴해지고 있음 | GeekNews

<ul> <li>추론 수요가 공급을 앞지르고 NVIDIA GPU와 토큰 비용이 오르는 가운데, <strong>AMD MI355X</strong>는 B300 대비 GPU당 평균 약 2.75배 저렴해 저비용 추론 대안으로 부상함</li> <li>AMD Instinct MI350 계열은 Blackwell과 실리콘 수준에서 경쟁…

Jamesob의 최신 수준 LLM 로컬 실행 가이드

Jamesob의 최신 수준 LLM 로컬 실행 가이드 | GeekNews

<ul> <li>로컬에서 <strong>최신 수준 LLM</strong>과 음성-텍스트 변환을 돌리기 위한 하드웨어 구성, PCIe 스위치 설정, Docker 실행 구성을 한 저장소에 정리함</li> <li>약 <strong>$2k</strong> 예산은 2× RTX 3090으로 48GB VRAM을 확보해 Qwen3.6-…

PM의 채용 공고가 바뀌었다 (이력서 대신 60초 데모를 내는 시대)

PM의 채용 공고가 바뀌었다 (이력서 대신 60초 데모를 내는 시대) | GeekNews

<p>PM 채용 공고의 패러다임이 급변하고 있음.<br /> 기존의 PRD 작성과 요구사항 정의 중심에서 AI 네이티브 빌더로 진화하는 중</p> <p>주요 변화:</p> <p>• Amazon Ring: 'Builder PM' 포지션 신설. Cursor, Claude, Replit 같은 AI 코딩 툴을 사용해 직접 프로토…

Fable을 이기는 '짧은 목줄' AI 코딩 방법

Fable을 이기는 ‘짧은 목줄’ AI 코딩 방법 | GeekNews

<ul> <li>보안 중요 소프트웨어에서 AI 코딩 에이전트를 쓰려면 자율 실행을 맡기기보다, 개발자가 변경을 계속 통제하는 <strong>Short Leash 방식</strong>이 필요함</li> <li>여러 에이전트가 병렬로 코드를 만들고 검토하는 “vibe”식 접근은 코드베이스 이해를 약화시키고, AI가 <stro…

Retry-now, 지금 바로 윤회 - 완전 자율 루프 에이전트

Retry-now, 지금 바로 윤회 - 완전 자율 루프 에이전트 | GeekNews

<p>AI 코딩 에이전트를 반복 실행해서 코드베이스를 점진적으로 개선하는 에이전트 <code>retry-now</code>를 만들었습니다.</p> <p>핵심 아이디어는 &quot;매 이터레이션마다 완전히 새로운 컨텍스트 0 세션에서 코드를 다시 보게 하자&quot;입니다.<br /> 기존 장기 실행 에이전트는 이전 판단을…

Fable 필드 가이드: 나의 미지(Unknowns) 찾기

Fable 필드 가이드: 나의 미지(Unknowns) 찾기 | GeekNews

<ul> <li>Claude Fable 5 작업의 핵심은 사용자가 주는 <strong>지도(map, 프롬프트·스킬·컨텍스트)</strong> 와 작업이 실제 일어나는 <strong>영토(territory, 코드베이스·현실·제약)</strong> 의 간극, 즉 <strong>미지(unknowns)</strong> 를 찾아 …

저커버그, Meta의 해고가 효과 없었음을 '인정'

저커버그, Meta의 해고가 효과 없었음을 ‘인정’ | GeekNews

<ul> <li>Meta는 AI 에이전트 개발에 맞춰 조직을 크게 흔들었지만, Zuckerberg는 최근 4개월간 <strong>에이전트 개발 궤적</strong>이 기대만큼 가속하지 않았다고 말함</li> <li>1~2월 구조조정 논의는 회사가 변화에 뒤처질 수 있다는 <strong>상위 인력들의 우려</strong>와…

Alibaba, 백도어 위험 우려해 사내에서 클로드 코드 사용 금지 조치 예정

Alibaba, 백도어 위험 우려해 사내에서 클로드 코드 사용 금지 조치 예정 | GeekNews

<ul> <li>중국 IT 대기업 Alibaba가 <strong>중국 연계 사용자 식별</strong> 기능으로 논란이 된 Anthropic의 <strong>Claude Code</strong>를 업무에서 사용하지 못하도록 직원들에게 금지 조치</li> <li>Anthropic이 Alibaba를 상대로 <strong>Cl…

로컬 인텔리전스에 대한 권리

로컬 인텔리전스에 대한 권리 | GeekNews

<ul> <li>RTI는 플랫폼 계정이나 클라우드 API에 묶이지 않고 자기 기기에서 <strong>로컬 AI</strong>를 실행할 권리를 보호하려는 활동임</li> <li>공개 AI 모델의 <strong>다운로드·소유·실행·연구·수정·공유</strong>는 합법적 사용으로 보장하되, 실제 피해 행위는 계속 단속해야 …

의존성에 LLM 생성 코드 금지

의존성에 LLM 생성 코드 금지 | GeekNews

<ul> <li>git-annex는 <strong>LLM 생성 코드가 포함된 의존성</strong> 없이 빌드되도록 지난 한 달간 약 <strong>100시간</strong>을 들여 점검됨</li> <li>이 작업은 개별 코드보다 <strong>전체 의존성 트리</strong>를 계속 추적해야 하는 현실을 드러내며, 유지…

탈(脫)fedify – 떠나보니 알게 된 fedify의 좋은 점들

탈(脫)fedify – 떠나보니 알게 된 fedify의 좋은 점들 | GeekNews

<p>(제가 운영하는 블로그의 글입니다. 본문은 저와 함께 일하는 AI 어시스턴트 시로의 도움으로 썼고, 오독이 있으면 알려주시면 고맙겠습니다)</p> <p>작은 페디버스(마스토돈처럼 서버끼리 서로 연결되는 SNS 네트워크) 서버 sukhi-fedi가, JSON-LD 조립(메시지를 서버끼리 알아들을 수 있는 형식으로 만드…

VHK - 모델·에이전트를 갈아타도 안 무너지는 풀사이클 AI 코딩 하네스

VHK - 모델·에이전트를 갈아타도 안 무너지는 풀사이클 AI 코딩 하네스 | GeekNews

<p>바이브코딩하다 보면 도구를 자주 갈아탑니다. Claude Code 쓰다가 Cursor, 또 Codex... 그때마다 규칙 파일이랑 맥락이 흩어지고, 에이전트는 &quot;다 됐다&quot;는데 실제론 테스트도 안 돌아간 경우가 많더라고요. 매번 손으로<br /> 정리하기 싫어서 만든 CLI 하네스입니다.</p> <p…

CursorBench 3.1 모델 평가 결과

CursorBench 3.1 모델 평가 결과 | GeekNews

<ul> <li>Cursor의 코딩 모델 평가표에서 <strong>Fable 5 Max</strong>가 72.9%로 1위를 기록해, 상위권 경쟁의 기준점이 됨</li> <li><strong>Fable 5 계열</strong>은 Max, Extra High, High, Medium이 1~4위를 모두 차지하며 다른 모델군과…

일본 최고재판소, AI는 특허 발명자로 기재될 수 없다고 판결

일본 최고재판소, AI는 특허 발명자로 기재될 수 없다고 판결 | GeekNews

<ul> <li>일본 <strong>최고재판소</strong>가 AI를 특허 출원서의 발명자로 적을 수 없다는 하급심 판단을 확정하며, 현행 일본 특허법의 발명자는 자연인으로 제한됨</li> <li>사건은 미국 엔지니어가 자신이 만든 AI <strong>DABUS</strong>가 식품 용기 등을 발명했다고 주장하며 20…

Kimi K2.7 Code, GitHub Copilot에서 정식 제공

Kimi K2.7 Code, GitHub Copilot에서 정식 제공 | GeekNews

<ul> <li>GitHub Copilot에 <strong>Kimi K2.7 Code</strong>가 추가되며, 모델 선택기에서 고를 수 있는 첫 <strong>오픈 가중치 모델</strong>이 됨</li> <li>GitHub가 Microsoft Azure에서 호스팅해 코딩 워크플로에 더 많은 모델 선택지와 낮은 비용…

AI와 함께한 모험

AI와 함께한 모험 | GeekNews

<ul> <li>개인 프로젝트에서 여러 AI 모델을 써보니 <strong>코드 리뷰·리팩터링·일회성 스크립트</strong>는 비용 대비 꾸준히 유용했지만, 비자율 개발 작업은 판단 품질과 검증 비용이 큰 제약으로 남음</li> <li>Anthropic·OpenAI 월 $20 구독과 Google·Moonshot·DeepS…

모던 앱

모던 앱 (The Modern App) | GeekNews

<ul> <li>“차세대 코드 편집기”라는 데모를 빌려, 현대의 소프트웨어가 <strong>업데이트·협업·AI 기능</strong>으로 과밀해진 상태를 풍자</li> <li>화면에는 문서 로딩 실패, 개인정보 동의, 클라이언트 예외, 라벨 없는 아이콘, Windows 활성화 알림, 오류·경고·충돌 수치가 겹치며 <stro…

AI가 일자리보다 먼저 가져가는 것

AI가 일자리보다 먼저 가져가는 것 | GeekNews

<ul> <li>AI 시대의 최대 수혜자를 자처하는 개발자가, AI와만 일한 지 1년이 넘은 시점에 느낀 위화감을 소설 《삼체》의 '지자(智子)' 비유로 풀어낸 에세이</li> <li>핵심 주장: <strong>AI는 일자리를 가져가기 한참 전에, 몰입·소유감·성장의 사다리 같은 &quot;일자리보다 먼저 없어지는 것들&…

OpenAI, Codex 전용 미니 키보드 'Codex Micro' 티저 공개 | GeekNews

OpenAI, Codex 전용 미니 키보드 ‘Codex Micro’ 티저 공개 | GeekNews

<p>OpenAI가 Codex 사용자를 위한 전용 하드웨어 <strong>Codex Micro</strong>를 예고했습니다.<br /> OpenAI Developers 계정에 올라온 티저에는 “Your favorite Codex shortcuts are getting an upgrade”라는 문구와 함께 작은 매크로패드…

ZCode: GLM-5.2용 공식 하네스 | GeekNews

<ul> <li><strong>ZCode</strong>는 개발 도구와 AI 에이전트를 묶어 계획, 코딩, 리뷰, 배포를 한 흐름에서 처리하려는 GLM-5.2 공식 하네스임</li> <li>ZCode 3.0은 <strong>GLM-5.2 최적화</strong>와 멀티 에이전트 협업 개선을 내세우며, 추론·코딩 작업 전반에…