-
AI 토큰은 데이터센터를 어떻게 여행하는가
AI 토큰은 데이터센터를 어떻게 여행하는가 | GeekNews
<ul> <li>2026년 <strong>AI 추론</strong>은 전체 AI 컴퓨팅의 약 3분의 2까지 확대됐으며, 배포된 모델의 생애 컴퓨팅 비용 중 80~90%를 차지해 토큰 처리 비용과 지연시간이 인프라 경제성을 좌우함</li> <li>하나의 요청은 토큰화, API 게이트웨이, 인증, 라우팅, 스케줄링, KV 캐…
-
NVIDIA·CoreWeave·Nebius가 만든 GPU 붐의 순환 금융 구조
NVIDIA·CoreWeave·Nebius가 만든 GPU 붐의 순환 금융 구조 | GeekNews
<ul> <li>CoreWeave와 Nebius는 최신 NVIDIA GPU를 빠르게 공급해 대규모 장기 계약을 확보했지만, 계약 전력을 실제 데이터센터 용량으로 전환하려면 <strong>현금흐름을 크게 웃도는 자본 지출</strong>을 감당해야 함</li> <li>Microsoft와 Meta의 네오클라우드 계약은 최대 …