-
GigaToken - 언어 모델 토큰화를 약 1,000배 가속
GigaToken - 언어 모델 토큰화를 약 1,000배 가속 | GeekNews
<ul> <li>다양한 CPU와 널리 쓰이는 토크나이저를 지원하며, 텍스트를 GB/s 단위로 처리하는 Tiktoken 과 HuggingFace Tokenizers 대체 도구</li> <li>정규식 엔진이 맡던 사전 토큰화를 <strong>SIMD</strong>로 최적화하고 분기·스레드 통신·Python 상호작용을 줄이며…
-
Kokoro로 로컬 CPU에서 고품질 TTS 실행하기
Kokoro로 로컬 CPU에서 고품질 TTS 실행하기 | GeekNews
<ul> <li>로컬 음성 생성은 이제 <strong>전용 GPU 없이도</strong> 충분히 현실적인 품질을 낼 수 있으며, 예시 환경에서는 GPU를 LLM 추론에 남기고 TTS를 CPU가 처리함</li> <li><strong>Kokoro</strong>는 82M 파라미터 모델이지만 영어, 중국어, 힌디어 등 여러 언…