-
AI 2040과 지능 숭배
AI 2040과 지능 숭배 | GeekNews
<ul> <li>재귀적 자기 개선이 곧바로 하드 테이크오프로 이어진다는 전망은 <strong>물리적 제약과 공급망의 병목</strong>을 과소평가하며, 높은 품질의 토큰만으로 물질 세계를 마음대로 바꿀 수는 없음</li> <li>휴대전화 수준의 복잡한 하드웨어를 생산하려면 규격 미달 부품, 무작위 고장, 리플로 공정의 …
-
인류는 다가오는 지능 폭발에 대한 준비가 되어 있지 않다
인류는 다가오는 지능 폭발에 대한 준비가 되어 있지 않다 | GeekNews
<ul> <li>AI가 인간 개입 없이 스스로 코드를 고쳐 능력을 키우는 <strong>닫힌 루프 재귀적 자기개선(RSI)</strong> 단계에 수년 내 도달할 가능성이 있으며, 전례 없는 <strong>지능 폭발</strong>로 이어질 위험 존재</li> <li>AI 연구소 창업자들조차 AI로 인한 파국적 사건 발생…