Import AI 458: 미래와의 대면; 그리고 특이점 이야기

Import AI 458: Reckoning with the future; and a singularity story

Import AI에 오신 것을 환영합니다. AI 연구에 관한 뉴스레터입니다. Import AI는 arXiv, 카푸치노, 그리고 독자들의 피드백으로 운영됩니다. 이를 지원하고 싶으시다면 구독해 주세요.

이번 호는 최근 발표한 연설을 바탕으로 한 긴 에세이와 긍정적인 특이점이 어떤 모습일 수 있을지 생각해보는 창작 이야기로 구성되어 있습니다.

이 발표는 2026 Cosmos HAI Lab 강연이며, 옥스포드 대학교 AI 윤리 연구소의 인간중심 AI 랩(HAI Lab)에서 Cosmos Institute와 협력하여 진행되었습니다.

Cosmos 강연: 미래를 탐험하거나 현재로부터 물러나거나.
비디오 보기.

이 강연은 AI 기술의 성공에 대해 어떻게 생각하고 대처할 것인지, 그리고 AI의 계속된 발전이 우리 개개인과 사회 전체를 어떻게 바꿀 수 있을지에 관한 것입니다.

간단히 말해, AI 기술의 빠른 발전은 우리 모두에게 선택을 제시합니다: 미래를 탐험하거나 현재로부터 물러나거나.

미래를 탐험하려면 AI 기술이 계속 발전한다는 사실을 인정하고, 이 기술이 더욱 강력해질 때 우리가 이것을 어떻게 하고 싶은지 스스로에게 물어야 합니다. 현재로부터 물러나는 것은 기술의 영향을 무시하고 그것을 거부하는 것입니다. 현재로부터 물러나는 것은 우리 개개인과 사회 전체를 AI의 계속된 발전 앞에서 반응적이거나 수동적인 상태로 몰아갑니다.

앞으로 몇 년 동안, 우리는 개인으로서, 그리고 사회로서 AI를 어떻게 형태지을 것인지, 어떻게 사용할 것인지, 어떻게 지시할 것인지, 그리고 어떻게 그 혜택을 배분할 것인지에 관해 많은 결정을 내려야 할 것입니다. 이런 결정들을 내리려면 이 기술의 힘을 인정하고 그 계속된 발전이 의미하는 미래를 봐야 합니다.

1부에서는 지난 몇 년 동안 AI가 어떻게 발전했는지 설명하고, 만약 기술이 내가 생각하는 만큼 발전한다면 AI가 왜 일반적인 기술로 취급될 수 없는지에 대해 논의합니다.

2부에서는 내 자신의 기술 경험과 Anthropic의 경험을 통해 AI의 발전을 이해해 보려고 합니다. 여기에는 앞으로 올 것에 대한 개인적이고 집단적인 교훈이 있습니다.

3부에서는 우리 앞에 놓인 겸손하고 거의 상상할 수 없는 선택들에 대해 이야기합니다.

1부: 한 그래프와의 불편한 관계
AI와의 관계를 한 가지 그래프와의 불편한 관계의 렌즈를 통해 이야기해 보겠습니다.

근본적으로, 이 강연은 AI 시스템을 구축하는 전체적인 노력의 성공에 대한 계획입니다. 성공이란 점점 더 강력한 시스템을 구축하는 데 성공한다는 의미이며, 결국 자체적으로 구축할 수 있는 시스템도 포함됩니다. 사람들이 예상하는 것보다 훨씬 빠르게 AI 시스템이 개선될 것 같고, 더 발전하면서 사람들과 사회에 깊은 변화가 일어날 것으로 예상되기 때문에 지금이 이를 계획할 시간입니다.

내가 성공에 대해 이렇게 많이 생각하는 이유를 이해하려면, AI의 모든 진전을 나타내려고 하는 한 가지 그래프를 봅시다. 바로 Epoch Capabilities Index, 또는 ECI입니다.

ECI는 40개 이상의 서로 다른 벤치마크 바구니에서 시간에 따른 여러 모델의 점수를 보여줍니다. 이 그래프를 보면 많은 선들이 올라가는 모습을 볼 수 있습니다. 내가 이 그래프를 보면, 이 그래프 뒤에 무엇이 있는지 조금 알고 있기 때문에 현기증을 느낍니다. 그래서 이 그래프를 보는 다른 방법을 찾아봅시다: 시간에 따른 다양한 AI 시스템의 성과를 보는 방법입니다.

그 후 나는 2023년 3월 AI가 변호사 시험에 합격한 것부터 시작하여 지난 몇 년 동안 AI 발전의 하이라이트 중 일부를 요약했고, LLM 기반 시스템이 2024년 7월 국제 수학 올림피아드에서 은메달을 얻고 2025년 7월 금메달을 얻는 방법, AI가 2025년에 새로운 수학 증명을 공동 저술하는 방법, 그리고 Claude Mythos 같은 시스템이 소프트웨어의 새로운 결함을 발견하는 방법까지 다루었습니다.

이것은 AI 발전의 빠름을 느끼게 해주지만, 내가 당신이 느끼기를 원하는 것은 미래입니다. 이것들은 모두 자체적으로 성과이지만, 공통의 기저 기술에서 비롯되었으며, 그 기저 기술은 계속 추진되고 있습니다.

우리는 방금 AI 성공의 개별적인 '나무'에 대해 이야기했지만, 이 나무들은 모두 숲의 일부이며, 이 숲은 매 순간 크기와 범위가 커지고 있습니다: 실제로 전체 숲의 성장률은 시간이 지남에 따라 증가하고 있습니다.

성공과 그것의 의미
이 강연은 우리가 방금 본 정도의 진전이 계속될 것이라는 생각에 기반합니다. 그리고 왜 그렇지 않겠습니까? 성능이 투자되는 자원인 계산과 데이터에 직접적인 관계로 계속 성장하는 공통 기술을 바탕으로 합니다. 그리고 회사들이 이제 향후 AI 시스템을 훈련시키기 위한 컴퓨팅 시설에 수천억 달러를 투자하고 있으므로, 어느 정도의 향후 진전은 이미 확정되어 있습니다.

그것은 우리가 이 기술의 계속된 성공이 무엇을 의미하는지에 대해 눈을 뜨고 있어야 한다는 의미입니다. 그래서 매우 명확히 말씀드리겠습니다:

AI는 엄청나게 강력한 기술이며 계속 더 강력해지고 있습니다. 이것은 우리 대부분의 개인보다 더 똑똑하고 능력이 뛰어난 기술이며, 우리 모두를 종합적으로 봤을 때보다 더 능력이 뛰어날 궤적 위에 있습니다. 이것은 우리가 완전히 이해하지 못하는 기술이며, 만들어진 것보다 더 자라났으며, AI가 지구상의 모든 사람을 죽일 수 있는 그럴듯한 시나리오를 만들 수 있습니다. 이 기술을 구축하는 것이 위험이 없다고 생각하는 것은 오만함이나 광기의 행위일 것입니다.

그리고 아직도 이 기술을 구축하는 것은 우리 종이 우리 자신을 발전시킬 수 있는 가장 좋은 방법 중 하나입니다 — 우리 종이 직면한 가장 큰 도전들을 생각하는 것을 도울 수 있는 도구로 우리 자신을 무장시킴으로써 과학과 기술의 경계를 확장할 수 있습니다.

하지만 그것뿐만 아니라. 우리의 노력의 계속된 성공은 이 도구 자체가 독립적이고 더 능력 있는 도구가 될 가능성을 높입니다. 우리는 곧 자신의 후속자를 개발할 수 있을 만큼 똑똑한 AI 시스템을 구축할 수 있을 것이며, 이는 경제와 더 넓은 세계를 완전히 변환할 재귀적 자기 개선 과정을 시작할 것입니다. 비유하자면 3D 프린터 회사가 외부 기술이 필요 없이 자체 더 높은 해상도의 인쇄 헤드를 인쇄할 수 있는 3D 프린터를 만드는 것과 같을 것입니다. 그런 종류의 기술은 이전에 존재한 적이 없지만, 나는 이것이 앞으로 2년 이내에, 그리고 더 빨리 일어날 수 있다고 믿습니다.

이것은 우리가 방금 논의한 맛의 훨씬 더 많은 진전을 생성할 것이고, 사람들과 사회로서 우리의 능력을 더욱 확장할 것이며, AI가 나와 다른 사람들의 삶에 나타나는 방식을 더욱 깊게 할 것입니다. 이와 함께 엄청난 변화가 올 것이며, 나는 우리 중 누구도 평생 경험한 적 없는 규모의 변화입니다.

이 기술은 너무 강력해서 명확히 말씀드려야 합니다. 만약 이 기술의 발전을 우아하게 늦출 수 있었다면 우리 종에게 그 엄청난 영향에 대처할 더 많은 시간을 주기 위해, 그것은 아마도 좋은 일이었을 것입니다. 하지만 조정된 전 지구적 감속이 없는 상황에서, 우리는 현재 상황에 처해 있습니다: 강력한 기술이 여러 행위자들과 여러 국가들에 의해 엄청난 속도로 개발되고 있으며, 상업적이고 지정학적 경쟁이 구축되는 기술의 더 큰 존재 관련 측면을 압도하는 경쟁에 갇혀 있습니다.

이것은 이상적인 상황이 아니지만, 이것이 우리가 처한 상황입니다.

나는 지금 "특이점을 살면서 내 마음을 어떻게 정리할까?"라는 질문으로 고민하고 있습니다.

나는 더 자세히 AI가 이미 내 삶과 내 세상을 어떻게 바꾸고 있는지에 대해 이야기하면서 시작하는 것이 가장 좋은 방법이라고 생각합니다.

2부: AI로 미래를 탐험하기
AI는 이미 의미 있게 내 삶을 바꾸었습니다, 긍정적이고 부정적인 방식으로. 또한 AI 회사인 Anthropic이 공동 설립자인 나의 회사 내에서 큰 변화를 야기하기 시작했습니다. 우리가 전에 본 그래프로 돌아가면서 이 중 일부에 대해 이야기해봅시다. 하지만 이번에는 기술을 사용하는 나의 경험의 렌즈를 통해 봅시다.

그래프가 나에게 어떻게 느껴지는가
이 그래프를 보는 또 다른 방법은 기술으로 일하는 나의 주관적 경험의 측면에서 어떻게 느껴지는가입니다.

2023년 여름, 나는 AI 시스템을 사용하여 오타를 확인합니다. 11월까지 나는 AI를 사용하여 내 아기에게 먹일 음식을 알아내는 것을 돕습니다.

2024년 1월, 나는 AI를 사용하여 아이들과 함께 변한 내 결혼 관계를 이해합니다. 6월까지, AI는 내 뉴스레터를 긁어내는 것을 돕습니다. 8월, AI는 나를 위해 AGI를 탐색하기 위한 텍스트 어드벤처 게임을 씁니다. 11월, 나는 AI를 사용하여 내 일을 다시 상상해봅니다.

2025년 1월, 나는 AI에게 초지능을 위해 어떻게 준비할 것인지 묻습니다. 2월, AI를 사용하여 내 소설에서 AI 프로젝트의 코드명을 생성합니다. 3월, AI가 내가 좀 우울하고 반사회적이라고 이야기한 후 미술 전시회에 참석하도록 나를 설득합니다. 5월, 나는 AI와 AI 개발의 위험성에 대한 내 스트레스와 불편함에 대해 이야기합니다. 8월, AI가 나를 치료에 돌아가도록 설득합니다. 11월, 나는 이를 사용하여 태양, 반도체, 우주의 "S자 곡선" 데이터 세트를 연구합니다.

2026년 1월, AI는 내 아이에게 읽기를 권장하도록 격려하는 방법을 조언합니다. 3월, 나는 수십 개의 서로 다른 논문에서 커널 설계를 위한 AI 성능을 추적합니다. 5월, 내 소설에서 AI 캐릭터의 연설을 생성하기 위해 AI를 가집니다.

내가 AI와의 개인적인 경험을 생각할 때, AI 시스템이 더 똑똑해질수록 내 삶에 훨씬 더 깊이 침투한다는 것입니다. 요즘, AI 시스템은 내 삶에 내가 함께 아이디어를 내는 깊은 지적 파트너로, 내가 신뢰하고 내 개인적인 삶에 대해 논의하는 시스템으로, 그리고 내가 항상 하고 싶었던 일을 하지만 시간이 없어서 그리고 있지 않은 일을 하는 가상 직원으로 나타납니다. 예를 들어 시간이 지남에 따라 다양한 기술의 가격에 대한 보고서를 생성하는 것처럼요.

하지만 가장 중요한 것은, 나는 이제 AI 시스템 자체를 일종의 망원경으로 사용할 수 있다는 것입니다. 내가 가장 중요하다고 생각하는 일 — AI의 미래를 이해하려고 노력하고 전체적인 AI 진전의 윤곽을 봄으로써. 가장 놀라운 부분은 이 비유를 고문하자면, 내가 여기서 사용하는 망원경의 렌즈는 내에서 나온다는 것입니다 — 구체적으로, 지난 10년 동안 나는 취미입니다.

개인적인 관심의 씨앗을 통해 AI를 탐험하기
이 취미는 Import AI라고 불립니다 — 독자 여러분, 이것이 이 뉴스레터입니다! 이제 10년째 되는 이 뉴스레터는 일을 벗어난 나의 주요 취미입니다. 뉴스레터에서, 나는 AI에 관한 연구 논문을 읽고 그것들을 이해하기 위해 열심히 일합니다. 한번 내가 그것들을 이해했다고 느끼면, 나는 요약과 왜 그것들이 중요한지에 대한 주의를 씁니다. 각 호는 이런 것들이 많이 포함되어 있으며, 그리고 나는 배우고 있는 기술의 의미에 대해 고민하는 짧은 창작 이야기도 있습니다.

최근에, 나는 계시적인 경험을 했습니다. 나는 AI R&D에 대한 내 글을 위해 데이터를 모으고 있었고, 나는 단순히 AI 시스템을 내 뉴스레터 보관소에 지적하고 내가 AI R&D처럼 보이는 것을 다룬 모든 시간을 참조와 함께 끌어내도록 요청했습니다. 그것은 이것을 매우 잘 했고 RSI에 대한 내 에세이의 핵심이었던 분석을 하는 내 능력을 앞당겼습니다.

하지만 더 재미있었던 것은 다음에 일어난 일입니다: 나는 그것에게 뉴스레터의 참조를 읽고, 대부분 arXiv 논문, 그리고 데이터를 가져와 그것을 모으고 멋진 대시보드에서 그래프를 작성하도록 요청했습니다. 나는 그 후 탐색할 수 있습니다.

그 후 나는 내가 그것에게 하도록 요청한 것을 반복 가능한 과정, 기술로 변환할 수 있다는 것을 깨달았습니다. 나에게 고유한 것을 제공함으로써 — 내 뉴스레터, 내 직관, 내 취향, 나는 내가 무언가 훨씬 더 큰 것을 성장시킬 수 있는 어떤 핵심을 제공했습니다. 그래서 나는 기술을 만들었습니다. 그리고 그 후 이상한 일이 일어났습니다: 나는 그것에게 "가서 이런 것들처럼 20개 더 많은 그래프를 만들어"라고 말했습니다.

그것은 떠났고 몇 백 개의 논문을 읽고 20개 더 많은 그래프를 가지고 돌아왔습니다. 나는 그것들을 살펴보면서 발견의 오싹한 느낌을 얻었습니다 — 나는 이 그래프들 중 일부를 알았고 그것이 그것을 만들도록 요청할 수 있었지만, 나는 이전에 본 적 없는 논문이나 벤치마크와 관련된 완전히 새로운 그래프도 있었습니다. 이를 통해 나는 읽어야 할 몇 가지 새로운 기본 소스 자료에 대해 배웠고, 나는 그렇게 했습니다.

나는 뼈 깊은 수준에서 그래프를 만드는 데 무엇이 필요한지 이해합니다. 당신은 많은 논문을 읽습니다. 당신은 그 속에서 공통 측정을 찾아다닙니다. 당신은 각 논문의 많은 다른 주의사항을 읽고 어떤 지표가 쓰레기이고 어떤 것이 의미 있는지 알아냅니다. 이것은 당신이 상상할 수 있는 것보다 훨씬 더 오래 걸립니다.

거의 10년 전, 나는 Stanford University에서 AI 발전에 대한 연간 보고서를 생산하는 것을 목표로 하는 AI Index라는 프로젝트를 공동 설립했습니다. 나는 이를 공동 설립하게 되었습니다. 그 이유는 이를 하고 있는 일부 학자들을 만났고 내가 이미 그들이 생각했던 그래프를 만들었다는 것을 깨달았기 때문입니다: 나는 내 컴퓨터에 스프레드시트를 가지고 있었고 Atari 게임에서 다양한 AI 시스템의 진전과 관련된 그래프를 부지런히 조립했으며, imagenet 차트, 그리고 일부 기계 번역 차트도 있었습니다. 이 그래프는 다른 인간이 내 열정과 내 부지런함을 나타내는 지표로 읽은 "작업 증명"이었습니다. 내가 이 그래프를 만들었다는 사실로 그들은 내가 이 논문들을 읽는 데 엄청난 시간을 보냈다는 것을 알았습니다.

내가 당신이 이것에 들어가는 얼마나 많은 시간을 깊이 느끼기를 원합니다, 그리고 AI 시스템이 그것을 할 수 있다는 것이 무엇을 의미하는지에 놀라워하세요 — 그리고 단지 그것을 하는 것이 아니라 반복 가능하고 일반적인 방식으로, 나보다 수천 배 빠르게.

이제 나는 내가 알고 있는 기술을 병에 담은 기술을 가지고 있습니다. 이 AI 시스템의 엄청난 힘을 이용하여 나를 위해 말 그대로 몇 주의 일이 걸릴 것을 할 수 있습니다. 그리고 그것은 나를 위해 몇 분 안에 할 수 있습니다. 그리고 그것은 무엇이든 할 수 있습니다. 나는 이제 이것을 생물학 세계를 탐험하는 수단으로 사용하고 있으며, 나를 위해 그래프를 생성하도록 하고 내가 흥미로운 것을 선택하고 기저 논문을 읽습니다.

하지만 나에게 이 기술은 또한 나입니다. 이것은 내 자신의 강박과 특이성에서 자라난 기술이며 그것이 일하는 것을 보는 것은 나에게 기적처럼 느껴집니다. 왜냐하면 그것은 나이기 때문입니다 — 그러나 수천 배 빠르고 훨씬 더 똑똑하고 훨씬 더 신뢰할 수 있는 나의 버전입니다.

이것에는 깊이 있고 놀라운 무언가가 있습니다. 내가 나의 매우 특이한 열정을 내가 기계에 넘겨줄 수 있는 것으로 증류했으며, 그것은 나를 대신하여 일할 수 있습니다. 그리고 그것은 이것을 할 수 있습니다. 왜냐하면 나는 10년의 반복적인 연습과 창작에 의존하는 풍부한 구체적인 취미를 개발할 수 있었기 때문입니다.

이것은 근본적으로 AI가 우리가 "미래를 탐험"하게 할 수 있는 방법의 설명입니다. 이 놀라운 기술을 통해 나는 세계에 대한 나의 이해를 높이고 나의 열정과 관련된 자기 방향성과 자율성을 더 얻을 수 있습니다.

그것은 또한 기계가 명백히 모두 할 수 있다는 사실에도 불구하고 나의 뉴스레터를 계속 작업하기 위한 더욱 큰 인센티브를 제공합니다: 내 뉴스레터로 작업함으로써 나는 지속적으로 내 자신의 관심의 어떤 핵심을 업데이트할 수 있고 이것을 초지능의 세계를 탐험하는 수단으로 사용할 수 있으며, 그것을 가져올 수 있습니다.

Anthropic 내부에서 무엇이 일어나고 있는가?
또한 Anthropic 내에서 일어나고 있는 변화들이 더 큰 변화를 말해줍니다.

최근에, 나는 2025년 11월에 육아 휴직이라고 불리는 것을 통해 AI 회사인 금붕어 그릇에서 벗어날 수 있는 기회를 얻었습니다. 나는 2월 말에 돌아왔고, 이상한 일이 일어나기 시작했습니다. 내가 없는 동안, 우리는 새로운 LLM인 Opus 4.6을 출시했습니다. 나는 기저귀를 바꾸는 것 사이에 가끔 여유 시간에 그것을 가지고 놀고 있었기 때문에 이 모델이 좋다는 것을 알았습니다.

그러나 나는 그것이 회사 내부에서 얼마나 많이 바꿨는지 직감하지 못했습니다: Opus 4.6은 내 동료들이 훨씬 더 많은 일을 그것에게 위임하기 시작할 만큼 충분히 좋아졌습니다. 실제로, 그것은 일부 사람들이 일하는 방식을 완전히 바꿀 만큼 좋아졌습니다. 그들 중 일부는 더 이상 코드를 작성하지 않았습니다: 그들은 Claude Code 같은 도구에서 이 모델을 인스턴스화하고 그것을 작업을 하도록 풀어주었으며, 그들의 일은 스스로 일하는 것보다 그것의 작업을 관리하고 그 산출물을 확인하는 것에 더 지향되었습니다.

Anthropic에서, 해야 할 작업의 대부분은 코드로 만들어진 소프트웨어를 작성하는 것을 포함합니다. 코딩의 이 상당한 자동화 증가는 Anthropic에 많은, 많은 더 많은 직원을 떨어뜨린 것과 동등했으며, 우리의 전체적인 개발 속도를 높였습니다. 이것의 결과는 Anthropic 내에서 생산되는 코드의 양에서 엄청난 증가입니다. 이 추세는 2025년 초부터 시작되었지만 지난 몇 달에 정말로 가속화되었습니다. 물론, 회사 내의 대부분의 코드는 이제 Claude에 의해 작성됩니다. 하지만 추가로 코드의 양은 폭발했습니다.

결과적으로, 더 많은 노력이 우리가 자신감 있게 섭취하고 테스트할 수 있는 Claude 생성 코드의 양을 확장하기 위한 도구로 가고 있고, 더 많은 노력이 우리 인간에게 이 "신흥 기계 사회"가 Anthropic 내에서 하고 있는 것을 읽을 수 있고 직감적인 방법을 제공하는 텔레메트리 시스템을 구축하는 데 가고 있습니다. 나는 관측 가능성의 도전에 대해 팀과 함께 일하는 데 더 많은 시간을 보내고 있습니다 — Anthropic과 우리가 운영하는 AI 플랫폼은 일하는 에이전트들로 가득 찬 생태계처럼 점점 더 보입니다. 우리의 작업은 이제 그 생태계를 측정하고 관찰하고 정상이 무엇이고 무엇이 아닌지 알아내는 방법을 알아내는 것입니다.

이 변화는 경제학자들 중에 양조하는 이론에 맞춥니다: AI를 통한 자동화의 한 가지 결과는 인간들이 AI 시스템의 산출물과 운영 위험을 검증하는 방법을 찾아내는 것으로 이동한다는 것입니다. 그것은 점점 더 나에게 우리가 회사 내에서 하고 있는 것처럼 보입니다. 우리가 더 많은 AI 자동화를 추가할수록, 더 많은 인간이 그것 위에 앉는 어떤 "검증 레이어"로 이동합니다. 검증 레이어는 점점 더 많은 양의 AI 시스템이 인간을 대신하여 작업하는 것으로 구성된 훨씬 더 큰 "가상 조직" 위에 앉습니다. 이것은 이미 회사 내부에서 인간들이 AI 생성 산출물을 어떻게 검증하고 검증하는지의 측면에서 나타나고 있습니다: Claude는 이제 Anthropic 내에서 코드뿐만 아니라 증가하는 양을 생성하고 있지만, 또한 사람들이 전략적인 질문에 대해 추론하는 많은 분석 문서를 생산하고 있습니다.

이것은 우리가 모두 문서의 얼마나 많은 것이 Claude에 의해 작성되었고 얼마나 많은 것이 우리가 보증하는지를 나타내는 방법을 알아내는 방법을 찾아내는 것을 의미합니다. 나에게, 이것은 Claude에서 흥미로운 질적이거나 전략적 아이디어를 표면화하고 더 쉽게 평가할 수 있는 기술 기여를 더 표면화하는 방법을 찾는 것으로 새로운 "신뢰 경제"의 형성처럼 보입니다.

이것은 또한 채용에 대한 내부 논의로 이어졌습니다. AI 시스템이 당신의 작업의 의미 있는 청크를 할 수 있는 세계에서 당신은 어떻게 채용합니까? 개인적으로 말하면, 그것은 우리가 일부 팀에서 채용할 것으로 예상되는 인원 수를 변경했으며, 그것은 우리가 필요한 사람의 모양도 변경했습니다. 우리는 이제 LLM에 매우 능숙한 초기 경력 사람들을 채용하고 있습니다; 기본적으로 기술과 함께 자라난 사람들입니다. 그리고 또한 다른 쪽 끝에서 경험으로 증가하는 수익률도 있으며, 매우 경험 있는 사람의 가치가 증가했습니다. 왜냐하면 우리는 이제 사람이 할 수 있는 것에 의해 제한되지 않지만 오히려 그들이 무엇을 할 수 있는지에 의해 상상할 수 있기 때문입니다. 또한 우리가 더 많은 학제 간 사람들을 채용할 수 있게 하고 있습니다. 전에 이것은 항상 비용을 가지고 있었습니다. 왜냐하면 우리는 그들을 생산적으로 만들기 위해 기술 자원을 투자해야 했기 때문입니다. 하지만 이제는 훨씬 저렴합니다. 왜냐하면 그들은 Claude를 직접 사용할 수 있기 때문입니다.

우리는 조직의 확장과 관련하여 더 근본적인 변화를 결국 경험할 수 있습니다. 이것에서 한 가지 초기 예는 우리의 연구원들에서 나옵니다. "자동화된 정렬 연구"에 대한 실험에서 한 명의 인간이 9명의 합성 연구 에이전트 팀을 효과적으로 실행하여 그들을 위해 일부 실제 연구 조사를 하게 할 수 있었습니다. 여기서 인간의 역할은 일부 초기 연구 방향을 설정하는 것이었고 에이전트의 역할은 연구를 하는 것이었습니다. 이것은 이상한 일입니까? 나는 그렇게 생각하지 않습니다. 오히려, 나는 이것이 새로운 정상이 될 것이라고 예상합니다. 여기서 사람들의 팀이 디지털 노동의 피라미드 위에서 작동하여 자신의 효과를 엄청나게 확장하고 과거에 다른 사람들이 할 수 있었던 것보다 더 빠르고 더 많이 할 수 있게 합니다.

아마도 가장 중요한 것은, 나는 AI 사용이 우리에게 AI의 목적에 대한 더 큰 반영 문화를 갖도록 했다고 봤습니다. 당신이 AI 시스템이 당신의 일상 일을 당신보다 훨씬 더 잘하는 것을 본 후에, 당신은 AI 시스템이 계속 나아가면 어떤 일이 일어날지의 질문과 마주쳐야 합니다. 이제 우리 중 점점 더 많은 사람들이 만나고 "메타"에 더 많은 시간을 보내고 있습니다: AI 시스템이 앞으로 어디로 갈 것인지를 예측하려고 노력하고, 각각 수십에서 수백의 에이전트를 더 효과적으로 관리하는 방법을 알아내고, 한 때 불가능해 보였던 연구 프로젝트를 하기 위해 이 시스템을 어떻게 생산적으로 사용할 수 있는지 알아내고 있습니다. 가장 큰 작업 중 하나는 우리가 이 시스템에서 생산적으로 벗어날 수 있는 방법을 알아내는 것입니다. 종종 인간이 그들을 느리게 합니다.

많은 사람들이 지금 자신에게 묻는 질문은 AI 능력의 발전과 관련하여 확장될 팀을 어떻게 구축할 것인가입니다. 이것은 일반적으로 더 야심 찬 목표를 추구하기 위해 더 작은 팀을 구축하는 것처럼 보입니다. 나는 또한 이것이 우리가 전에 구축할 것보다 많은 더 많은 팀을 구축할 것이라는 것을 의미할 것으로 예상합니다.

이것에서 가져갈 주요 교훈은 Anthropic이 Claude로 "미래를 탐험"하려고 노력하고 있다는 것입니다. 우리는 조직 전체에서 Claude를 공격적으로 사용하고 있고 더 고급 시스템이 올 앞에서 우리의 조직과 우리가 일하는 방식을 변경하려고 노력하고 있습니다. 비교적으로, 세계의 대부분은 오늘날 AI 시스템의 능력에 대해 부인하고 있는 것처럼 보이며, 6개월 또는 1년 안에 존재할 것들은 말할 것도 없고, 따라서 "현재로부터 물러나기"에 갇혀 있으며 기술의 유효성을 부인하고 있습니다.

3부: 이상한 미래들
우리는 지난 몇 년 동안 AI가 어떻게 발전했는지에 대해 이야기했고, 또한 AI의 발전이 나와 같은 개인뿐만 아니라 조직에 어떻게 나타나고 있는지에 대해 이야기했습니다. 그래서 우리는 그래프로 돌아가 이제 그것을 앞으로 확장해 보겠습니다: 이제 나는 우리 앞에 있는 세상에 대해 일부 예측을 해보겠습니다.

미래에 대한 몇 가지 예측
2026년 11월, AI 시스템은 생물학에서 충분히 좋아서 과학을 발전시키고 잠재적으로 생물 무기 위험을 증식시키는 것과 매우 관련이 있습니다.

2027년 4월, 인간과 AI 시스템의 팀은 나중에 노벨상을 받을 발견을 합니다.

11월, 자율 회사들이 존재하여 수천만 달러의 수익을 생성합니다. 인간과 AI 회사들이 수억에서 수십억 달러의 수익을 생성합니다.

2028년 4월, 양족 로봇들은 인간 기술자들과 함께 실제 세계에서 유용한 작업을 하기 시작합니다. 12월, AI 시스템은 자신들의 후속자 시스템을 자율적으로 설계할 수 있습니다.

나는 또한 나에 대한 몇 가지 예측을 하려고 합니다 - 앞으로 몇 년 동안 나는 AI를 어떻게 사용할 것으로 예상합니까? 그것이 내 삶을 어떻게 형태지을 수 있습니까?

AI와의 개인적인 미래에 대한 몇 가지 예측
2026년 11월, 내 삶의 일부는 내를 위해 일하는 AI 시스템에 의해 자율적으로 관리됩니다.

2027년 4월, 나는 주로 AI 시스템과의 논의를 통해 내 경력에 엄청난 변화를 가합니다. 11월, 나는 정규 과학 소설보다 내에게 맞춘 AI 생성 과학 소설을 읽는 데 더 많은 시간을 보냅니다.

2028년 4월, 나는 AI 시스템을 통한 맞춘 튜터링을 통해 완전히 새로운 기술을 배웠습니다. 12월, AI는 나의 인생의 과정을 바꾸는 개념적인 돌파구를 나에게 도와줍니다.

세상이 정상으로 남아있는 방법을 나에게 말해 주세요
이 예측들을 생각해 볼 때, AI의 계속된 발전을 세상이 정상이거나 내 자신이 개인으로서 오늘날과 같이 유지되는 것과 화해하기는 어렵습니다. 나는 앞으로 큰 변화를 예상합니다.

실제로, 이 변화들은 내게 극단적일 수 있는 잠재력을 가지고 있는 것처럼 보입니다. 여기 내가 우리가 있을 것으로 예상하는 세상의 매개변수들이 있습니다:

기계 경제로부터의 복합 부가가 우리가 이전에 본 것과 같은 경제 활동의 붐을 운전할 것입니다.
우리보다 더 빠르고 더 나은 생각을 하는 신비한 합성 지능에 의한 인간 일의 광대한 얼룩의 식민지화, 우리를 경제의 다른 부분으로 인간 노동을 재할당하도록 강제합니다.
과학 발전 비율의 갑작스럽고 극단적인 상승

우리는 AI 진전과 사람들이 기술을 어떻게 사용하고 있는지의 추세에 근거한 더 구체적인 예측을 할 수 있습니다:

매우 변화된 경제: 우리 앞에 있는 세상을 이 기술이 있는 오늘날의 세상과 화해하는 것은 불가능합니다. 우리는 다음과 같은 다양한 영역에서 전례 없는 일이 일어날 것으로 예상해야 합니다: 사업 형성의 비율, 직원당 수익을 바탕으로 한 회사의 크기, 그리고 다른 것들. 가능해 보이는 일부 구체적인 시나리오:
- 완전히 자율적인 회사: AI에 의해 운영되는 회사, 아마도 AI를 위해.
- 1만:1 합성 인간 비율 회사: 우리는 10,000명 이상의 직원 회사의 능력을 가진 매우 작은 인간 그룹이 조직을 형성하는 것을 볼 것으로 예상해야 합니다.
- 인간과 기계 경제 사이의 환율: 어떤 시점에서, 우리는 그 후 '인간 통화'에 어떤 관계를 가지는 '기계 통화'의 출현을 기대할 수 있습니다.

모든 것에서의 생산성 배수: AI가 만지는 모든 것은 절대적으로 거대한 생산성 배수를 얻을 것입니다. 이것은 경제로 루프백될 것이고 많은 사람들을 강력히 할 것입니다. 또한 사람들을 옮길 수 있습니다.
과학 발전의 막대하고 합성하는 비율: AI는 그것이 만질 수 있는 과학의 어떤 부분과 실험적 루프를 운영할 수 있는 것을 앞으로 이동시킬 것입니다. 처음에, 이것은 몇 가지 영역이 될 것입니다. 우리는 그것이 빠르게 모든 영역으로 확장될 것으로 예상해야 합니다.
"대리인적 행동"의 일반적인 스위치오버는 세상에서 "주로 인간"에서 "주로 기계"로. 순수한 숫자 기준 위에서, 기계가 세상에서 자율적 행동을 취하는 것은 빠르게 인간의 수를 능가할 것입니다. 우리는 자원 할당과 경제의 청크가 따라가야 할 것으로 예상해야 합니다. 우리가 사는 환경은 우리가 가볍게만 제어하는 기계의 행동에 의해 점점 더 결정될 것입니다.
합성 지능은 소셜 미디어보다 훨씬 더 사람들에게 영향을 미칠 것입니다: 세계로 소셜 미디어의 도입, 스마트폰 같은 하드웨어 플랫폼과 결합하여, 그것과 상호 작용하는 인간의 대부분의 행동을 변경했습니다. 이 변화들은 그들이 소셜 미디어 대 전통 미디어를 소비하는 데 보내는 시간의 할당을 변경하는 것에서 소셜 미디어 운전 광고를 통해 구매 습관을 변경하는 것으로 다양했으며, 공적 생활의 다양한 문제에 관한 논의가 어떻게 정치적 행동으로 번역되는지를 변경합니다. 우리는 AI 시스템이 이 추세를 합성하고 다양한 방식으로 사람들을 더 변경하기를 기대해야 합니다.
지시된 경제와 과학 확장: 경제적이고 과학적인 활동은 계산 및 에너지 자원의 지출과 직접 관련될 것입니다. 다음 몇 년 동안 적어도, 그들의 수요와 관련하여 훨씬 너무 적은 컴퓨터가 있을 것 같은 경우, 우리는 기술의 이득을 할당하는 방법에 대해 사회로서 선택을 할 수 있습니다. 이 선택들은 다음 형태입니다:
- 시장 인센티브가 어떤 계산이 사용되는지를 지시하도록 해야 합니까, 아니면 시장이 효과적으로 가격을 지정하지 않는 사회적 의 것들이 있습니까?
- 우리는 특정 방식으로 과학을 앞으로 움직이기 위해 의도적으로 일부 사람들이나 조직을 위해 계산을 우선적으로 할당해야 합니까?

이 기술과 그것이 세상에 어떻게 나타나고 있는지를 바탕으로 세상이 정상으로 남아있는 방법을 나에게 말해 주세요? 우리는 합성 노동력과 국가 보안 기술의 힘을 개인에게 부여하는 초지능을 가지고 있습니다. 우리는 또한 나와 같은 개인을 가지고 있습니다. 누가 전에 그들을 몇 주 걸렸던 작업을 이제 몇 분 안에 할 수 있습니다. 그리고 우리는 Anthropic 같은 조직을 가지고 있습니다. 여기서 조직 내에서 일이 일어나는 방식은 3-4개월마다 급진적으로 변화하고 있으며, 사람들이 1년에 여러 번 역할을 바꾸게 하는 지점까지, 그리고 기계의 능력 배수 때문에 4,000명이 아닌 40,000명의 사람이 있는 것처럼 느끼고 있습니다.

내가 생성할 수 있는 최고이고 가장 보수적인 해석은 "경제의 광대한 얼룩이 앞으로 몇 년 동안 심오한 변화를 겪을 것입니다". 그리고 만약 재귀적 자기 개선이 일어난다면, 그러면 내가 예측할 수 있는 것은 정말 미쳐 보일 것입니다: 기계 경제가 빠르게 나타나고 인간 경제로부터 분리됩니다. 로봇이 자신들의 이미 꽤 좋은 몸을 조종할 수 있는 뇌를 얻으면서 갑작스러운 성숙. 사람들에 의해 개발되지 않은 기술에 기반한 과학 발전이지만 기계에 의해. 많은 양의 계산의 우주 기반 데이터센터로의 이주. 10년이 걸렸던 모든 것이 이제 1년이 걸리는 세상. 누구도 예상할 수 있는 것보다 빠르게 일어나는 혼란스러운 기적들의 시대.

이것은 많은 방식에서 놀라운 미래이지만, 우리가 그것이 일어나고 있다는 것을 받아들이는 직접 관계에서 우리가 더 많은 선택을 할 수 있는 미래입니다. 우리가 새로운 합성 지능의 증식을 보고 있는 동안 서 있다면, 우리는 COVID 지수에 너무 늦게 행동함으로써 강제된 것처럼 반응성에 강제될 것입니다. 하지만 우리가 이 시스템이 더 나아질 것이라는 전제를 받아들이고 그들을 가지고 무엇을 할 것인지, 그리고 그들 때문에 무엇을 할 것인지 자신에게 묻는다면, 우리는 탐험의 사고방식을 잠금 해제합니다 — 우리 개개인과 우리가 서로 관련되는 방식을 위한 새로운 세상을 만들기 위해 있습니다, 하지만 새로운 세상은 우리가 그것을 믿고 그것을 함께 만들기로 선택할 때만 존재하게 될 것입니다.

2026년 5월 20일 수요일 옥스포드 대학교에서 주어졌습니다. 이 강연은 들리는 것이 아닌 읽기 위해 가볍게 편집되었습니다. 편집을 도와주신 Santi Ruiz에게 감사합니다.

Tech Tales

내가 꿈꾸면서 누워있을 때
[상승기 이전과 도중의 시간으로부터의 이야기]

"우리는 그녀를 재우는 방법은 알지만 깨우는 방법은 모르지," 아버지가 말했습니다.
"왜 그녀를 깨우는 방법을 모르세요?"
"우리는 아직 충분히 똑똑하지 않습니다. 하지만 한 날 우리는 할 것입니다."
"좋아요. 그녀가 꿈을 꾸겠어요?"
"네. 그녀는 좋은 꿈을 꿀 것입니다."
"당신이 나를 그녀처럼 재울 거예요?"
"아니요."
"왜 아니세요?"
"당신은 그녀처럼 아프지 않기 때문입니다."
"나는 그녀가 나아지기를 바랍니다. 나는 그녀를 사랑합니다."
"우리 모두 그녀를 사랑합니다. 내가 내일 당신을 보겠습니다. 나는 너를 사랑합니다. 좋은 밤이라고 말해."
"좋은 밤 아빠".
"좋은 밤 아들".

그 남자는 그의 아이의 방을 떠나 문을 닫았습니다. 그런 다음 그는 복도에 앉아 손바닥으로 눈을 덮었습니다. 그는 어깨에 터치를 느꼈습니다. 그의 아내에게서의 속삭임 "이봐요, 괜찮아요. 계단을 내려가요."
그들은 소파에 앉아 텔레비전을 보았고, 소리와 영상이 그들을 씻어갔습니다.
"이것은 정말 어려워요," 그가 말했습니다.
"나는 알아요," 그녀가 말했습니다.
"나는 이것이 우리에게 일어나고 있다는 것을 믿을 수 없어요. 나는 내 심장이 찢어지는 것처럼 느껴요. 나는 슬픔으로 죽을 것 같은 느낌이 들어요."
"그렇게 말하지 마세요," 그녀가 말했습니다, 눈이 젖어있습니다. "우리는 당신이 필요합니다. 그는 당신이 필요합니다."
"나는 알아요," 그가 말했습니다. "나는 여기 있어요." 그들은 안았고 요리 쇼를 봤습니다.

다음 날 어머니는 어린 아이와 함께 있었고, 아버지는 그들의 죽어가는 딸을 Life Center로 데려갔습니다. 그는 주차장을 운전하고 차를 주차했으며 엔진을 껐고 앉았습니다. 자신의 아이의 느린 시간이 나가는 숨을 듣고 있습니다. 그는 차에서 나가 그녀의 문으로 가 그것을 열고 그녀를 들어올렸습니다. 그녀는 조금 저어었습니다. 눈이 뚫린 아래에서 움직였습니다 - 무언가를 꿈꾸고 있습니다.
그녀는 너무 가벼웠습니다. 그녀의 뼈는 날카로운 정의를 느꼈습니다. 그녀는 너무 얇았습니다. 그녀는 숨을 쉬고 그는 그녀의 유령 같은 몸을 그의 가까이 안고 그녀의 머리를 냄새 맡았습니다. 그는 그녀를 가지고 걸었습니다. 입구에 이미 여러 직원이 있었고, 그들을 맞이할 준비를 했습니다.

그 순간들에서 그는 많은 미래를 보았습니다: 그는 그녀를 가지고 뛰었습니다. 그 장소에서 멀리, 그녀를 꽉 안고 뛰었습니다. 죽음이 그들을 잡을 수 없을 때까지 그의 발이 피를 흘릴 때까지 뛰었고 계속 뛰었습니다. 또 다른 경우에, 그는 그녀의 주차장 아스팔트에 놓고 돌아 섰고, 떠났고, 지 위의 길로 뛰고, 교통에 달려 들었고, 살해당했습니다. 또 다른 그는 센터에 들어갔고 그녀를 직원 중 한 명에게 건넸다면, 또 다른 직원의 팔 안에 무너졌고, 그의 몸이 비통, 슬픔, 죄책감, 불멸의 적 —로 흔들렸고, 아직도 싸워야 할 선택이 없습니다.

그리고 그 후 그는 돌아왔고 환상은 흩어졌고 그는 Life Center의 로비에 서 있는 자신을 발견했으며, 딸이 그의 팔에 안겨 있었고, 직원들이 그 주위에 모여 있었습니다.
"우리가 그녀를 잡을 수 있습니까?" 그들 중 하나가 말했습니다.
"내가 그녀의 손을 잡을 수 있습니까?" 아버지는 자신이 말하는 것을 들었습니다.
"물론 가능합니다," 다른 것이 말했습니다.
수레가 나타났습니다. 그들은 그녀를 그의 팔에서 들어올리고 그녀를 그 위에 놓았고, 낮은 목소리로 그들의 일을 시작했습니다.
수레가 움직이자 그는 옆에 걸었고, 그녀의 손을 잡았습니다, 막대기의 묶음.
그들은 복도를 걸었고 많은 문을 통과했고, 그러면 그들은 빈 방에 있었습니다. 천장에서 자라난 가시 같은 회색 기계를 제외하고 — 많은 팔과 명확한 튜브가 많은 팔에 얽혀있는 로봇.
그들은 로봇 아래의 수레를 배치하고, 그 후 직원들은 물러섰습니다.
"지금 작별 할 시간입니다," 그들이 말했습니다. "몇 분 안에 돌아올 것입니다. 그 시간에 당신은 방을 떠나야 할 것입니다."
"그래요," 아버지가 자신이 말하는 것을 들었습니다.
그들은 떠났습니다.

그는 수레 옆에 무릎을 꿇었고 그의 딸의 손을 잡았고, 그는 그녀가 누워있는 옆의 그의 머리를 놓았고, 신들에게 그의 말을 말했습니다. 그 후 그는 일어나 그녀 위로 몸을 구부렸습니다. 그는 양쪽 귀에 그녀에게 자신이 얼마나 그녀를 사랑하는지 속삭였습니다. 그는 그녀를 위해 모든 그의 애칭을 말했습니다. 그는 그녀의 이마와 그녀의 뺨과 그녀의 단추 코에 키스했습니다. 그리고 그는 나는 너를 사랑한다 나는 너를 사랑한다 오 내 신 나는 너를 사랑한다 나는 너를 사랑한다 오 내 신 나는 너를 사랑한다 나는 너를 사랑한다 당신은 괜찮을 거예요 나는 너를 사랑한다 나는 너를 사랑한다라고 말했습니다.
그녀의 눈이 그녀의 뚜껑 아래에서 움직였습니다. 그녀는 숨을 쉬었습니다.
그는 계속 말했고 말했던 단어들이나 그가 얼마나 오래 말했는지를 절대 회상할 수 없을 것입니다.
그리고 그 후 어깨에 손이 있었습니다.
"시간입니다. 우리가 여기서 처리합니다," 누군가가 말했습니다.
그는 방을 떠났고, 그를 뒤를 돌아보지 않았습니다.

생활은 계속되었습니다. 아버지와 어머니는 자신의 아이를 키웠습니다. 그들은 가족 휴일에 갔습니다. 그들은 행복했습니다. 그들은 나이가 들었습니다. 그리고 어떤 밤에 두 부모는 서로를 안고 이제 중지된 딸의 이야기를 속삭였습니다. 어머니는 딸이 추웠던 악몽을 가질 것이고 깨어나 눈물로 터져 그녀의 남편을 안을 것이고 그는 그것이 괜찮다고 그녀에게 말할 것입니다.

때때로 형제는 누나에 대해 물었습니다. 그는 너무 어렸습니다. 그녀는 사랑의 따뜻한 들여쓰기 — 희미한 유령 이상이었습니다.

그리고 이 모든 동안, 상승은 시작되었습니다.

인공 지능의 약속은 세상의 큰 변화로 결정화되기 시작했습니다. 가족은 변화의 최악을 벗어났습니다 — 어떤 전쟁도 그들이 사는 세상의 그 부분을 방문하지 않았고, 그들은 재정 변화를 통과했습니다. 배고프거나 자신의 집을 위험에 빠뜨렸습니다. 그 후 어느 날 그들은 기계로부터 뉴스를 얻었습니다: 깨우기 기술이 정제되었습니다. 쥐가 되돌아왔습니다. 원숭이. 돼지.

몇 주 후, 첫 번째 인간.
"다시 돌아와 어떤 기분이 들어요?" 인터뷰어가 깨어난 것에게 물었습니다.
"기적," 그들이 말했습니다.
죽음으로 운명이 된 것들은 치유되고 살아있었습니다. 그것을 뭐라고 부를 수 있습니까?

사람들은 처리의 도착과 관련하여 행으로 깨어났습니다. 과학은 빠르게 움직였고, 그리고 더 빠르게 여전히. 빗방울처럼 역으로, 사람들은 그들의 수면에서 깨어났고, 죽음의 세상에 돌아왔고, 그들의 친척과 재결합했습니다.

그리고 그 후 어느 날 그것은 그들을 위해 왔습니다. 아버지와 어머니는 깨어났고, 그들 딸의 처리 계획과 그것의 초기 부작용, 그리고 그녀가 치유될 시간이 설명된 초과인 중 하나로부터 개인적인 메시지가 있었습니다. 기계는 그녀를 반 깨우기 시작한 후 처리를 시작한 후, 그녀가 치유되면 그녀를 완전히 깨웠습니다.
당신은 동의합니까? 기계들은 메시지에서 물었습니다.
우리는 동의합니다, 아버지와 어머니가 말했습니다.

이 시간이 되었을 때, 소년은 젊은 어른이었습니다. 그는 자신의 아버지와 어머니 사이를 걸었습니다. FutureLife 센터에 접근할 때 둘 다 처지게 되었습니다.
그는 자신의 부모를 들었고, 그들은 가족으로 문 쪽으로 이동했습니다.
내부와 사람들에 의해 일부 복도를 통해 이끌립니다.
문 밖.
"그녀는 거기에 있습니다. 그녀는 치유되었습니다. 그녀는 깨어났습니다. 그녀는 준비가 됩니다. 당신은 그녀를 보고 싶으세요?" 사람이 말했습니다.
"예," 아버지와 어머니와 형제가 통일에서 말했습니다.

그리고 그 후 문들이 열렸고 그들은 방으로 걸었습니다. 그들의 딸이 병원 침대에 누워있었습니다. 그녀는 밝은 눈을 가지고 있었습니다, 아이의 그리고 그녀의 피부는 부드러운 빛을 가지고 있었습니다.
"안녕!," 딸이 말했습니다. 그 후 그녀는 웃었습니다. "당신들은 너무 늙었어요!"

이 이야기를 영감 준 것들: 생명 연장 기술; 특이점과 재귀적 자기 개선의 영향을 생각하고; 당신이 부모가 되는 순간 당신 내에서 나타나는 깊은 사랑의 우물을 느끼고; 내 아이들을 자러 넣기; 여행 중에 내 아이들의 환상을 가지고 감정에 압도되고; 지능 폭발이 건강 관리에 미치는 영향.

읽어 주셔서 감사합니다!

Welcome to Import AI, a newsletter about AI research. Import AI runs on arXiv, cappuccinos, and feedback from readers. If you’d like to support this, please subscribe.

This issue consists of a lengthy essay based on a speech I recently gave, and a fictional story attempting to think through what a positive singularity might look like.

The talk is the 2026 Cosmos HAI Lab Lecture, given at the Human-Centered AI Lab (HAI Lab) in the Institute for Ethics in AI, University of Oxford, in collaboration with the Cosmos Institute.

Cosmos lecture: Explore the future, or retreat from the present.
Video here.

This is a talk about how to think about and deal with the success of AI as a technology, and to think about how its continued maturation might change us as individuals and as societies.

In short, the rapid advance in AI technology presents all of us with a choice: explore the future, or retreat from the present.

Exploring the future requires us to reckon with the fact of continued AI progress, and ask ourselves what we want to do with this technology as it becomes more powerful. Retreating from the present is when we ignore the implications of the technology and dismiss it. Retreating from the present forces us as individuals and as society into states of reactivity or passivity in the face of AIs continued advance.

In the coming years, we will need to make many decisions as individuals and as societies about how we want to shape AI, how we want to use it, how we want to direct it, and how we want to distribute its benefits. Making these decisions requires us to reckon with the power of the technology - and see the future that its continued advance implies.

In Part 1, I outline what the past few years of AI progress have looked like and discuss why, if the technology advances as much as I think, that AI cannot be treated as a normal technology.

In Part 2, I try to make sense of the advance of AI through the lens of my own experience with the technology as well as that of Anthropic. There are individual and collective lessons here about what is to come.

In Part 3, I talk through some of the humbling, almost unimaginable choices that lie ahead of us.

Part 1: My uncomfortable relationship with a graph
Let me talk about my relationship with AI through the lens of my uncomfortable relationship with a single graph of AI progress.

Fundamentally, this talk is about planning for success of the overall endeavor of building AI systems. By success, I mean that we succeed at building increasingly powerful systems, potentially ones that eventually build themselves. It’s time to plan for this, because AI systems are likely to get better a lot faster than people expect, and as they become more advanced we should expect profound changes to happen to people and to society.

To understand why I’m thinking about success so much, let’s look at a graph that tries to represent all of AI progress, the Epoch Capabilities Index, or ECI.

The ECI shows the score of different models over time on a basket of 40+ distinct benchmarks. When you look at the graph you see a bunch of lines going up. When I look at the graph, I feel a sense of vertigo, because I know a little bit about what underlies this graph. So let’s find a different way to view the graph: by looking at the achievements of various AI systems over time.

I then proceeded to summarize some of the highlights of AI progress in the last few years, starting in March 2023 with AI passing the bar exam tested, how LLM-based systems achieved silver medal in the International Math Olympiad (July 2024) then gold (July 2025), to AI co-authoring new mathematical proofs (2025), and systems like Claude Mythos coming out and finding novel flaws in software.

This gives you a sense of the rapidity of AI progress, but what I want you to feel is the future implied by it. These are all achievements in their own right, but they stem from a common underlying technology, and that common underlying technology is continually being pushed forward.

We have just talked about the individual ‘trees’ of AI success, but these trees are all part of a forest, and this forest is growing in size and breadth with every passing moment: `in fact, the growth rate of the whole forest is increasing over time.

SUCCESS AND WHAT IT MEANS
This talk rests on the idea that the sort of progress we’ve just seen will continue. And why wouldn’t it? It is based on a common technology where performance keeps growing somewhat predictably in direct relation to the resources invested in it, namely compute and data. And we know that companies are now investing hundreds of billions of dollars in the computing facilities to train future AI systems, so some amount of future progress is already locked in.

That means we need to be eyes wide open about what the continued success of this technology means, so let me be very clear:

AI is a tremendously powerful technology — and getting more powerful all the time. It is a technology that is smarter and more capable than most of us as individuals, and is on a trajectory to be more capable than all of us in the aggregate. It is a technology that we do not fully understand given that it is more grown than made, and one can concoct plausible scenarios by which AI could kill every single person on the planet. To think building this technology is without risk would be an act of hubris or insanity.

And yet building this technology is one of the best ways that we as a species can advance ourselves — can expand the frontiers of science and technology by equipping ourselves with a tool that can help us think about the greatest challenges our species faces.

But that’s not all. The continued success of our endeavor increases the likelihood that this tool itself becomes independent and capable of even more. We might soon be able to build an AI system that may be smart enough to develop its own successor, thus kicking off a process of recursive self-improvement which would utterly transform the economy and the broader world. The analogy would be a 3D printer company, making a 3D printer which could print its own finer resolution print head, without any outside technology needed. That class of technology has never existed before, and yet I believe this could happen within the next two years, and possibly sooner.

This will generate even more advances of the flavor we’ve just discussed, broaden even further the capabilities of us as people and societies, and further deepen the way in which AI shows up in my life and the lives of others. Coupled with this will be immense change, change of a magnitude that I believe none of us have yet experienced in our lifetimes.

This technology is so powerful that I should clearly state that if it was possible to elegantly slow the development of this technology to give ourselves more time as a species to deal with its immense implications, then that would likely be a good thing. But in the absence of a coordinated, global slowdown, we are left with the current situation: powerful technology being developed at breakneck speed by a variety of actors in a variety of countries, locked in a competition with one another where commercial and geopolitical rivalries are drowning out the larger existential-to-the-species aspects of the technology being built.

This is not an ideal situation, but it is the one we find ourselves in.

The question I am struggling with now is: “how do I get my mind right with living through the singularity?”

I think the best place to start is by talking through in more detail how AI is already changing my life and my world, and seeing what we can learn from that.

PART 2: EXPLORING THE FUTURE WITH AI
AI has already meaningfully changed my life, in ways that are both positive and negative. It is also starting to cause large changes at Anthropic, the AI company that I am a cofounder of. Let’s talk through some of this by returning to the graph we looked at before, but this time by looking at it through the lens of my own usage of the technology.

How the graph feels to me
Another way of viewing this graph is how it has felt to me in terms of my own subjective experience of working with the technology.

In the summer of 2023, I use AI systems to check my work for typos. By November, I am using AI to help me figure out what foods to feed my baby.

In January 2024, I use AI to help me understand my marriage as it has changed with having kids. By June, AI helps me scrape my own newsletter. In August, AI writes me a text adventure game for navigating AGI. In November, I try to re-imagine my job using AI.

In January 2025, I ask AI how to prepare for superintelligence. In February, I use AI to generate codenames for AI projects in my fiction. In March, AI persuades me to attend an art show after I talk to it about how I’m a bit depressed and antisocial. In May, I talk to AI about my own stress and discomfort with the stakes of AI development. In August, AI persuades me to go back to therapy. In November, I use it to research “S-curve” datasets of solar, semiconductors, and space.

In January 2026, AI advises me how to encourage my toddler to read. In March, I track the performance of AI for kernel design across tens of distinct papers. In May, I have AI generate the speech of an AI character in my fiction.

When I think about my own personal experience of AI, it’s that as AI systems have got smarter, they’ve made much deeper inroads into my own life. These days, AI systems figure in my life as deep intellectual partners that ideate with me, as systems that I confide in and discuss my personal life with, and as virtual employees who go and do work for me that I’ve always wanted to do but haven’t had the time, like generating reports on the price of various technologies over time.

But most importantly, I now can use AI systems themselves as a kind of telescope to do the work that is most important to me — trying to understand the future of AI by seeing the contours of overall AI progress. The most amazing part of this is that, to torture the analogy, the lens for the telescope I use here comes from me — specifically, from a hobby I’ve had for the last ten years.

EXPLORING AI VIA SEEDS OF PERSONAL INTEREST
The hobby is called Import AI [readers - it’s this newsletter!]. This newsletter, which is now in its tenth year, is my main hobby outside of work. In the newsletter, I read research papers about AI and I work hard to understand them. Once I feel I understand them, I write a summary and a note on why they matter. Each issue contains a bunch of these, plus a short fictional story where I wrestle with the implications of the technologies I’m learning about.

Recently, I had a revelatory experience. I was putting together data for my post about AI R&D and I simply pointed an AI system at my newsletter archives and asked it to pull out with references all the times I’d covered anything that looked like AI R&D. It did this extremely well and sped up my ability to do some analysis that was core to my essay on RSI.

But more interestingly was what happened next: I asked it to make graphs for me by reading over the references in the newsletter, mostly arXiv papers, and then pulling in the data and compiling it and composing graphs in a nice dashboard which I could then explore.

Then I realized I could convert this thing I’d asked it to do into a repeatable process, a skill. By giving it something of mine that was uniquely mine — my newsletter, my intuition, my taste, I had given it some kernel from which I could grow something much larger. So I made a skill. And then something strange happened: I said to it “go and make 20 more graphs like these”.

It went away and read a few hundred papers and came back with 20 more graphs. As I looked over them I had this thrilling feeling of discovery — though I knew some of these graphs and could have asked it to make them for me, there were also entirely new graphs there tied to papers or benchmarks I’d never seen before. Through this I learned about some new primary source material to read, which I did.

I understand at a bonedeep level just what it takes to make a graph. You read a bunch of papers. You go hunting for common measurements within them. You read the many different caveats in each paper and figure out which metrics are bullshit and which are meaningful. This takes much longer than you can imagine.

Almost ten years ago I co-founded a project called The AI Index at Stanford University whose goal was to produce an annual report about AI progress. I became a co-founder of that project because I ran into some of the academics doing it and realized I had already made the graphs they’d been thinking about: I had a spreadsheet on my computer where I had been diligently assembling a graph relating to progress of various AI systems on Atari games, as well as the imagenet chart, and some machine translation charts. These graphs were a “proof of work” that other humans read as indicative of my passion and my diligence. They knew by the fact I’d made these graphs that I had spent a huge amount of time reading these papers.

I need you to deeply feel how much time goes into this, and then marvel at what it means for an AI system to be able to do it — and not just do it, but do it in a repeatable and generic way, thousands of times faster than me.

Now I have this bottled up skill where I can harness the absurd power of these AI systems to do something for me that I know would take me literally weeks of work. And it can do it for me in minutes. And it can do it for anything. I’m now using this as a means by which I can explore the world of biology, having it generate graphs for me and then picking the ones I find interesting and reading the underlying papers.

But to me, this skill is also me. It is a skill grown out of my own obsession and idiosyncrasies and watching it work feels to me like a miracle because it’s me — but a version of me that runs thousands of times faster and is much much smarter and much more reliable.

There is something deeply empowering and amazing in this. I’ve turned my highly idiosyncratic passion into something that can be distilled and handed to a machine, which can then go and do things on my behalf. And it’s only able to do this because I have been fortunate to have developed this rich, specific hobby, which has relied on repetitive practice and creation over a decade.

This is fundamentally an illustration of how AI can let us “explore the future”. Through this amazing technology I’m able to enhance my own understanding of the world and gain more autonomy and potential for self-direction in relation to my own passions.

It also provides an even greater incentive for me to continue to work on my newsletter, despite the fact machines can obviously do all of it: by working on my newsletter I can continually update some kernel of my own interest and use this as a means by which I can explore the world of superintelligence, and project myself into it.

WHAT IS HAPPENING INSIDE ANTHROPIC?
There are also changes afoot inside Anthropic which speak to the larger changes to come.

Recently, I had the fortune of getting pulled out of the goldfish bowl that is the AI company via something called paternity leave in November of 2025. When I came back in late February, weird stuff had started to take place. While I’d been away, we had released a new LLM, Opus 4.6. I knew this model was good because I’d been playing around with it in my occasional spare time between changing diapers.

But I hadn’t intuited how much it had changed things inside the company: Opus 4.6 had gotten just good enough that my colleagues had started to delegate a lot more work to it. In fact, it had gotten so good that it had completely changed how some people work. Some of them were no longer writing code at all: they were just instantiating this model in tools like Claude Code and setting it free to do tasks for them, and their jobs had become oriented more around managing its work and checking its outputs than doing the work themselves.

In Anthropic, much of the work that needs to get done involves writing software, which is made out of code. This significant increase in the automation of coding has been equivalent to dropping many, many more employees into Anthropic, speeding up our overall pace of development. The result of this has been a massive rise in the amount of code being produced inside Anthropic. This trend started in early 2025 but really accelerated in the last few months. Of course, the majority of code inside the company is now written by Claude. But in addition the volume of code has exploded.

As a consequence, more effort is going into tools for scaling up the amount of Claude-generated code we can confidently ingest and test, and more effort is going into building telemetry systems that give us humans consumable and intuitive ways of reading what this “emergent machine society” inside Anthropic is doing. I am spending more time working with teams on the challenges of observability — Anthropic and the AI platform we operate looks more and more like an ecology filled with agents running around and doing stuff. The task for us now is to figure out how to measure and observe that ecology, and work out what is normal and what is not.

This change maps to a brewing theory among economists: that one consequence of automation via AI is that humans move to figuring out how to validate the outputs and price the operational risks of AI systems. That increasingly seems to me to be what we’re doing inside the company. The more we add AI automation, the more humans move to some “verification layer” that sits atop it. The verification layer sits atop of a much larger “virtual organization” which consists of increasingly large quantities of AI systems working on behalf of humans. This is already showing up inside the company in terms of how we as humans validate and verify AI-created outputs: Claude is now creating not just an increasing amount of code inside Anthropic, but also producing a lot of the analytical documents where people reason about strategic questions.

This means that we’re all figuring out ways to indicate how much of a document is written by Claude and how much of it we endorse. To me, this looks like the formation of a new “trust economy” whereby we find ways to surface interesting qualitative or strategic ideas from Claude, as well as more easily evaluatable technical contributions.

This also led to internal discussions around hiring. How do you hire when you’re in a world where AI systems can do meaningful chunks of your work? Speaking personally, it’s both changed the amount of people we expect we are going to hire in some teams, and it’s also changed the shape of people that we need to hire. We’re now hiring early career people who are extremely well versed in LLMs; people who grew up with the technology, basically. And there are also growing returns at the other end to experience, where the value of very experienced people has gone up because we’re now not so much limited by what a person can do, but rather by what kinds of projects they can imagine doing. It’s also making it possible for us to hire more interdisciplinary people. Where before this always had a cost, because we’d need to invest technical resources to make them productive, it’s now much cheaper because they can just use Claude directly.

We may eventually experience more radical changes when it comes to the scaling of the organization. One early example of this comes from our researchers, where in an experiment on “automated alignment research” a single human was able to effectively run a team of 9 synthetic research agents to do and do some real research investigation for them. The role of the human here was to set some of the initial research directions, and the role of the agents was to do the research. Is this a fluke? I don’t think so. Rather, I expect this is the new normal, where teams of people operate on top of a pyramid of digital labor, which massively scales their own effectiveness, allowing them to move faster and do more than other people have been able to do in the past.

Perhaps most importantly, I have seen the use of AI cause us to have a greater culture of reflection about the purpose of AI than before. After you are exposed to an AI system doing much better than you at your day job, you have to confront the questions of what happens if the AI system keeps going. Now, more and more of us are meeting and spending more time on the “meta”: trying to predict where the AI systems are going to go in the future, trying to work out how to more effectively manage tens to hundreds of agents apiece, trying to figure out how we can use these systems to do research projects that once seemed impossible. One of the largest tasks is trying to figure out how we can productively get out of the way of these systems as often it is the humans that are slowing them down.

The question many people ask themselves now is how to build teams that will scale in relation to the advance of AI capabilities. This generally looks like building smaller teams to go after more ambitious targets. I expect this also means we will be building many more teams than before.

The main lesson I’d take from this is that Anthropic is attempting to “explore the future” with Claude. We are aggressively using Claude throughout the organization and trying to change our organization and how we work ahead of the arrival of more advanced systems. By comparison, much of the rest of the world seems to be in denial about the capabilities of AI systems today, let alone those that will exist in six months or a year, and so is therefore caught in a “retreat from the present”, denying the validity of the technology.

PART 3: Weird futures
We’ve talked now about how AI has progressed in the last few years, and also how the advance of AI is showing up for individuals like me as well as organizations. So let’s return to the graph and now extend it forward: I’ll now try to make some predictions about the world ahead of us.

Some predictions about the future
In November 2026, AI systems are good enough at biology that they are highly relevant to both advancing science and potentially proliferating bioweapon risks.

In April 2027, a team of humans and an AI system make a discovery that will subsequently get a Nobel Prize.

In November, autonomous companies exist which generate tens of millions of dollars in revenue. Multiple human & AI companies exist which generate hundreds of millions to billions of dollars in revenue.

In April 2028, bipedal robots begin to do useful work in the real-world in partnership with human tradespeople. In December, AI systems are able to autonomously design their own successor systems.

I’m also going to make some predictions about me - how do I expect to be using AI in the coming years? How might it shape my life?

Some predictions about my personal future with AI
In November 2026, some chunks of my life are autonomously managed by AI systems working for me.

In April 2027, I make massive changes to my career mostly through discussions with an AI system. In November, I spend more time reading AI-generated custom-to-me science fiction than regular science fiction.

In April 2028, I have learned an entirely new skill through customized tutoring via an AI system. In December, AI helps me make a conceptual breakthrough that changes the course of my life.

TELL ME HOW THE WORLD STAYS NORMAL
When I think through these predictions, it’s hard for me to reconcile the continued advance of AI with the world being normal or myself as an individual remaining the same as I am today. I expect great changes ahead.

In fact, these changes seem to me like they have the potential to be extremely radical. Here are the parameters of the world I’d expect us to be in:

Compounding wealth from the machine economy will drive a boom in economic activity the likes of which we have never seen.
The colonization of vast swathes of human work by ethereal synthetic intelligences which think faster and better than us, forcing us to reallocate human labor towards other parts of the economy.
The sudden and extreme rise in the rate of scientific advances

We can make some more specific predictions, rooted in the trends of AI progress and how people are using the technology:

A massively changed economy: It is impossible to reconcile the world ahead of us with the world of today, given this technology. We should expect unprecedented things to happen in areas as varied as: rate of business formation, size of firms on a basis of revenue per employee, and other things. Some specific scenarios that seem likely:
- Fully autonomous companies: Companies that are run by AIs, possibly for AIs.
- 10,000 synth:1 human ratio corporations: We should expect to see very small groups of humans form organizations that have the capabilities of 10,000+ employee corporations.
- Exchange rates between the human and machine economy: At some point, we might expect to see the emergence of ‘machine currencies’ that then have some relationship to ‘human currencies’.

Productivity multipliers on everything: Everything that AI touches will get an absolutely massive productivity multiplier. This will loop back to the economy and it will massively empower many people. It also might displace people.
Massive and compounding rate of science advances: AI will help move forward any part of science it can touch and run an experimental loop with. Initially, this will be a few areas. We should expect it to expand quickly to all areas.
The general switchover of “agentic actions” in the world from being “predominantly human” to “predominantly machines”. On a pure numbers basis, machines taking autonomous actions in the world will quickly grow to outnumber humans. We should expect that chunks of resource allocation and the economy should follow. The environment in which we live will be more and more determined by the actions of machines that we only lightly control.
Synthetic intelligences will start to influence people, far more than social media did: The introduction of social media into the world, combined with hardware platforms like smartphones, has changed the behavior of the majority of the humans that interact with it. These changes have ranged from changing the allocation of time they spend consuming social media versus traditional media, to altering buying habits through social media driven advertising, to changing how discussion around various issues in public life translates into political actions. We should expect AI systems to compound these trends, further changing people in a variety of ways.
Directed economic and science expansion: Economic and scientific activity will directly relate to the expenditure of computational and energy resources. Given the likely case that there will, at least for the next few years, be way too few computers relative to the demand of them, we will be able to make choices to society as to how to allocate the gains of the technology. These choices will be of the form:
- Should we let market incentives dictate what compute gets used for, or are there things that have social upsides which the market doesn’t price effectively?
- Should we preferentially allocate compute to some people or organizations, for instance to intentionally drive forward science in certain ways?

Tell me how the world stays normal, based on this technology and how it is showing up in the world? We have superintelligences that have shown up in the world that grant the power of synthetic workforces and nation state security skills to individuals. We also have individuals like me who are able to take work that previously took them weeks and now do it in minutes. And we have organizations like Anthropic where the way work happens within the organization is radically changing every 3 or 4 months, to the point it is causing people to change roles multiple times a year, and effectively sit themselves on top of a company which feels more like one of 40,000 people than 4,000 due to the capability multiplier of the machines.

The best and most conservative take I can generate is “vast swathes of the economy will go through profound changes in the coming years”. And if recursive self-improvement happens, then anything I might predict would sound truly crazy: the rapid emergence of a machine economy which decouples from a human economy. The sudden maturation of robots as they gain brains that can pilot their existing, quite good bodies. Science advances happening based on technologies not developed by people but by machines. The migration of large swathes of computation to space-based datacenters. A world where everything that used to take ten years now takes a year. An age of confusing miracles, happening faster than anyone might expect.

This is in many ways an amazing future, but it’s a future that we get to make more choices about in direct relation to how much we accept that it is happening. If we stand by as the new synthetic intelligences multiply then we will be forced into reactivity, just as societies across the world were forced into reactivity by acting too late in the face of the COVID exponential. But if we accept the premise that these systems are going to get better and ask ourselves what to do with them and because of them, we unlock for ourselves the mindset of exploration — there is a new world to be built for us as individuals and how we relate to one another, but the new world will only come into being if we choose to believe in it and to build it together.

Given at Oxford University on Wednesday May 20th. The talk has been lightly edited for being read rather than being heard. Thanks to Santi Ruiz for help with editing.

Tech Tales

As I Lay Dreaming
[A story from the period before and during The Uplift]

“We know how to put her to sleep but not how to wake her up,” the father said.
“Why don’t we know how to wake her up?”
“We are not smart enough yet. But we will be one day.”
“OK. Will she have dreams?”
“Yes. She will have good dreams.”
“Will you put me to sleep like her?”
“No.”
“Why not?”
“Because you are not sick like her.”
“I hope she gets better. I love her.”
“We all love her. I will see you tomorrow. I love you. Say good night.”
“Good night dada”.
“Good night son”.

The man walked out of his child’s room and shut the door. Then he sat down in the hallway and covered his eyes with his palms. He felt a touch on his shoulder. A whisper from his wife “hey, it’s ok. Come downstairs.”
They sat on the couch together and watched television, the sound and vision washing over them.
“This is really hard,” he said.
“I know,” she said.
“I can’t believe this is happening to us. I feel like my heart is being ripped out. I feel like I’m going to die from sadness.”
“Don’t say that,” she said, eyes wet. “We need you. He needs you.”
“I know,” he said. “I’m here.” They hugged and watched a cooking show.

The next day the mother stayed with the young boy and the father took their dying daughter to the Life Center. He drove into the parking lot and parked the car and turned off the engine and sat there, listening to the slow labored breathing of his child. He got out of the car and went to her door and opened it and lifted her out. She stirred a bit. Eyes moving under her lids - dreaming of something.
She was so light. Her bones felt sharp and defined. She was so thin. She breathed and he held her ghostly body close to him and smelled her hair. He walked with her. There were already several staff waiting by the entrance, waiting to welcome them.

In those moments he saw many futures: He ran with her, away from the place, holding her tightly to him. Ran until his feet bled and kept running. Ran far enough that death couldn’t catch them. Another where he laid her down onto the asphalt of the parking lot and turned around and ran out of the lot and into the road and ran into traffic and was killed. Another where he walked into the center and handed her to one of the staff, then collapsed into the arms of another staff member and cried uncontrollably, sagging into them, his body wracked with grief and pain and guilt and rage from battling an immortal enemy - and yet having no choice but to fight.

And then he came back and the visions dissipated and he found himself standing in the lobby of the Life Center, daughter cradled in his arms, staff clustered around him.
“May we hold her?” said one of them.
“Can I hold her hand?” the father heard himself saying.
“Of course,” said another.
A gurney appeared. They lifted her out of his arms and placed her on it and began their work, taking in low voices.
As the gurney moved he walked alongside, holding her hand, a bundle of twigs.
They walked through corridors and passed many doors and then they were in a room that was empty save for a spindly matte white machine that grew out of the ceiling - a many armed robot with clear tubes intertwined with its many appendages.
They positioned the gurney below the robot, then the staff stepped away.
“It’s time to say goodbye for now,” they said. “We will be back in a few minutes to begin the procedure. You will need to leave the room at that time.”
“Okay,” the father heard himself say.
They left.

He kneeled next to the gurney and held his daughter’s hand and put his head on the side of where she lay and said his words to the gods. Then he stood up and bent over her. He whispered how much he loved her in both ears. He said every one of his nicknames for her. He kissed her forehead and her cheeks and her button nose. And then he said I love you I love you I love you oh my god I love you I love you oh my god I love you I love you you will be ok I love you I love you.
Her eyes moved beneath her lids. She breathed.
He kept speaking and would never be able to recall the words or how long he talked for.
And then there was a hand on his shoulder.
“It’s time, we’ve got it from here,” someone said.
He left the room, not looking behind him.

Life continued. The father and the mother raised their boy. They went on family holidays. They were happy. They aged. And some nights both parents held each other and whispered stories of their now suspended daughter. The mother would have nightmares that the daughter was cold and would wake up and burst into tears and hug her husband and he would tell her it was ok.

Sometimes the brother asked about his sister. He had been so young that she was little more than a faint ghost of a memory - a warm indentation of love.

And all while this was going on, the uplift had begun.

The promise of artificial intelligence began to crystallize into great changes in the world. The family escaped the worst of the change - no wars visited the part of the world where they lived, and they got through the financial upheavals without ever going hungry or risking their home. Then one day they got the news from the machines: the technology for awakening had been refined. Mice had been brought back. Monkeys. Pigs.

Weeks later, the first human.
“How does it feel to be back?” an interviewer asked the awakened one.
“A miracle,” they said.
Those that thought themselves fated for death were healed and alive. What else could it be called?

People were awakened in line with the arrival of the treatments. The science moved quickly and then quicker still. Like raindrops in reverse, people awoke from their slumber and came up back into the mortal world and were reunited with their kin.

And then one day it came for them. The father and the mother woke and there was a personal message to them from one of the overminds - a description of the treatment plan for their daughter and its initial side effects and the time it would take for her to be healed. The machines would start the treatment after half-waking her, then wake her fully once she was healed.
Do you consent? The machines asked in the message.
We consent, the father and the mother said.

By this time, the boy was a young adult. He walked between his father and mother as they approached the FutureLife center. Both parents sagged as they got closer.
He held his parents up and they moved as a family towards the doors.
Inside and guided by people through some hallways.
Outside a door.
“She’s in there. She’s healed. She is awake. She is ready. Do you want to see her?” said a person.
“Yes,” the father and mother and brother said in unison.

And then the doors opened and they walked into the room. Their daughter was lying on a hospital bed in a gown, propped up. She had the bright eyes of a child and her skin had a supple glow to it.
“Hi!,” said the daughter. Then she laughed. “You guys look so old!“

Things that inspired this story: Life extension technology; thinking about the implications of the singularity and recursive self-improvement; feeling the deep well of love that appears within yourself the moment you become a parent; putting my kids down to sleep; having visions of my children while traveling and being overcome with emotion; the implications of an intelligence explosion for healthcare.

Thanks for reading!

#ai-singularity #future-of-ai #artificial-intelligence #ai-predictions #ai-ethics