자동화된 AI 연구는 인간이 10년에 걸쳐 이룰 알고리즘 발전을 1년도 채 되지 않아 압축해낼 것입니다(이는 보수적인 추정치입니다). 이는 AGI 자체를 넘어 GPT-2에서 GPT-4로의 도약에 해당하는 5 OOMs(10만배) 이상의 성능 상승을 의미합니다. 마치 유치원생이 영리한 고등학생으로 성장하는 것과 같은 질적 도약이, 이미 전문 AI 연구원 수준의 지능을 가진 시스템 위에 추가로 이루어지게 될 것입니다.

 

​

 

물론 몇 가지 현실적인 장애 요인이 존재합니다. 실험용 컴퓨팅 자원의 한계, 인간과의 협업 필요성, 알고리즘 발전 속도의 둔화 등이 대표적이죠. 이에 분석을 진행할 예정이지만, 어떤 요소도 기술 발전 속도를 결정적으로 늦추기엔 역부족일 것입니다.

 

​

 

우리가 알아차리기도 전에 우리 손에는 초지능이 놓여 있을 겁니다. 인간을 압도적으로 뛰어넘는 이 AI 시스템들은 우리가 전혀 이해할 수 없는 창의적 행동 패턴을 보이며, 수십억 규모의 미니 문명을 구축할 수도 있습니다. 이들의 힘은 실로 막대할 텐데요. 초지능을 다른 분야의 연구개발에 적용하면 머신러닝 분야를 넘어 폭발적 진보가 시작됩니다. 로봇공학의 급속한 해결, 과학기술 전 분야의 단기간 도약, 이어진 산업 혁명의 물결이 예상되죠. 더 나아가 초지능은 결정적인 군사적 우위를 제공하며 상상을 초월하는 파괴력을 발휘할 수 있습니다. 인류 역사상 가장 긴장감 넘치고 불확실한 순간이 우리를 기다리고 있습니다.