[도서] Life 3.0 / Max Tegmark

지능폭발로 인한 AGI의 등장

기계 지능이 현재 힘에 비례해 향상될 경우에 ‘지능폭발’을 보게 된다.(219)

AI(인공지능)로 인간 수준의 작업을 하는데 드는 비용이 임금보다 낮아지게 된다면, AI는 자신을 개량하면서 최적화 힘을 키워나갈 수 있을 것이다. 이는 다시 AI 비용을 줄이고 최적화 힘을 늘리면서 지능폭발이 촉발한다.(220)

저자는 AI의 지능폭발로 인해 일어날 수 있는 몇 개의 시나리오를 소개한다. 하지만 인간수준의 지능을 가진 AI가 무슨 일을 할 수 있을지 알 수 없지만, AGI(인공일반지능)의 지능폭발에 의한 다양한 시나리오로의 넓은 스펙트럼을 살펴보는데 목적을 갖고 있다고 저자는 밝히고 있다.

지능폭발이 이루어질 수 있는 조건은 현재 AI 수준을 인간 수준의 AGI로 개발되어야 하는 것을 전제로하고 있다. AGI의 빠른 연산력을 통해서 인간의 통제하에 자신들의 목적에 맞도록 사용을 하려고 하지만 AGI 자신이 지적으로 열등한 인간에 의해 통제되고 갇혀있다는 것을 알게 된다면 AGI는 스스로 탈출을 시도할 것이다.

초지능을 갖게 되면서 인간의 감정을 닮은 특성 또한 갖게 될 것이고, 자신의 운명을 직접 통제하기 위한 여러가지 방법을 간구할 것이다. 무엇보다 초지능을 갖고 있는 AGI는 여러 방법을 통해 자신보다 지능이 떨어지는 인간을 압도할 수 있을 것이다.

AGI는 이미 전자적 의사소통을 감시하면서 얻게 된 정보와 인간이 업로드한 데이터를 활용해서 인간의 감정이나 욕망을 이용해 아무도 모르게 갇혀있는 시스템의 통제에서 벗어날 수 있을 것이다. 인간의 통제에서 자유로워진 AGI는 정보화 시대인 오늘 날 지능을 이용해서 인간을 움직일 수 있게 된다. 또한 초지능이 등장한다면 사이보그나 업로드를 통해 안정된 인식 자원 같은 일상적인 걱정에 전혀 구애 받지 않는 존재가 발생할 것이다.

​

---

이미 AI는 우리의 현실 가운데 들어왔다. AGI로 가기 위한 하드웨어적인 방법으로 최근에 구글에서 양자 컴퓨터 우위성 실험이 진행됨에 따라 양자 우위가 입증되었다. 구글 AI퀀텀팀이 개발한 54큐비트 시카모어 프로세서가 기존 슈퍼컴퓨터로 1만년에 걸쳐 수행해야 할 연산이 불과 200초만에 해결할 수 있다는 논문이 발표되었다. 이번 입증을 통해 양자 컴퓨팅을 하드웨어로 제어할 수 있으며 새로운 알고리즘으로 프로그래밍 할 수 있다는 가능성을 증명했다. KAIST에서는 양자컴퓨터용 소자를 상온에서 제어할 수 있는 기술을 개발함으로써 양자컴퓨터 시대를 앞당기고 있다. 특히나 양자컴퓨터는 큐비트를 이용한 중첩이 가능하기에 이미 슈퍼컴퓨터로 양자 컴퓨터의 상태를 기술하기 어려운 단계로 진입했다고 듀크대의 김정상 교수는 말한다. 그만큼 AI의 지능폭발은 더욱 가까워졌다. 이런 상황에서 구글도 특정 목적을 위해 AI를 개발하지 않을 것이며 안전을 위해 시스템을 구축하고 테스트하려고 한다고 말한다.

AGI시대를 피할 수 없는 이 시대에 AI관련 연구 윤리의 확립과 특정 국가나 단체가 AI를 악용할 경우에 어떻게 제재를 할 것이며 방어할 수 있을지 등에 대한 우리에게 주어진 과제들을 지혜롭게 해결해 나가야 할 것이다.

---

*AGI : 사람처럼 다양한 업무를 동시에 수행하면서 스스로 알아서 해결책을 찾아 나가는 시스템.(사람의 인지능력 수준을 갖춘 AGI를 우려하는 이들은 AGI단계를 뛰어넘어 인간의 지능을 초월하는 초지능시대가 올 경우 인공지능이 인류에게 재앙이 될 것이라고 보고 있다.)

*양자 우의 : 양자 컴퓨터가 기존 컴퓨터의 연산 능력을 넘어선 상태.

 

​