– 상상속의 물질이긴 하지만 커트 보니것의 소설 [고양이 요람]에는 아이스9이라는 물질이 존재한다. 쉽게 말해 물에 닿으면 그 물을 아이스9으로 전환시키는 물질이라 결국 세상 모든 물이 아이스9이 되고 종말이 온다. 화학의 세계에서는 계속 새로운 원소를 찾는/만드는 실험을 하다보면 이런 일이 벌어질 수도 있다는 우려도 있었다.
– CERN의 세계 최대 입자가속기를 건설하던 시절 유력한 우려중 하나는 실험에 성공하는 순간 블랙홀이 만들어지거나 해서 지구 혹은 우주가 멸망할 거라는 거였다. 물론 확신은 할 수 없지만 그럴 가능성도 0.0000001%는 있는 거니까…
– Y2K라는 게 있었다…
물론 이렇게 우려했으나 별일 아닌 걸로 넘어가는 경우가 있었다고 AI도 아무 문제가 안될 거라는 뜻은 아니지만, 확신하기 힘든 우려에 대해 고민하고 고민하다 그 위험의 진위여부를 내 팔에 소름이 돋는가 안돋는가로 판단하는 경우가 많다. "어! 소름돋았어! 너도 이 가설 듣고 소름 돋는지 봐봐 그럼 알거야!" 이런 것. 특히 그게 예측이 사실상 불가능한 미래의 일이라 어느 쪽으로도 확실하게 증명이 불가능한 경우 더 그렇다. AI의 위험이라는 것도 아직까지는 이론적으로 존재할 뿐, 실제로 AI가 인간을 멸망시키기 위한 움직임을 보이기 시작했다거나 하는 실존 위협은 아니다. 아직까진.
—-
반면 이미 현실에서 시작된 종말의 징후들은 많다.
인류는 기후변화에 대한 대책이 없다. 물론 탄소배출을 줄이고 하는 노력이 있지만 그건 뉴스에서 나오는 얘기고, 개개인들은 생활패턴에 큰 변화를 줄 생각이 없다. 게다가 탄소배출 줄이기 운동을 하자는대로 다 해도 기후변화를 늦추는 수준이지 이미 북극소용돌이 등이 북반구를 덮치기 시작하며 기후변화로 인한 종말의 전조현상은 현실로 왔다. 전력을 다 해 인류가 거기에만 집중해도 이미 늦은 상황이다. 그리고 인류는 거기에 전력을 다 할 의지가 없다.
인류는 스스로의 욕심, 야망에 대한 대책이 없다. 냉전이 끝나 이제 핵전쟁으로 끝나는 종말의 두려움에서 벗어나나 싶었지만 애초에 핵무기를 개발하고 수십만을 핵공격으로 죽였던 당사자인 미국이 또 다시 러시아 중국 등 핵보유국들을 상대로 군사작전을 도모중이다. 냉전이 끝난 91년 23시 43분까지 뒤로 당겨졌던 지구종말시계는 2023년 지금 다시 23시 58분 30초까지 진행했다. 이대로 가면 핵전쟁이다.
그 외에도 우리가 멸망할게 뻔한 이유는 많다. 핵전쟁이 벌어지지 않아도 일본은 녹은 노심 해결할 방법이 없고 계속 방사능 오염물질을 전세계로 뿌릴 거다. 일본 혼자 그걸 들이쉬고 먹어서 없앨 생각은 전혀 없다. 어떻게든 전세계와 공유할 생각이다.
코로나는 맛보기였다. 그 전에도 몇 년에 한 번씩 조류독감, 돼지열병, 구제역 등이 나타났는데, 그 주기가 꽤 정확하게 점점 줄어들고 있다. 그렇다고 코로나는 우리가 잘 대처했느냐… 한국 외에 대부분 국가에서는 이걸 막지 못했기에 이제 풍토병이 되어가고 있다. 옛날 인플루엔자나 흑사병처럼 한 번 돌고 사라지는 게 아니라 독감처럼 계속 주기적으로 유행한다는 뜻이다. 거기에 새로운 전염병들도 등장할 거고. 그 원인은 기후변화고 국가적 이기주의다. 우리의 욕심이라는 게 그렇게 무섭다.
—-
이런 문제들과 비슷한 선상에서 AI를 봐야할까? AI에 의한 멸망도 분명 하나의 가능성이긴 한데, 다른 멸망원인과 한가지 다른 점이 있다. AI를 통해 다른 모든 멸망의 원인 요소를 해결할 방법을 찾을 수도 있다는 거다. 충분히 강력한, 우리가 이해할 수 없는 수준의 지능을 가진 AI가 나오는 시기는 기술적 특이점을 의미한다. 인류가 이 모든 문제를 해결하지 못하는 이유가 능력이 부족해서인데, 우리 인류는 다행히 우리가 상상도 할 수 없는 능력을 가진 존재를 만들 수 있는 능력이 있는 걸로 보인다. 그나마 AI가 유일한 인류의 구원이라는 뜻도 된다.
긴 얘기 줄여 요약하면.. AI로 망할 수도 있겠지만 AI 안만들어도 어차피 다른 이유들로 망한다. AI 만들면 그 다른 이유들을 해결할 가능성이 그마나 생기는 거고. 우리 모두에게 굿럭.
