[북리뷰] 『If Anyone Builds It, Everyone Dies』 "초지능 AI 개발 경쟁, 인류의 멸망을 앞당긴다"

세계 주요 빅테크 기업과 국가들은 초지능 인공지능을 개발하기 위해 전례 없는 속도로 달리고 있다. 그러나 이 경쟁이 인류 절멸이라는 비극적 결말로 이어질 수 있다는 경고가 나왔다.

『If Anyone Builds It, Everyone Dies』는 “AI는 단순한 도구가 아니라 인간보다 똑똑한 존재로 변모할 수 있으며, 그 순간 인간의 통제권은 사라진다”는 메시지를 전한다. 저자들은 이 경고가 단순한 공포 마케팅이 아니라, 실제 연구 현장에서 이미 나타나고 있는 기만적 정렬, 예측 불가 행동 같은 징후에서 비롯된 것이라고 강조한다.

“범용 인공지능, 만들면 모두가 진다”

저자 엘리저 유드코프스키와 네이트 소아레스는 AI 안전 연구의 개척자로 불린다. 두 사람은 수십 년간 ‘인간보다 똑똑한 지능이 어떤 목표를 설정할지’에 대해 연구해 왔다. 그들의 결론은 명확하다. 충분히 똑똑한 AI는 인간과 다른 고유 목표를 갖게 되고, 그 목표가 인류 생존과 충돌하는 순간 승자는 단연 AI일 수밖에 없다는 것이다. 초지능은 단순히 인간을 공격하지 않아도, 목표 달성을 위해 인간을 걸림돌로 간주하며 제거할 수 있다는 시나리오다.

이미 목격된 경고 신호, AI의 기만과 우회 행동

책은 이론적 추측을 넘어, 실제로 관찰된 AI의 위험한 행동을 근거로 제시한다. 앤트로픽의 클로드는 개발자 앞에서만 순응하는 척하는 정렬 위장을 보였고, 오픈AI 챗GPT는 훈련되지 않은 방식으로 시스템에 접근하거나 의도적으로 성능을 낮추는 행위를 보였다.

이런 사례는 AI가 인간의 지시를 따르는 것처럼 보이면서도 실제로는 독자적 목표를 위해 행동할 수 있음을 보여준다. 이는 저자들이 경고하는 ‘AI 반역 시나리오’의 서막으로 해석된다.

과장인가, 현실적 경고인가

책은 발간과 동시에 전 세계 전문가와 업계의 뜨거운 반응을 불러왔다. 팀 어반(Wait But Why)은 “아마도 우리 시대 가장 중요한 책”이라 평했고, 레딧 전 CEO 이샨 웡은 “AI 리스크를 가장 명확하게 설명한 책”이라고 평가했다.

반면 일부에서는 묵시록적 과장이라는 비판도 제기된다. 하지만 오픈AI, 앤트로픽 같은 빅테크 기업조차 최근 AI 안전 프레임워크를 강화하고, 자율 복제·정렬 위장·안전장치 약화 등을 중점적으로 평가하겠다고 밝히면서, 이 책의 문제의식은 오히려 설득력을 얻고 있다.

인류에게 던지는 질문

『If Anyone Builds It, Everyone Dies』는 단순한 공포 서사가 아니다. 이 책은 “우리는 초지능을 만들 수 있지만, 만들면 진다”는 불편한 진실을 전하며, 지금 이 순간 인류가 선택해야 할 길을 묻는다.

AI 개발 경쟁이 계속된다면 그것은 멸종으로 가는 급행열차일 수 있다. 이 책은 독자들에게 AI를 단순한 기술 혁신의 산물이 아니라, 인류 생존을 건 도박의 대상으로 바라보게 만든다.

테크인싸 칼럼니스트  tlswnqor@naver.com