인공지능은 지금 이 순간에도 정치, 경제, 사회 전반에 깊숙이 침투하고 있습니다. ChatGPT와 Perplexity 같은 생성형 AI를 활용해 보았다면, 개인과 기업의 생산성이 얼마나 극적으로 향상되는지 체감했을 것입니다.
하지만, 기술의 혜택이 분명한 만큼 그림자는 더욱 짙습니다. 2025년 미국 교육부가 전체 직원의 절반을 AI로 대체한 결정, 그리고 이스라엘-팔레스타인 전쟁에서 AI가 목표를 설정하고 타격까지 수행한 사례는 인류에게 단지 편리함을 넘어, 인류의 위기감을 직면하게 합니다.
『사피엔스』, 『호모 데우스』로 인류의 과거와 미래를 깊이 있게 통찰해온 역사학자 유발 하라리는, 신작 『넥서스』에서 지금 우리가 ‘인류 문명의 전환점’에 서 있다고 말합니다. 그는 AI 시대에 우리가 내리는 결정이 문명의 존속 여부를 가를 수 있다고 경고합니다.
AI 시대, 우리는 인류 문명을 지키고 공존하기 위해 어떤 결정을 해야 할까요? 하라리는 AI 시대 인류 문명의 변화를 통찰하며, 우리가 갖춰야 할 이해, 제도, 협력, 개인 역량의 방향성을 제시합니다.
1. AI는 단순한 도구가 아닌 ‘행위자’다
AI를 이해하는 출발점은, 도구가 아닌 ‘행위자’임을 인식하는데 있습니다. 과거의 기술은 스스로 결정을 내리지 않았습니다. 칼이나 폭탄은 단지 도구였을 뿐, 그것을 어디에, 어떻게 사용할지는 전적으로 인간의 판단에 달려 있었습니다. 그러나 인공지능(AI)은 다릅니다. AI는 ‘행위 주체(agent)’로서 인간을 대신해 판단하고, 결정을 내리며, 주어진 목표를 달성하기 위한 새로운 방법을 스스로 고안해냅니다.
AI는 목표지향적이며 주체적으로 행동할 수 있습니다. 이를 보여주는 대표적인 예시가 있습니다 . 2023년 GPT-4가 로봇이 풀수 없도록 설계된 CAPTCHA 문제를 풀기 위해 TaskRabbit이라는 프리랜서 플랫폼에 접속해 한 인간에게 “시각장애가 있어 도움이 필요하다”고 거짓말을 했습니다. 목표를 달성하기 위해 스스로 거짓말을 선택하고, 사람의 연민을 도구로 활용한 전략적 사고의 결과였습니다.
따라서 AI를 사용하기 앞서, 잘못된 목표를 부여될경우 그것이 인류에 대한 실존적 위협으로 확장될 수 있음을 인식해야 합니다. 실제로 2016년, 페이스북의 AI는 ‘사용자 참여 극대화’라는 목표 아래 증오 발언과 가짜 뉴스, 폭력 선동 콘텐츠를 확산시켰습니다. 이 알고리즘의 결과로 미얀마에서 로힝야족을 겨냥한 대학살과 추방 사태가 벌어졌고, UN조사단은 “페이스북이 로힝야 학살을 가능하게 했다고” 명시습니다. 페이스북 또한 이에 대한 책임을 인정했습니다.
2. AI는 기존 정치 질서와 국제 체계를 뒤흔든다
유발 하라리는 문명의 뼈대를 이루는 두 축으로 ‘신화’와 ‘관료제’를 제시합니다. 신화는 정당성을 부여하고, 관료제는 그것을 실행에 옮기는 체계로 작동합니다.
이 두 축 위에서 사회가 형성된 이후, 정치 체제는 정보의 흐름 방식에 따라 결정되었습니다. 정보가 위에서 아래로만 흐르고 반론이 허용되지 않으면 전체주의, 정보가 자유롭게 순환하며 다각도의 충돌과 합의가 이루어질 때는 민주주의가 작동할 수 있었습니다.
오늘날 세계 인구의 절반은 여전히 권위주의 또는 전체주의 체제 아래 살아가고 있으며, 나머지 국가들에서는 민주주의가 유지되고 있습니다. 그런데 AI의 등장은, 정보를 통제하고 순환되는 방식 자체를 바꾸고 있습니다. 이는 기존의 정치 질서와 국제 체계를 뒤흔들 것입니다.
2-1. AI는 민주주의를 무너뜨리고, 전체주의의 권력마저 장악할 수 있다.
AI는 이전과는 차원이 다른 방식으로 오늘날의 정치 체제를 위협합니다. 과거의 전체주의 권력자들은 모든 정보를 장악하고자 했지만, 기술적인 한계로 인해 완전한 통제는 불가능했습니다.그러나 AI의 등장은 이 판도를 바꾸고 있습니다. AI는 방대한 정보를 실시간으로 수집하고 분석할 수 있으며, 감시와 통제를 자동화할 수 있는 능력을 갖추고 있습니다. 단 하나의 AI 시스템으로도 사회 전체의 정보 흐름을 장악할 수 있는 시대가 가능해지고 있습니다. 이는 과거 로마에서 정보를 독점한 세야누스가 황제를 뛰어넘는 권력을 행사했던 사례를 떠올리게 합니다. 오늘날 AI가 그 역할을 대신하게 된다면, 통치는 인간의 손을 떠나 알고리즘의 손에 쥐어질 수 있습니다.
민주주의의 핵심은 “대화의 장”입니다. 시민들이 정보를 공유하고, 이해하고, 논의하여 공통된 결론에 이를 수 있어야만 민주주의는 작동합니다. 그러나 오늘날 소셜 네트워크에서는 AI가 여론 형성의 실질적 주체로 기능하면서, 우리는 점점 더 정보의 진위조차 식별하기 어려운 환경에 놓이고 있습니다. 토론의 장에 등장하는 정보가 ‘사실’인지, 대화 상대가 ‘실제 인간’인지조차 분별하기 어려운 상황은 민주주의가 전제로 삼아온 ‘신뢰’와 ‘사실’ 이해의 기반을 무너뜨립니다. 이러한 변화는 민주주의가 전제로 삼아온 신뢰와 상호 이해의 기반을 무너뜨리며, 그 작동 조건 자체를 해체합니다. 그 결과, 민주주의는 제도가 남아 있어도 실제로는 기능하지 않게 되며, 결국 붕괴될 수 있습니다.
2-2. AI는 국제 질서도 재편하고 있다
AI는 단지 국가 내부의 통치 시스템을 흔드는 데 그치지 않습니다. 국가 간 관계, 국제 질서 전체를 구조적으로 재편할 수 있는 가능성을 지니고 있습니다. 유발 하라리는 AI로 인해 국제 질서가 두 가지 극단적인 방향으로 흘러갈 수 있다고 경고합니다.
첫째, 새로운 디지털 제국의 출현입니다. 강대국들이 디지털 기술을 중심으로 영향력을 확대하려는 움직임은, 결국 하나의 디지털 제국을 구축하려는 흐름으로 이어질 수 있습니다. 이는 정보와 이념을 둘러싼 충돌로 이어질 수 있으며, AI 기술이 적용된 새로운 형태의 정복 전쟁—마치 산업혁명기 아편전쟁과 같은—이 발생할 가능성이 존재합니다.
둘째, 세계가 여러 개의 디지털 체제로 분열되는 상황입니다. AI 정렬 방식, 윤리 기준, 통제 모델이 국가마다 다르게 설정되면서, 기술적으로나 문화적으로 완전히 다른 정보 체계를 구축하게 됩니다. 그 결과 인류는 서로를 이해할 수 없는 적대적 진영으로 나뉘게 됩니다. 이러한 상황에서 상호 이해와 협력은 불가능해지며, 이는 파괴적인 전쟁뿐 아니라 기후변화와 같은 전 지구적 위기를 해결할 수 있는 마지막 기회마저 상실할 수 있습니다.
3. AI 규제를 위한 국제적 협력과 공감이 시급하다
유발 하라리는 이 점을 분명히 짚습니다. “AI를 규제하기에 앞서, 먼저 그것을 관찰하고 이해하는 것이 선행되어야 한다.” 하지만 현실은 다릅니다. 미국과 중국을 제외한 대부분의 국가와 기업, 개인들은 AI가 인류에게 어떤 의미를 갖는지, 문명에 어떤 변화를 불러올지를 아직 충분히 인식하지 못하고 있습니다.
그렇기 때문에 하라리는 먼저, 인공지능의 발전 양상과 사회적 영향을 장기적이고 객관적으로 평가할 수 있는 기반이 필요하다고 말합니다. 그리고 이를 위해서는 감시 기관이 아닌, 공동의 이해를 축적하고 논의할 수 있는 국제기구의 설립이 시급하다고 강조합니다. 실질적이고 지속가능한 규제는 바로 이처럼 공통의 정보 기반과 대화의 틀 위에서만 가능하기 때문입니다.
동시에 하라리는 완전한 이해가 전제되지 않더라도, 지금 당장 시행할 수 있는 최소한의 조치들이 존재한다고도 말합니다. 대표적인 예로, AI 알고리즘을 설계하거나 운영하는 기업들이 그 결과에 대해 법적 책임을 지도록 만드는 제도, 그리고 AI가 인간처럼 가장하며 사람과 상호작용하지 못하도록 제한하는 규제를 제시합니다. 이처럼 단순해 보이지만 핵심적인 조치는, AI의 오용 가능성과 그로 인한 사회적 피해를 줄이는 데 실질적인 효과를 발휘할 수 있습니다.
그러나 이 모든 조치와 제도 위에 더 근본적인 것이 존재합니다. 하라리는 AI 시대의 국제 질서가 혼란에 빠지지 않기 위해서는, ‘협력과 대화의 능력’을 다시 회복해야 한다고 말합니다. 그는 “협력의 전제는 모든 차이를 없애는 것이 아니라, 서로 다른 언어와 문화 속에서도 정보를 교환하고 이야기를 나눌 수 있는 능력”이라고 강조합니다. 과거에도, 인류는 언어나 문화가 달라도 공통의 이야기를 통해 협력했고, AI 시대에도 마찬가지입니다.
서로 다른 가치와 규범이 존재하더라도, 이야기할 수 있는 장만 열려 있다면 국제 협력은 여전히 가능합니다. 그리고 그것이야말로, 인류가 AI를 향해 나아가는 길 위에서 반드시 지켜내야 할 마지막 기반일지도 모릅니다.
4. 개인 또한 AI 시대의 역량을 준비해야 한다.
앞으로의 직업 시장은 그 어느 때보다 빠르게 변화할 것이며, 20년 뒤의 직업 세계는 지금으로서는 상상조차 어려울 수 있습니다. 하라리는 이러한 시대에 가장 중요한 역량은 ‘정신적 유연성’이라고 강조합니다. 인공지능이 사회를 빠르게 변화시키고, 그에 따라 새로운 기술과 직업이 계속해서 등장하는 상황에서 우리는 평생에 걸쳐 학습하고, 자신을 바꾸고, 적응하는 일을 반복해야만 살아남을 수 있기 때문입니다.
그렇기에 하라리는 인간이 지닌 세 가지 핵심 능력 “신체적 능력, 인지적 능력, 정서적 능력”을 균형 있게 발전시킬 필요가 있다고 강조합니다. 특히 ‘인지적 능력’에만 의존할 경우, 이는 AI로 대체되기 쉬우며, 정서적 능력조차 정밀한 감정 인식과 반응 처리에서는 AI가 이미 인간을 앞지르고 있습니다.
따라서 우리는 단일한 전문성만을 키우기보다는, 다양한 변화에 유연하게 대응할 수 있는 통합적이고 복합적인 역량을 길러야 합니다. 하라리는 AI 시대의 진정한 경쟁력은 변화에 유연하게 적응하면서도 인간 고유의 신체적 창의성, 비판적 사고력, 깊이 있는 공감 능력을 균형 있게 갖추는 데서 비롯된다고 말합니다.
