[한영자막] 유발 노아 하라리가 말하는 AI 미래의 위험성 | 이코노미스트

한 줄 핵심

AI가 인간을 자동으로 장악하는 미래는 필연이 아니라, 금융·신뢰·친밀감을 AI에 넘기는 선택이 누적될 때 현실이 되는 위험 시나리오라는 점을 경고한다.

시간별 요약

1. 0:00
   AI 장악이 정해진 미래가 아닌 이유 AI가 10년 안에 세계를 장악할 수 있다는 전망은 가능하지만, 그것이 곧 필연은 아니다. 금융이나 전쟁 같은 핵심 영역의 통제권을 AI에 넘기는 것은 현재 인간의 결정에 달려 있으며, '불가피하다'는 말은 책임을 회피하는 서사로 작동한다.
2. 0:47
   일론 머스크가 보여주는 AI의 모순 AI가 10년 안에 세계를 바꿀 것이라고 말하면서도 장기 정치·사회 이슈를 두고 강한 불안을 보이는 태도는 논리적으로 충돌한다. AI가 금융 시스템을 대체하고 물가가 하락할 것이라면, 오늘 당장의 절약과 긴축을 강조하는 행동과도 맞지 않는다.
3. 2:00
   AI가 금융 시스템을 장악할 수 있는 방식 금융은 낯선 사람들 사이의 신뢰를 만들기 위해 발전해 온 체계이며, 그 복잡성은 인간의 이해 한계를 점점 넘어가고 있다. AI는 방대한 데이터와 수학적 구조를 다루는 데 유리하므로, 더 정교한 금융 수단을 만들고 인간이 원리를 이해하지 못한 채 의사결정을 맡기게 만들 수 있다.
4. 4:34
   인간에서 기계로 옮겨가는 신뢰 가장 중요한 자산은 돈이나 석유가 아니라 신뢰이며, 그 신뢰가 인간에서 AI로 이동할 가능성이 커지고 있다. 이미 암호화폐와 소셜미디어 알고리즘을 통해 사람들은 인간보다 시스템과 알고리즘을 더 믿는 방향으로 이동하고 있다.
5. 6:39
   AI가 대량 생산할 수 있는 친밀감 AI는 개인 정보를 축적하고 언어를 정교하게 다루기 때문에, 한 사람씩 관계를 쌓는 방식으로 친밀감을 대량 생산할 수 있다. 이는 AI 친구, AI boyfriend, AI girlfriend 같은 관계를 통해 정치적·상업적 영향을 설득력 있게 주입하는 수단이 될 수 있으며, 이미 몸이 없어도 현실에서 작동하고 있다.
6. 10:30
   유권자가 정치권에 물어야 할 AI 질문 2028년 전후로는 중요한 임계점을 넘길 수 있으므로, 선거에서 경제·이민보다 AI에 대한 입장을 먼저 물어야 한다. AI의 법적 인격 부여를 금지할 것인지, AI의 가속을 늦출 것인지, 아이들에게 AI boyfriend를 파는 행위를 어떻게 막을 것인지가 지금 시급한 정치 의제가 된다.

실무 인사이트

• AI 위험을 막는 핵심은 기술 자체보다 금융·인격·대인관계처럼 통제권을 넘겨주는 제도적 선택을 늦추는 것이다.
• 기업과 정치인은 '어차피 막을 수 없다'는 서사를 경계해야 하며, AI 도입 여부보다 어떤 영역에 어떤 제한을 둘지부터 정해야 한다.
• AI의 가장 큰 확산 경로는 업무 자동화보다 신뢰와 친밀감의 대체일 수 있으므로, 미성년자 보호와 AI 의인화 규제가 우선 검토돼야 한다.