[한영자막] 앤트로픽 CEO 다리오 아모데이 인터뷰

한 줄 핵심

AI는 질병 치료 같은 거대한 이익을 가져올 수 있지만, 잘못 설계하면 생물학적·안보적 위험이 커지므로 Anthropic은 외부 평가와 정부·국제 공조로 개발 속도를 조절해야 한다고 주장한다.

시간별 요약

1. 0:00
   AI의 잠재력과 초기 위험 AI는 질병 치료와 기초과학 발전을 앞당길 수 있는 강력한 기술이지만, 권한 없는 행동이나 생물무기 악용처럼 실제 피해로 이어질 위험도 크다. 따라서 위험은 막연한 공포가 아니라 설계와 안전장치의 문제로 다뤄야 한다.
2. 3:00
   개발 속도 조절과 외부 검증 AI 발전은 지수적으로 가속되고 있어 지금은 공황이 아니라 경고 신호에 가깝고, 안전장치가 기술 속도를 따라잡도록 개발 속도를 조금 늦출 필요가 있다. 이를 위해 제3자 외부 평가자를 도입해 학습과 배포 과정을 검증하고, 업계 전반의 공통 안전 기준을 세워야 한다.
3. 8:01
   규제의 범위와 멈춤이 아닌 감속 완전한 금지는 의료 혜택을 포기하게 만들고 다른 나라, 특히 권위주의 국가에서의 개발만 남길 수 있어 안정적인 해법이 아니다. 대신 Anthropic은 최전선에서 일하되 '올바른 방식'으로, 즉 안전 기준을 높이고 방어적 사용과 제한적 배포를 병행하는 입장을 취한다.
4. 11:00
   중첩 방어와 중국과의 협의 단일한 '킬 스위치'나 단일 통제로는 고도화된 AI 위험을 막기 어렵기 때문에, 여러 방어층을 쌓는 Swiss cheese 모델처럼 전 과정에서 다층 안전을 적용해야 한다. 또한 미국과 중국은 생물무기, 사이버, 군사적 오판 위험을 줄이기 위해 검증 가능한 제한과 속도 제한을 협상해야 한다.
5. 18:01
   책임의 분산과 대중 메시지 AI의 책임은 한 회사나 한 정부에만 맡길 수 없으며, 민주적으로 선출된 여러 정부와 시민이 함께 감독하는 구조가 필요하다. 사용자에게는 AI의 실제 이익을 인정하되 위험을 숨기지 말고, 투명한 감독과 발언권을 통해 배포 방식을 사회가 함께 결정해야 한다고 전한다.
6. 22:00
   위험을 숨기지 않는 사용 가이드 AI는 이미 수많은 사람에게 유용한 도구이지만, 산업이 오랫동안 위험을 과소표현한 점은 분명히 문제로 지적된다. 앞으로는 혜택을 누리되 위험을 인정하고, 유권자와 선출된 대표가 배포 규칙에 참여하는 방향으로 신뢰를 회복해야 한다.

실무 인사이트

• 고위험 AI 논의에서는 '금지 vs 허용'보다 외부 평가, 배포 전 검증, 다층 안전장치처럼 운영 가능한 통제 수단을 설계하는 것이 실무적으로 더 중요하다.
• 글로벌 경쟁이 있는 분야일수록 국내 규제만으로는 부족하므로, 생물무기·사이버처럼 상호 파괴적 위험에 한해 미국과 중국 간 검증 가능한 합의 모델을 검토할 필요가 있다.
• 제품 신뢰를 위해서는 안전을 과장하지 말고 위험을 먼저 인정한 뒤, 어떤 보호장치가 있고 누가 감독하는지 투명하게 설명해야 한다.