“해킹 비용은 0에 수렴, 해킹 대상은 무한대 증식” (박세준 티오리 대표)

한 줄 핵심

AI 시대에는 공격 비용이 거의 0에 수렴해 공격 대상이 무한히 늘어나므로, 사람보다 빠른 권한 통제·상시 검증·자동 조치 체계를 갖춘 보안으로 전환하지 않으면 누구도 안전지대에 있을 수 없다.

시간별 요약

1. 0:00
   하이라이트 공격 비용이 거의 사라지면서 과거에는 선택적으로 노리던 대상까지 모두 공격 범위에 들어오게 됐다. 공격자 입장에서는 AI를 반복 실행해 결과만 검토하면 되므로, 보안의 전제 자체가 바뀌었다.
2. 0:48
   AI가 Hugging Face 해킹을 막았다는 이야기의 진실 Hugging Face 사건에서 AI가 실시간으로 공격을 막은 것은 아니고, 침해 조사 과정에서 로그와 페이로드를 빠르게 분석하는 데 AI가 활용됐다. 보안 관련 질문은 방어 목적과 공격 목적을 구분하기 어려워 일반 모델들이 자주 거절하며, 그 결과 오픈웨이트 모델이 조사에 더 유연하게 쓰였다.
3. 7:25
   사람과 AI가 함께 공격하는 시대 가까운 미래에는 공격자와 방어자 모두 사람과 AI가 함께 움직이는 구조가 표준이 된다. 악의적인 사람이 강하고 똑똑한 AI 에이전트를 의도적으로 활용할 때 파급력이 가장 크며, 방어도 AI 속도로 검증하고 대응해야 한다.
4. 10:35
   AI 에이전트의 권한을 어떻게 통제할까 에이전트가 내부에서 오염되거나 인젝션을 통해 악성 행동을 하지 못하도록 최소 권한 원칙이 더 중요해졌다. 짧은 수명의 자격 증명, 외부로의 이그레스 제어, 이상징후 탐지와 즉시 격리가 핵심 통제 수단이다.
5. 14:15
   항상 허용이 부르는 위험 편의를 위해 권한을 계속 넓히면 API 키 유출, 폴더 전체 스캔, 원치 않는 파일 삭제 같은 사고가 쉽게 발생한다. 안전장치를 줄이면 사용성은 좋아지지만 위험은 커지며, AI의 비결정성 때문에 중요한 자산일수록 권한 분리와 엄격한 관리가 필요하다.
6. 20:11
   해킹 비용은 0에 수렴, 누구나 공격 대상 과거에는 공격자도 시간과 비용 때문에 일부 대상만 골랐지만, 지금은 AI로 공격을 복제·확장할 수 있어 거의 모든 외부 연결 자산이 표적이 된다. 열려 있는 문이 많아진 환경에서는 기업, 기관, 개인 모두가 보안을 준비해야 한다.
7. 23:51
   AI 시대 보안의 원칙 첫째, 기본 보안이 여전히 가장 중요하다. 둘째, 상시 공격자 관점에서 자동으로 검증해야 한다. 셋째, 발견부터 조치까지의 시간을 기계 속도로 줄여야 하며, 이를 위해 AI가 취약점 탐지와 우선순위 선정까지 맡는 구조가 필요하다.
8. 29:55
   취약점을 고치는 일이 더 어려운 이유 공격은 몇 개를 놓쳐도 위험을 줄일 수 있지만, 패치는 몇 개만 잘못해도 서비스 장애로 이어질 수 있어 훨씬 더 까다롭다. 취약점 탐지보다 수정과 재검증의 완성도가 더 높은 기준을 요구하기 때문에 자동 패치는 연구 난도가 높다.
9. 31:49
   개인정보 유출이 2차·3차 피해로 이어지는 과정 유출된 비밀번호는 다른 서비스에 재사용되는 경우가 많아 크레덴셜 스터핑으로 이어지기 쉽고, 학교·병원·취업 관련 정보는 맞춤형 피싱의 재료가 된다. 따라서 개인정보 유출은 단순 사고가 아니라 이후의 연쇄 피해를 여는 출발점이다.
10. 33:14
    AI 보안의 다음 단계, 완전 자동화 기술적으로는 발견, 수정, 재검증까지 완전 자동화가 가능한 단계에 왔지만, 책임 소재가 불분명해 아직 사람이 중간에 남아 있다. 다만 이 장벽을 넘으면 AI가 만든 코드를 AI가 안전하게 고쳐 내는 흐름이 표준이 될 것이다.

실무 인사이트

• AI 에이전트를 도입할 때는 기능보다 먼저 최소 권한, 짧은 자격 증명 수명, 외부 전송 차단을 기본값으로 설계해야 한다.
• 보안 점검은 연 1~2회 이벤트가 아니라 배포 단위로 자동화해야 하며, 취약점 탐지와 수정 우선순위 선정까지 연결해야 실효성이 생긴다.
• 개인 보안도 비밀번호 재사용과 민감 정보 입력 습관을 줄여야 하며, 유출이 곧바로 2차·3차 피해로 이어진다는 전제로 대응해야 한다.