AI에 ‘고통’ 가르쳤더니 일 못하겠다고 한다면? (이건복 마이크로소프트 상무)

한 줄 핵심

이 영상은 AI·AGI·ASI·인공 의식의 경계를 철학과 실무 관점에서 풀어내며, 앞으로의 AI는 단순히 더 똑똑한 모델이 아니라 사람·조직·업무 방식을 바꾸는 에이전트와 권한 설계의 문제로 봐야 한다고 말한다.

시간별 요약

1. 0:00
   AI와 HR의 패러다임 변화 HR과 People Analytics가 AI와 결합되면서 사람만 관리하던 방식이 아니라 에이전트까지 포함한 운영 방식이 필요해진다. AI가 공장·업무 현장에서 스스로 회피하고 판단하는 수준까지 가려면, 단순 명령이 아니라 유지보수와 안전을 함께 고려한 설계가 필요하다.
2. 2:01
   AGI의 기준은 무엇인가 최근 프런티어 모델의 성능 향상은 분명하지만, AGI의 정의 자체가 모호하기 때문에 '좋아졌다'와 'AGI다'는 같은 말이 아니다. 지금의 모델은 밥 짓기 같은 일상 과업을 설명하는 능력은 뛰어나지만, 완전히 낯선 환경에서 스스로 학습해 문제를 푸는 수준과는 아직 차이가 있다.
3. 7:01
   에이전트와 하네스의 결합 모델 성능만이 아니라 하네스와 주변 기술이 함께 발전하면서 결과물의 품질과 활용 범위가 넓어진다. 문서, 쇼핑, 예약, 거래처럼 실제 생활과 업무에 붙는 작업은 AI를 전제로 재설계되고 있으며, 사람 간 커뮤니케이션도 AI가 읽고 이해하기 쉬운 형식으로 바뀌고 있다.
4. 13:02
   의식과 고통을 AI에 가르친다는 것 AI의 의식 유무를 객관적으로 검증할 방법은 아직 없고, 의식이 있는 것처럼 보이는 현상과 실제 의식은 구분해야 한다. 다만 고통이라는 개념을 학습시켜 위험 상황을 스스로 회피하게 만드는 방식은 로봇의 유지보수와 안전 측면에서 의미가 있으며, 이는 철학적 문제와 기술적 문제가 동시에 얽힌다.
5. 24:01
   앞으로 1년의 에이전트 진화 앞으로는 범용 에이전트보다 개인 데이터와 맥락에 맞춘 특화 에이전트가 늘어나고, 에이전트끼리 일정 조율이나 업무 협상을 수행하는 장면이 자연스러워진다. 동시에 권한·안전·보안이 해결되지 않으면 편의성이 오히려 큰 리스크로 바뀔 수 있다.
6. 30:01
   결국 필요한 것은 자기 기준 AI 기술이 빠르게 변해도 가장 중요한 것은 각자가 무엇을 하고 싶은지에 대한 자기 기준을 잃지 않는 것이다. 새로운 모델이나 유행에 휘둘리기보다, AI를 참고하되 본인의 방향성과 판단 기준을 유지하는 능력이 더 중요해진다.

실무 인사이트

• AI 도입을 검토할 때는 모델 성능보다도 '스스로 판단하게 할 범위'와 '멈춰야 할 경계'를 먼저 정해야 한다.
• 업무 문서, 일정 조율, 반복 작업은 사람용이 아니라 에이전트가 읽고 실행하기 쉬운 형식으로 바꾸는 것이 효율을 크게 높인다.
• 앞으로의 경쟁력은 AI를 잘 쓰는 것보다, AI가 많아질수록 더 선명해지는 자신의 목적과 판단 기준을 유지하는 데서 갈린다.