Your AI Agent Has No Nervous System — Matt Gibiec, Dynatrace

한 줄 핵심

AI 에이전트가 잘 작동하려면 더 빠른 실행보다 환경의 맥락과 의존성을 충분히 제공해 로컬 검증, 운영 안정성, 안전한 수정까지 이어지게 해야 한다.

시간별 요약

1. 0:00
   소개 발표자는 Dynatrace의 AI native 솔루션 엔지니어링 리전 디렉터로서 세션을 시작하며, 마지막 날에도 참석한 청중에게 감사를 전한다.
2. 0:35
   Dynatrace 소개 Dynatrace는 AI 기반 옵저버빌리티 플랫폼이며, 이번 발표의 초점은 제품 소개보다 AI 에이전트가 왜 '신경계가 없다'고 말하는지에 있다.
3. 1:00
   제목의 의미 AI 에이전트는 사람을 대체하려면 단순 자동화가 아니라 충분한 입력과 추론 재료가 필요하며, 조직의 업무를 돕는 수준의 맥락을 가져야 한다.
4. 2:10
   루프에 갇힘 Claude 같은 에이전트가 같은 행동을 반복하며 토큰만 소모하는 문제는, 현재의 에이전트가 결과가 원하는 방향이 아닐 때 접근 방식을 바꾸는 능력이 부족하다는 점을 보여준다.
5. 2:50
   운영과 보안 에이전트를 빨리 배포하는 데서 끝나지 않고 운영 이슈와 보안 우려를 함께 다뤄야 하며, 특히 보안은 거의 모든 팀이 즉시 마주치는 핵심 과제다.
6. 3:30
   가치를 어떻게 측정할 것인가? AI 에이전트에 자원을 쓰는 만큼, 사용자와 조직에 실제로 어떤 가치를 주는지 측정 지표를 먼저 정의해야 하며, 속도보다 목표와 성공 기준을 정리하는 일이 우선이다.
7. 4:34
   빠르지만 눈이 없다 에이전트는 빠르지만, 제공된 데이터에 맥락·세부 정보·권한이 부족하면 환각과 잘못된 자동화로 이어지므로 속도보다 데이터의 완전성이 더 중요하다.
8. 6:34
   맥락이 가장 중요하다 에이전트에 필요한 것은 인간 같은 감각이 아니라 환경을 이해하게 만드는 연결된 맥락이며, 이 맥락이 있어야 자동화가 조직의 실제 프로세스와 맞물린다.
9. 7:04
   Bluebox 소개 Bluebox는 AI 코딩 에이전트나 자체 에이전트에 운영·개발 맥락을 주입하는 계층으로, 개발 생명주기 중간에 통합되어 추론에 필요한 정보를 제공한다.
10. 7:29
    로컬에서는 되고, 운영에서는 깨진다 로컬 테스트에서는 통과했지만 머지 후 다른 서비스가 깨지는 문제를 막기 위해, Bluebox는 서비스와 의존성 맵을 활용해 운영 맥락을 로컬 테스트에 가져온다.
11. 9:09
    사용자보다 먼저 문제를 잡아낸다 과거 데이터로 정상 상태를 학습해 이상 징후를 조기에 감지하고, IDE와 코드 저장소에 맥락을 연결해 어떤 변경이 문제를 유발했는지까지 함께 파악한다.
12. 10:59
    다른 것을 망치지 않고 고친다 문제를 발견한 뒤에는 저장소와 변경 이력을 바탕으로 복구 단계를 제시하되, 한 줄 수정이 전체 애플리케이션과 의존 서비스에 미칠 영향을 함께 고려해야 한다.
13. 12:09
    프롬프트보다 먼저 계획한다 기능을 바로 만들기 전에 먼저 조사하고 계획해야 하며, 새 릴리스나 기능을 설계할 때 필요한 데이터와 맥락을 확보한 뒤 에이전트에게 지시해야 한다.
14. 13:29
    사람이 통제권을 유지한다 관찰, 문제 탐지, 수정 제안까지 자동화하더라도 최종 배포 여부는 사람이 결정해야 하며, 인간 개입을 남겨 두는 것이 안전한 운영의 핵심이다.
15. 14:44
    미리보기 체험하기 목표는 신뢰할 수 있는 코드를 프로덕션에 배포하는 것이며, 관심이 있으면 bluebox.ai에서 미리보기에 신청해 접근 권한을 받을 수 있다.

실무 인사이트

• AI 에이전트의 품질은 모델 자체보다 입력 맥락의 품질에 크게 좌우되므로, 운영·의존성·변경 이력을 함께 공급하는 설계가 우선이다.
• 로컬 성공만으로는 충분하지 않으므로, 개발 단계에서부터 프로덕션 맥락을 반영한 테스트를 넣어야 장애를 사전에 줄일 수 있다.
• 에이전트 자동화는 최종 배포와 수정 승인에서 사람의 통제권을 남길 때 가장 실무적으로 안전하다.