Agents That Write Their Own Tools at Runtime — Sandhya Subramani, AWS

한 줄 핵심

에이전트가 런타임에 스스로 도구와 하위 에이전트를 생성·수정해 문제를 해결하고, 이를 안전하게 운영하려면 하네스·평가·가드레일 설계가 함께 필요하다.

시간별 요약

1. 0:00
   에이전트가 스스로 도구를 만드는 이유 기존 코드 에디터나 코딩 에이전트도 도구를 만들 수 있지만, 핵심은 실행 중에 필요한 능력을 스스로 보강할 수 있느냐에 있다. 이를 통해 에이전트는 처음부터 모든 기능을 갖추지 않아도 된다.
2. 0:40
   실행 중 코드 수정 프로덕션에서 오류가 나면 사람 손으로 내리고 고쳐서 재배포하는 대신, 에이전트가 스스로 버그를 감지하고 수정 도구를 만들어 해결하는 그림이 제시된다. 실행 중 자기 수정은 운영 자동화의 범위를 크게 넓힌다.
3. 1:24
   도구가 없는 에이전트 데모 표면적으로는 아무 도구도 없는 에이전트처럼 보이지만, 실제로는 시스템 프롬프트와 몇 가지 기본 도구만으로 동작을 시작한다. 사용자의 요청에 따라 즉석에서 필요한 기능을 만들어 쓸 수 있음을 시연한다.
4. 2:49
   계산기 도구를 작성함 복잡한 계산 요청이 들어오자 에이전트가 런타임에 계산기 도구를 새로 생성하고 즉시 사용한다. 재시작 없이 새 기능을 붙여 바로 답을 내는 점이 핵심이다.
5. 3:39
   문자 수 세기 도구를 작성함 문자 수 계산처럼 기존에 없던 작업이 들어오면 에이전트가 곧바로 전용 도구를 만든다. 사용자 입력이 기능 생성의 트리거가 되고, 생성된 도구는 곧바로 재사용 가능해진다.
6. 4:59
   Strands Agents로 메타 도구화 이 접근은 메타 도구화라는 개념으로 설명되며, 오픈소스 프레임워크인 Strands Agents 위에서 구현된다. 핵심 구성요소는 editor, shell, load_tool 세 가지 도구와 시스템 프롬프트다.
7. 5:59
   Strands Agents란 무엇인가 Strands Agents는 LLM을 감싸 실행하는 하네스이며, 모델을 바꿔도 전체 구조를 다시 짤 필요가 없게 해준다. MCP와 여러 모델 제공자를 지원해 실험과 교체 비용을 낮춘다.
8. 6:44
   세 가지 도구: editor, shell, load_tool shell로 작업 디렉터리와 실행 환경을 이해시키고, editor로 새 파일을 쓰게 하며, load_tool로 디렉터리에서 도구를 동적으로 불러온다. 이 세 가지면 런타임 도구 생성과 실행의 뼈대가 완성된다.
9. 7:43
   좋은 도구의 형태를 가르치기 에이전트가 도구를 만들려면 도구 데코레이터, 저장 위치, 명세 형식 같은 규칙을 알아야 한다. load_tools from directory 기능은 생성된 도구를 즉시 불러 실행하게 만드는 핵심 장치다.
10. 8:43
    코드로 작성한 시스템 프롬프트 시스템 프롬프트에서 에이전트의 역할, 도구 템플릿, 저장 규칙, 중복 확인 규칙을 명시한다. 여기에 세 도구를 연결하면 에이전트가 스스로 도구를 만들고 계속 대화하며 사용할 수 있다.
11. 9:53
    프로덕션에서 중요한 이유 예상 밖 입력이 들어와도 에이전트가 즉시 새 기능을 만들어 대응하면, 배포 후 빈틈을 사람 손으로 메우는 시간을 줄일 수 있다. 항공권 예약처럼 확장 입력이 많은 업무에서 특히 유용하다.
12. 10:43
    에이전트를 만드는 에이전트 도구를 만드는 수준을 넘어, 에이전트 자체를 생성하는 단계로 확장할 수 있다. 즉, 시스템이 필요한 역할을 하위 에이전트로 쪼개 스스로 구성하는 구조가 가능하다.
13. 11:03
    Swarm, 그래프, 핸드오프, 워크플로 멀티 에이전트 패턴은 병렬 협업의 swarm, 결과를 다음 에이전트로 넘기는 graph, 책임 전환인 handoff, 이들을 섞은 workflow로 나뉜다. 이런 패턴도 에이전트가 스스로 구성할 수 있다.
14. 11:53
    스스로 조립되는 여행 플래너 여행 계획 요청만 주면 에이전트가 flight agent, activities agent, itinerary agent로 나눠 하위 에이전트를 만든다. 사용자는 문제만 말하고, 시스템이 필요한 분업 구조를 즉석에서 조립한다.
15. 14:17
    자가 치유 에이전트 실행 중 오류가 생기면 에이전트가 실패를 감지하고 자기 자신이나 생성한 도구를 수정하는 방향으로 움직인다. 다만 자유도가 커질수록 잘못된 수정도 가능해져 운영 통제가 중요해진다.
16. 15:21
    강력할수록 필요한 평가 엔드투엔드 목표 달성 여부뿐 아니라, 응답의 정확성, 도구 선택, 파라미터 사용, 에이전트 간 의존성까지 평가해야 한다. 신뢰 가능한 자율성을 얻으려면 다층 평가가 필수다.
17. 17:06
    샌드박스, 권한, 관측성 가드레일 도구 생성 능력은 삭제와 수정 능력으로 이어질 수 있으므로 실행 환경을 샌드박스로 격리해야 한다. 여기에 권한 제한과 트레이스·텔레메트리 같은 관측성을 더해야 안전하게 운영할 수 있다.
18. 18:56
    자기 개선하는 에이전트 도구를 만들고, 에이전트를 만들고, 결국 소스코드까지 바꾸는 방향으로 발전하면 에이전트는 스스로 개선하는 시스템이 된다. 이 흐름이 자가 진화형 에이전트의 출발점으로 제시된다.
19. 19:21
    Strands가 TypeScript 버전을 스스로 작성함 Strands는 내부 Python 버전에서 출발했지만, 그 Python 버전이 TypeScript 버전을 작성하는 데까지 확장됐다. 이는 런타임 도구 생성이 실제로 소스코드 차원의 자기 확장으로 이어질 수 있음을 보여준다.

실무 인사이트

• 런타임 도구 생성은 기능 확장보다도 예외 대응과 운영 복원력 측면에서 가치가 크므로, 먼저 자주 깨지는 경계 상황부터 자동화하는 것이 효과적이다.
• 자율성이 커질수록 시스템 프롬프트만이 아니라 eval, 권한, 샌드박스를 함께 설계해야 실제 배포가 가능하다.
• 하위 에이전트 자동 생성은 복잡한 업무를 분해하는 데 강력하므로, 여행 계획처럼 역할이 명확한 문제부터 적용하면 도입 난도가 낮다.