AI Labs Will Trap You or Replace You - Dillon Rolnick, Nous Research

한 줄 핵심

AI 모델은 빠르게 상품화되고 있으므로, 경쟁의 핵심은 독점 모델 자체가 아니라 사용자가 통제할 수 있는 오픈한 에이전트·플랫폼 위에 자신이 가진 기반을 쌓는 데 있다.

시간별 요약

1. 0:00
   소개 Dillon Rolnick은 자신이 왜 '소유 가능한 기반과 플랫폼 위에 구축해야 하는지'를 이야기하러 왔는지 밝히며, 오늘의 핵심 주제를 오픈한 기반 위에서 AI를 쌓는 문제로 제시한다.
2. 0:32
   모델의 상품화 거대 연구 투자가 쏟아졌지만 모델은 점점 서로 비슷해지고 있으며, 사용자는 Astra, Fable, Opus, Kimmy 같은 모델을 쉽게 바꿔 쓴다. 토큰 비용은 내려가는데 총 사용량은 늘고 있어, 고성능 모델에서 남던 마진이 빠르게 줄어든다.
3. 1:52
   랩이 수조 달러를 회수하는 방식 모델이 상품화되면 수백억~수조 달러의 투자를 회수할 방법은 다른 층위로 올라가 사용자에 붙거나, 인프라로 내려가거나, 더 큰 시스템을 장악하는 것이다. 그래서 경쟁의 무게중심이 에이전트 계층으로 이동하고 있다.
4. 2:48
   진짜 목표는 기업 소비자는 변덕스럽고 유지비가 큰 반면, 기업은 토큰에 많은 돈을 쓰고 경제적 생산성이 높다. 한 번 기업 내부에 깊게 들어가면 빼내기 어렵기 때문에, 향후 AI 경쟁은 기업 업무 흐름을 누가 장악하느냐의 싸움이 된다.
5. 4:28
   랩은 금융을 노린다 금융 시장은 풀 수 있는 문제로 보이며, 그래서 랩들은 금융 산업을 하나의 해결 대상이자 수익 회수의 핵심 영역으로 본다. 다만 바로 직접 공략하기보다는 투자은행 인턴이나 대형 금융사와의 협력을 통해 맥락과 경험을 축적한 뒤 더 깊이 들어간다.
6. 5:44
   모래 위에 짓지 말 것 이미 에이전트 시스템이 무엇을 할 수 있는지 확인한 이상, 기업의 의사결정자들은 어떤 도구와 프로세스 위에 미래를 쌓을지 지금 정해야 한다. 오픈한 기반 위에 쌓지 않으면 조직의 지식과 절차가 특정 공급자에 종속되는 모래 위 구조가 된다.
7. 6:48
   Nous Research가 존재하는 이유 이 회사는 기술 독점과 중앙집중화를 견제하려는 도덕적·철학적 이유로 만들어졌으며, 구성원들은 과학과 공상과학을 좋아하는 사람들로 이루어져 있다. 고도화된 지능을 폐쇄적으로 쥐는 중앙 권력이 남용될 수 있다는 문제의식이 출발점이다.
8. 7:56
   소프트웨어의 해자는 약해졌다 이제는 독점 소프트웨어를 만드는 데 필요한 한계비용이 크게 낮아져, 공개된 기능은 빠르게 역설계되고 오픈소스가 곧바로 따라잡는다. 예전의 해자는 독점 IP였지만, 앞으로의 해자는 네트워크 효과, 평판, 신뢰성에 더 가깝다.
9. 9:25
   증류와 오픈 모델 전쟁 모델은 다른 모델을 가르쳐 거의 비슷한 수준으로 만들 수 있으며, 실제 우위는 아키텍처보다 데이터 품질과 규모에서 나오는 경우가 많다. 그래서 학습용 지식을 다른 모델에 전수하는 행위는 distillation으로 불리고, 이를 제한하려는 시도는 안전이라는 이름으로 포장된다.
10. 11:06
    에이전트는 운영체제다 에이전트는 챗봇보다 운영체제나 프레임워크에 더 가깝고, 단순한 개인 비서로 보면 그 본질을 놓친다. 데이터 소스, 규칙적인 코드, 사람의 판단, 추론이 결합되어 새로운 애플리케이션이 만들어지며, 결정론과 비결정론이 함께 작동한다.
11. 12:17
    소유한 기반 위에 구축하기 새로운 애플리케이션은 자신이 소유한 기반 위에 세워야 하며, 원하는 모델을 언제든 바꾸고 핵심 기능 위에 점진적으로 층을 쌓을 수 있어야 한다. 기업은 스스로 잘하는 영역에 집중하고, 에이전트는 조직을 대체하는 존재가 아니라 더 잘하게 만드는 도구여야 한다.
12. 13:49
    Hermes Agent와 새로운 해자 Hermes Agent를 세계에서 가장 많이 쓰이고 내려받는 오픈소스 에이전트 표준으로 키워, 누구나 그 위에 구축할 수 있게 만드는 것이 목표다. 앞으로의 해자는 네트워크 효과, 신뢰성, 평판이며, 오픈한 기반을 잡는 쪽이 주도권을 가진다.

실무 인사이트

• 기업은 에이전트를 '도입'하는 수준이 아니라, 공급자 종속을 막기 위해 모델 교체 가능성과 데이터·워크플로 소유권을 먼저 설계해야 한다.
• 오픈소스 전략의 핵심은 기능 복제가 아니라 신뢰성, 배포력, 생태계 표준화를 해자로 만드는 데 있다.
• 에이전트 제품을 만들 때는 비서형 UX보다 업무 시스템의 운영체제라는 관점에서 권한, 조합성, 교체 가능성을 설계하는 편이 장기적으로 유리하다.