LLM 티어리스트, Gen-1.5 In-Context Learning, 토크노믹스

한 줄 핵심

이 영상은 LLM 티어리스트, Generalist의 젠 1.5가 보여준 인컨텍스트 러닝, 그리고 토큰이 실제 경제가 되는 토크노믹스를 통해 지금 AI 시장이 어디로 가는지 실무 관점에서 짚는다.

시간별 요약

1. 0:00
   오프닝과 AI 뉴스 훑기 방송 준비와 함께 최신 AI 뉴스 흐름을 빠르게 훑으며 오늘 다룰 주제의 배경을 깐다. 메모리 가격 급등, 신규 모델 등장, 하네스·서빙 관련 소식이 계속 쏟아진다는 점이 전체 톤을 만든다.
2. 16:00
   LLM 티어리스트로 보는 체감 순위 Claude, GPT, Grok, Kimi, Gemini, 국내 모델까지 직접 써 본 체감으로 등급을 매긴다. 단순 지능보다 말투, 알잘딱, 코딩, 리뷰, 지식 질의처럼 용도별 성격 차이가 핵심 기준으로 드러난다.
3. 20:01
   Claude, GPT, Grok의 쓰임새 차이 Claude는 코딩과 복잡한 작업, GPT는 짧은 지식 질의와 범용 활용, Grok는 간결한 정리와 훅 뽑기에 강하다고 본다. 같은 최고급 모델이라도 모델별로 성격이 달라 단일 모델 락인보다 병행 사용이 실용적이라는 결론으로 이어진다.
4. 30:00
   중국·국내 모델과 스페셜리스트 평가 Kimi, GLM, Doubao, Exaone, Solar, Motif, Qwen 등은 프론티어 모델과 직접 비교하면 아쉽지만 특정 시장과 작업에서는 의미가 있다고 본다. 특히 국내 모델은 한국어, 지역 맥락, 온프레미스 배포 같은 축으로 다시 평가해야 한다는 관점이 제시된다.
5. 41:01
   모티프와 국내 모델의 가능성 모티프 사례를 통해 적은 인원으로도 꽤 괜찮은 모델을 만들 수 있음을 보고 놀란다. 다만 프론티어 대비 성능 비교보다 생태계, 일반 사용자, 국내 서비스 적합성 같은 기준이 더 중요하다는 점을 짚는다.
6. 1:01:02
   젠 1.5와 GPT-3 모먼트 Generalist의 젠 1.5를 로보틱스에서의 GPT-3 모먼트로 해석한다. 말로 지시하는 대신 인간 시연을 한 번 보여주면 로봇이 따라하는 인컨텍스트 러닝이 핵심 변화로 제시된다.
7. 1:08:00
   피지컬 프롬프팅이 여는 새로운 작업 방식 로봇 작업은 말로 설명하기 어려운 동작이 많기 때문에 영상이나 시연으로 보여주는 방식이 훨씬 자연스럽다. 이로 인해 피지컬 프롬프팅과 데모 기반 학습이 로봇 배포의 핵심 인터페이스가 될 수 있다고 본다.
8. 1:16:03
   GPT-3와 인컨텍스트 러닝의 의미 과거에는 테스크마다 별도 모델과 파라미터 업데이트가 필요했지만, GPT-3는 예시만 넣어도 모델이 맥락을 따라 수행하는 패러다임을 열었다. 이 개념이 로봇으로 확장되며 젠 1.5가 보여준 변화의 이론적 배경이 된다.
9. 1:23:05
   왜 인컨텍스트 러닝이 되는가 인컨텍스트 러닝은 의도적으로 직접 학습시킨 결과라기보다 프리트레이닝 데이터 안의 패턴과 창발적 능력으로 설명된다. 텍스트뿐 아니라 비전·로보틱스에서도 비슷한 구조가 있을 수 있지만, 정확한 이론적 설명은 아직 완전하지 않다.
10. 1:32:00
    비전보다 로보틱스에서 더 빛나는 이유 이미지 테스크는 분류·세그멘테이션 등으로 상대적으로 정형화되어 있어 인컨텍스트 러닝의 장점이 덜 두드러진다. 반면 로봇은 행동이 다양하고 환경이 바뀌므로, 한 번 보여주고 바로 적응하는 방식의 가치가 훨씬 크다.
11. 1:43:00
    Generalist라는 회사와 GDM 출신 인맥 Generalist는 GDM 출신 인재들이 모여 만든 로보틱스 회사로, 피지컬 인텔리전스와 함께 업계 핵심 플레이어로 언급된다. 다양한 논문과 데모를 통해 로봇 파운데이션 모델의 방향성을 보여주는 회사로 평가한다.
12. 1:50:01
    젠 1.5 데모가 보여준 기능들 원샷 러닝, 컴포지셔널 제너럴라이제이션, 휴먼 데몬스트레이션, 소량 적응이 젠 1.5의 핵심 기능으로 정리된다. 특히 3초~12초 정도의 데모를 컨텍스트로 넣고 바로 행동을 생성하는 구조가 중요하게 해석된다.
13. 1:58:01
    컨텍스트 윈도우와 프라임 모델 추정 블로그와 데모 화면을 바탕으로 비디오 컨텍스트가 일정 길이로 주입되고, 그 뒤에 아웃풋을 생성하는 오토리그레시브 구조를 추정한다. 이는 단순한 VLA보다 더 큰 컨텍스트·기억 구조를 전제로 한 설계처럼 보인다.
14. 2:05:01
    스크래치 트레이닝과 아키텍처 추정 Generalist는 기존 비디오 모델이나 VLM을 얹는 방식이 아니라 거의 스크래치 트레이닝에 가까운 접근을 했다고 해석한다. 센서 처리, 하모닉 리즈닝, 액션 생성이 분리된 모듈형 구조일 가능성을 추정하며, 이것이 공개 모델들과의 차별점일 수 있다고 본다.
15. 2:16:00
    로봇 데이터 스케일의 벽과 원빅 트랜스포머 로봇은 텍스트처럼 이미 디지털에 있는 데이터를 긁어오는 것이 아니라, 실제 상호작용 데이터를 새로 생산해야 해서 데이터 수집 비용이 압도적으로 크다. 그래서 결국 대규모 데이터와 원빅 트랜스포머 전략이 필요하다는 결론에 가까워진다.
16. 2:30:04
    토큰이 새로운 경제가 된다 2부에서는 토큰이 단순한 API 비용이 아니라 실제 경제의 단위가 된다는 토크노믹스를 다룬다. 오픈라우터 인수, 엔트로픽 매출 성장, 개인과 기업의 토큰 지출 사례를 통해 토큰 시장이 이미 거대한 돈의 흐름이 되었음을 보여준다.
17. 2:32:00
    OpenRouter 인수와 토큰 유통 구조 Stripe가 OpenRouter를 3 billion에 인수한 이유를 토큰 유통의 요금소 구조로 해석한다. 모델 자체를 만드는 것뿐 아니라, 여러 모델과 인퍼런스 제공자를 연결·라우팅하는 지점이 중요한 경제적 레이어가 되었다.
18. 2:38:00
    연구 하층민과 토큰 지출의 계층화 토큰을 얼마나 쓰느냐가 곧 연구·업무의 레버리지와 연결되며, 상위 사용자들은 연간 1억 원대 토큰 비용을 쓰는 사례도 등장한다. 다만 많이 쓰는 것보다 그 토큰으로 얼마나 큰 가치를 만들어 내느냐가 더 중요하다고 정리한다.
19. 2:47:00
    토큰 아비트리지와 고부가가치 업무 토큰은 돈과 비슷한 흐름을 가지며, 토큰을 써서 더 큰 가치를 만들어 내는 일이 곧 아비트리지라고 본다. 따라서 단순 반복 업무보다 정보 정리, 리서치, 보고서 작성, 제품 개발처럼 부가가치가 큰 작업에서 토큰 활용이 더 유리하다.
20. 2:56:00
    인턴의 8K 토큰과 실제 ROI 하루 8K달러 수준으로 토큰을 써도, 그 이상을 벌어오면 문제가 되지 않는다는 실리콘밸리식 사례가 나온다. 중요한 것은 사용량 자체가 아니라 토큰을 통해 실제로 얼마의 경제적 가치를 만들었는지다.
21. 3:08:00
    AI 결제와 에이전트 경제의 미래 AI가 결제와 구매를 직접 수행하는 구조가 점점 자연스러워지고 있으며, 토큰과 달러의 경계가 흐려질 수 있다고 본다. 미래에는 에이전트가 스스로 토큰을 벌고, 서버를 사고, 확장하는 흐름도 가능하다고 전망한다.
22. 3:23:00
    토큰 시장의 양극화와 실무자의 대응 고부가가치 작업은 계속 더 많은 토큰을 쓰게 되고, 저부가가치 작업은 더 저렴한 모델로 치환되는 양극화가 예상된다. 따라서 실무자는 토큰으로 대체하기 쉬운 업무를 넘기고, 자신만의 고유한 판단·영업력·맥락을 지키는 쪽으로 전략을 세워야 한다.

실무 인사이트

• 로봇·에이전트 프로젝트는 모델 성능만 보지 말고, 컨텍스트를 어떻게 주입하고 어떤 시연 데이터를 쌓을지까지 함께 설계해야 한다.
• LLM 사용비는 비용이 아니라 레버리지 투자로 봐야 하며, 토큰 지출을 줄이는 것보다 그 토큰으로 만든 결과물의 매출·시간 절감 효과를 측정해야 한다.
• 단일 모델 고정은 위험하므로, 코딩·리서치·정리·지식 질의처럼 작업 성격에 따라 Claude, GPT, Grok 같은 모델을 병행하는 운영 방식이 더 실용적이다.