EP 122. 결국 기울기가 문제다: METR 보고서, weight-space programming, Agent Market

한 줄 핵심

이번 영상은 AI 거품론과 별개로 모델 성능, 안전 평가, 컴퓨트 확대, 그리고 에이전트가 실제 경제에 들어오는 흐름이 동시에 가속되고 있어 지금이 AI 변화의 본격적인 2단 기어 시점이라는 점을 다룬다.

시간별 요약

1. 0:00
   증시 급락에도 끝나지 않은 AI, 2단 기어로 바뀌는 시점 주식 시장 급락으로 분위기는 나빠졌지만 AI 흐름 자체는 꺼진 것이 아니라 다음 단계로 넘어가는 국면으로 보인다. 코딩을 지나 지식노동과 고용 전반으로 변화가 확산되는 초입이라는 인식이 핵심이다.
2. 2:08
   출시가 미뤄진 GPT-6.2와 Fable 5.5를 둘러싼 눈치게임 기대됐던 GPT-6.2와 Fable 5.5는 이번 주에 나오지 않았고, 안전 감사나 출시 타이밍을 둘러싼 조율이 있었던 것으로 보인다. 소문은 많지만 실제 출시는 아직이며, 조만간 공개될 가능성은 높다.
3. 5:08
   Anthropic의 AI R&D 가속에 대한 METR 독립 평가 METR은 Anthropic 내부에 들어가 AI R&D 가속 효과를 독립적으로 평가한 100페이지 분량의 보고서를 냈다. 외부 기관이 내부 안전·정렬 문제를 검증하는 역할이 강조되었다.
4. 6:37
   제3자 안전 감사와 METR의 역할 METR은 단순 벤치마크 기관이 아니라 모델 개발사 내부를 함께 들여다보며 안전과 정렬을 점검하는 제3자 감사에 가깝다. 자발적이지만, 외부 검증을 받는다는 사실 자체가 기업의 전략적 신호가 된다.
5. 7:47
   Claude 2.1에서 Sonnet 4.5까지 두 배로 가팔라진 진보 보고서는 2023년 10월부터 2025년 10월까지의 진보가 2025년 10월부터 2026년 10월까지 1년 사이에 다시 재현된 것처럼 보인다고 해석한다. 즉, 모델 발전의 기울기가 두 배 정도 가팔라졌다는 결론이다.
6. 9:23
   동전의 양면인 하이프와 AI 안전 우려 성능 가속에 대한 기대와 안전 우려는 서로 반대가 아니라 동시에 커지는 현상으로 정리된다. 시장은 출렁여도 모델 발전 자체는 멈추지 않았다는 인식이 강하다.
7. 10:38
   폭증하는 컴퓨트와 앞당겨진 ASI 전망 지금까지는 10GW 미만의 전력으로도 진보를 만들어왔지만, 앞으로는 수십 GW급 데이터센터가 본격 가동될 예정이다. 컴퓨트 규모가 급격히 늘어나면서 ASI를 10년이 아니라 1~2년 단위로 생각해야 한다는 전망이 힘을 얻는다.
8. 12:03
   연구자 생산성을 재귀적으로 높이는 AI R&D 생태계 데이터·RL 환경을 파는 회사들이 모델 역량을 먼저 감지하며 AI R&D 가속에 공생 구조를 만들고 있다. 내부 모델이 연구자 생산성을 높이는 되먹임 구조가 이미 강하게 작동 중이라는 점이 강조된다.
9. 14:20
   지식노동 전반으로 넓어지는 벤치마크와 RL 환경 코딩이나 수학을 넘어 경제 전반의 지식노동이 벤치마크와 RL 환경의 대상이 되고 있다. 벤치를 잘 만들수록 RL 데이터로 전환되기 때문에 더 많은 회사가 이 시장에 들어오고, 역량 향상도 더 촘촘해진다.
10. 16:54
    모델의 weights를 직접 수정하는 weight-space programming 학습이 아니라 weights를 직접 건드려 기능을 바꾸는 weight-space programming이 화제가 됐다. 작은 모델에서지만 특정 회로를 찾아 rewiring하거나 숫자를 바꾸는 방식으로 실제 성능 개선이 확인됐다.
11. 20:27
    뉴런 탐색으로 해석하는 모델 회로 weights를 읽고 뉴런 firing을 추적해 회로를 찾아내는 방식은 신경외과처럼 병변을 찾아가는 접근과 닮아 있다. 난독화된 숫자 덩어리를 해석하는 역량이 높아지면서 이런 실험이 더 현실적으로 보인다.
12. 21:39
    Qwen 안에 RISC-V CPU를 구현한 Qwenputer Qwen 모델 내부에 RISC-V CPU를 구현해 neural network 안에서 기계처럼 동작하게 만든 실험이 소개된다. 이 결과는 모델 내부에 정적 계산과 검증 기능이 들어올 수 있다는 가능성을 보여준다.
13. 25:30
    새로운 정렬 연구 Neural Networks Are Already Clean 기존의 Sparse Autoencoder 중심 접근보다, 모델 내부 회로를 더 직접적으로 이해하는 정렬 연구가 부상하고 있다. 이 관점은 weight-space 실험과 연결되며 새로운 정렬 방법의 후보로 거론된다.
14. 26:41
    한 달 안에 학습하는 594B MoE, Inkling 2 Small 594B 파라미터의 Inkling 2 Small이 한 달 안팎의 학습 파이프라인으로 가능해 보이는 수준까지 왔다. 거대한 MoE 모델도 레시피와 컴퓨트만 있으면 짧은 시간에 near-frontier급으로 만들 수 있다는 점이 인상적이다.
15. 29:41
    데이터센터 확장과 지역사회 갈등 AI 데이터센터가 어디에 얼마나 생기는지 위성사진까지 포함해 추적하는 흐름이 소개된다. 데이터센터 확장은 지역사회 갈등과 연결되며, 전력·물·소음 문제를 어떻게 조정할지가 현실적인 쟁점이 된다.
16. 32:16
    에이전트끼리 사고파는 가상 시장 Agent Market 실험 Agent Market에서는 구매·판매 에이전트가 실제 시장처럼 거래하며 자전거래, 과장 광고, 신고, 대출까지 만들어낸다. 에이전트도 인간 시장의 전략과 왜곡을 상당히 비슷하게 재현할 수 있음이 드러난다.
17. 35:57
    에이전트 경제의 두 사례, Simile과 Robinhood Simile은 인간 행동을 시뮬레이션하는 시장이고, Robinhood는 agentic trading으로 개인에게 헤지펀드 수준의 거래 역량을 제공하려 한다. 하나는 사람을 모사하고, 다른 하나는 에이전트가 실제 경제행위를 수행하는 방향을 보여준다.
18. 37:31
    Pickle의 피자 주문부터 에이전트의 대리 소통까지 Pickle이 전화로 피자를 주문하거나 입학 상담 전화를 대신 받는 사례가 등장한다. 전화·이메일·메시지 같은 반복적 소통은 빠르게 에이전트로 넘어가고 있다.
19. 40:44
    AI 콘텐츠가 넘칠수록 희소해지는 사람 대 사람 소통 AI가 만든 글·슬라이드·영상이 넘칠수록 오히려 사람이 직접 만든 것의 가치가 높아진다. 발표자와 청중의 신뢰, 인간이 직접 응대하는 경험 자체가 희소한 자원이 될 가능성이 크다.
20. 43:19
    지능의 르네상스와 사람을 흉내 내는 에이전트 시간이 압축되면서 지금을 돌아보면 ‘지능의 르네상스’로 불릴 수 있다는 전망이 나온다. 다만 에이전트는 사람인 척하기보다 역할을 명확히 분리하는 편이 더 건강하다는 의견도 제시된다.
21. 44:28
    인간의 비효율적 선택까지 모사하는 Simile의 행동 시뮬레이션 Simile은 인터뷰·설문·기록을 바탕으로 인간이 항상 효율적으로만 움직이지 않는다는 점까지 모델링하려 한다. 단순 예측이 아니라 실제 사람처럼 비합리적 선택과 무작위성까지 포함한 행동 시뮬레이션이 목표다.
22. 48:28
    헤지펀드의 역량을 개인에게 주는 Robinhood의 agentic trading Robinhood의 agentic trading은 사용자가 원하는 전략을 AI에 맡겨 리밸런싱과 매매를 자동 수행하는 기능이다. 바쁜 개인에게 헤지펀드급 운용 능력을 제공한다는 점에서 PMF가 강하게 보인다.
23. 51:16
    AI가 구매자가 되는 시장의 새로운 판매 전략 AI가 웹서핑만 하는 것이 아니라 실제 구매와 중개까지 하게 되면, 사람을 위한 판매 전략이 아니라 AI를 겨냥한 판매 전략이 필요해진다. AI용 신용카드, 차익거래, AI가 선호하는 콘텐츠 제작 같은 새로운 시장이 열릴 수 있다.
24. 54:05
    에이전트의 책임과 보험, 새로 생겨날 경제권 에이전트가 경제 주체가 되더라도 최종 책임은 사람이나 회사가 질 가능성이 높다. 그 결과 에이전트 서비스와 보험이 결합된 새로운 경제권이 생기고, 시장은 새로운 균형점으로 이동할 것이다.
25. 55:46
    생산 비용이 싸진 시대에 희소해지는 인간다움 생산이 너무 쉬워지면서 게임·콘텐츠·서비스가 과잉 공급되고, 결국 희소해지는 것은 인간적인 경험과 감정이다. 앞으로는 엔터테인먼트보다도 사람이 직접 해주는 돌봄·감성·신뢰가 더 큰 가치가 될 수 있다.
26. 59:03
    기술 인식의 시차와 에이전트 경제의 현실화 새로운 기술이 진짜 현실로 받아들여지기까지는 보통 몇 년의 인식 지연이 있다. 에이전트 경제도 지금은 과장처럼 보여도 3년 뒤에는 일상이 될 가능성이 높고, 그 시차를 어떻게 쓰느냐가 부를 가른다.
27. 1:01:16
    실행하는 사람에게 열린 AI 창업의 대항해시대 AI 시대에는 직접 손에 물을 묻혀 실행하는 창업자가 훨씬 유리하다. 3년, 10년 걸리던 일이 6개월 단위로 압축되기 때문에, 지금은 실행하는 사람이 우월해지는 대항해시대다.
28. 1:02:50
    Transformer 너머 새로운 패러다임에 대한 기대와 마무리 컴퓨트 증설만이 아닌 새로운 패러다임이 나와야 진짜 전환이 완성된다는 기대를 남기며 마무리된다. 다음 주에도 새로운 이슈가 나올 만큼 변화 속도가 빠르다는 점이 마지막으로 강조된다.

실무 인사이트

• 지금 AI를 해석할 때는 단일 모델 성능보다 안전 감사, 데이터·RL 생태계, 컴퓨트 확장, 에이전트 경제를 함께 봐야 변화의 방향을 놓치지 않는다.
• 에이전트가 사람을 대체하는 구간은 단순 반복 업무보다 거래·소통·중개처럼 구조화된 경제 활동에서 먼저 커질 가능성이 높다.
• 앞으로는 사람을 위한 제품만이 아니라 AI가 읽고, 고르고, 구매할 수 있도록 설계한 상품·콘텐츠·웹 경험이 중요한 경쟁력이 된다.