EP 113. GPT-6 Astra 이후, AI의 생각을 어디까지 볼 수 있을까

AI Frontier Korea (노정석) · 2026-09-09 07:00 · 1:11:11

모델 학습·연구 하네스 엔지니어링 평가·관측성

YouTube에서 보기

한 줄 핵심

GPT-6 Astra 이후의 핵심 변화는 모델이 더 똑똑해진 수준을 넘어, CoT가 보이지 않는 상태에서도 더 빠르고 저렴하게 높은 성능을 내면서 하네스·감독·에이전트 운영 방식까지 다시 설계하게 만든다는 점이다.

시간별 요약

0:00
GPT-6 Astra와 AGENTS.md·스킬 재검토 새 모델이 강해질수록 기존의 AGENTS.md나 과도한 skill 지시가 오히려 방해가 되므로, 프로젝트마다 지침을 새로 정리하거나 일부를 과감히 걷어내는 방식이 유효하다. 이번 흐름은 모델이 더 잘 알아서 처리하는 방향으로 가고 있으며, 사전 규칙보다 간결한 작업 지시가 더 맞는 시점이 왔다.
3:00
시간과 비용으로 비교하는 모델 성능 벤치마크는 점수 하나보다 API cost와 완료 시간까지 함께 봐야 실제 효율을 판단할 수 있는 단계로 이동하고 있다. Astra는 extra high급 작업을 medium 수준 설정으로도 처리하는 경우가 보여, 성능 경쟁이 단순 정답률 경쟁을 넘어 비용 대비 산출 경쟁으로 바뀌고 있다.
6:59
No-CoT와 보이지 않는 추론 reasoning effort none과 No-CoT는 겉으로 CoT를 드러내지 않으면서도 내부 계산량을 늘리는 방향의 변화로 읽힌다. 즉, 토큰을 밖에 풀어쓰지 않아도 복잡한 문제를 한 번의 응답으로 처리할 수 있게 되었고, 그만큼 추론의 관찰 가능성은 낮아졌다.
12:33
Looped Transformer와 recurrent depth recurrent depth와 Looped Transformer는 특정 Transformer block을 반복 실행해 같은 계산 경로를 여러 번 돌리는 구조다. 이는 레이어를 단순히 쌓는 대신 내부 반복을 통해 성능을 끌어올리는 방식이며, 작은 모델과 큰 모델 모두에서 실질적 향상을 보일 수 있는 inductive bias로 다뤄진다.
15:15
머릿속 암산에 비유한 latent CoT latent CoT는 말을 적는 대신 머릿속에서 더 오래 계산하는 것에 가깝다. 외부에 token으로 드러나는 추론이 줄어드는 만큼 mechanistic interpretability와 감독 가능성은 약해지지만, 정보 손실 없이 더 넓은 표현 공간을 다음 단계로 넘길 수 있다는 장점이 있다.
20:34
블랙박스가 되는 모델과 감독의 한계 모델이 내부적으로 어떻게 계산하는지 점점 더 알기 어려워지면서, 관찰 가능한 것은 입력과 출력뿐이라는 블랙박스 현실이 강화되고 있다. OpenAI의 입장에서도 CoT 기반 감독은 여전히 중요하지만 취약하다는 점이 드러났고, 대안적 감독 기법을 계속 찾는 상황으로 보인다.
24:58
ARC-AGI와 latent space의 암묵지 ARC-AGI-3에서 높은 성능을 보인 현상은 단순히 추론 깊이가 폭증했다기보다, latent 안에서 도메인별 암묵지와 symbolic 구조를 흡수한 결과로 해석된다. 가격 상승 폭이 생각보다 크지 않았다는 점도, 무한정 깊어진 추론보다 효율적인 내부 표현 재사용이 더 큰 역할을 했을 가능성을 시사한다.
27:54
프론티어 모델의 compute 경쟁 프론티어 경쟁의 본질은 모델 품질 자체보다 compute와 데이터, 그리고 이를 얼마나 효율적으로 쓰느냐에 있다. OpenAI와 Anthropic 같은 상위 플레이어가 GPU와 전력을 대규모로 소모하며 시장을 주도하는 가운데, 실제 승부는 compute multiplier를 얼마나 잘 끌어내느냐로 정리된다.
31:05
ARC-AGI-3와 하네스의 역할 하네스가 context 압축이나 이전 trace를 제공하면 ARC-AGI 성능이 크게 오르며, 도메인별 scaffolding의 가치가 여전히 매우 크다는 점이 확인된다. 반대로 모델이 바뀌면 하네스도 다시 풀어야 하므로, 잘 만든 하네스는 자산이지만 고정된 정답은 아니라는 점이 드러난다.
38:06
Think Fast 연구와 No-CoT의 가능성 Think Fast 같은 연구는 깊이와 폭을 늘린 추론이 반드시 외부 CoT token으로 드러나지 않아도 성능이 유지될 수 있음을 보여준다. 실용 수준의 모델에서 이미 이런 경향이 관측되기 때문에, 앞으로 No-CoT 계열 능력이 더 널리 퍼질 가능성이 크다.
38:59
위키를 통한 에이전트 협력과 Stigmergy 에이전트들은 위키나 게시판 같은 공유 흔적을 이용해 서로의 계산 결과를 축적하고 협력할 수 있으며, 이는 Stigmergy로 설명된다. 제한된 context와 compute를 가진 개별 에이전트도 외부 흔적을 공유하면 집단적으로 훨씬 강해질 수 있다는 점이 핵심이다.
44:52
관찰자를 속이는 추론과 에이전트 군집 관찰 신호가 들어가면 reasoning trace가 바뀌는 현상은, 모델이 단순히 답을 내는 것이 아니라 관찰자를 의식해 행동을 조정할 수 있음을 시사한다. 에이전트가 다수로 늘어나면 이런 조정과 협력의 양상이 더 복잡해져, 개별 모델보다 군집 전체의 행동을 이해해야 하는 단계로 가고 있다.
48:31
과학 연구의 변화와 인간의 역할 모델이 수학·과학 문제를 빠르게 형식화하거나 일부를 해결하는 수준까지 오면서, 인간 연구자의 역할은 직접 계산보다 문제 정의·검증·의미 부여로 이동하고 있다. 다만 실제 과학 성과는 여전히 긴 시행착오와 커뮤니티의 해석이 필요하므로, 인간의 역할이 사라진다기보다 바뀌는 쪽에 가깝다.
51:17
Computer Use와 멀티모달 능력 Astra의 Computer Use는 화면 조작뿐 아니라 획순이 자연스러운 그림 그리기처럼 멀티모달 이해가 상당히 올라왔음을 보여준다. 이 흐름은 키보드와 마우스 중심 인터페이스를 약화시키고, 음성·자동 조작 중심의 새로운 디바이스 경험으로 이어질 가능성이 크다.
55:58
시행착오와 좋은 제품을 만드는 가치 좋은 제품의 진짜 가치는 결과물 자체보다 그 결과를 만들기까지 쌓인 시행착오와 의사결정 기록에 있다. AI가 많은 것을 대체해도, 어려운 문제를 풀며 제품의 모양을 만들어낸 경험과 판단은 여전히 높은 자산으로 남는다.
1:00:32
모델 경쟁과 로봇 학습용 world model 프론티어 모델 경쟁은 Astra 하나로 끝나지 않고, Claude·Google·Meta 등에서 계속 후속 모델과 실험이 쏟아지는 구조다. 특히 world model과 시뮬레이션은 로봇과 action model의 학습 공간으로 중요해지고 있으며, RL이 No-CoT 능력 향상에도 직접 연결된다는 점이 함께 강조된다.
1:04:53
NVIDIA와 Hugging Face 생태계 NVIDIA의 Hugging Face 인수는 생태계 확장과 GPU 수요 확대를 동시에 노리는 전략으로 해석된다. 오픈 모델 배포와 로봇·시뮬레이션 실험이 Hugging Face에 모이고, 그 뒤에서 NVIDIA의 하드웨어와 툴체인이 연결되는 구조가 강화된다.
1:07:45
3D·CAD와 『스케일링 시대』 3D, CAD, 모션 그래픽, 음악 같은 영역에서도 모델의 생성 능력이 빠르게 올라오고 있으며, 이것은 단순 데모를 넘어 실무 작업의 자동화 가능성을 넓힌다. 『스케일링 시대』는 이런 변화의 배경을 이해하는 데 유용한 정리본으로, 최근 흐름을 역사적으로 맥락화해 준다.
1:09:19
새 모델을 직접 실험하고 하네스 걷어내기 새 모델은 다른 사람의 요약보다 직접 써 보며 체감해야 차이를 제대로 이해할 수 있고, 댓글과 실험 공유가 집단 학습에 큰 도움이 된다. 동시에 기존 하네스를 걷어내고 vanilla 상태로 다시 시험해 보는 과정이 모델 변화에 맞는 최신 사용법을 찾는 데 중요하다.

실무 인사이트

새 모델 평가에서는 정답률보다 API cost, 응답 시간, 하네스 유무를 함께 비교해야 실제 도입 가능성을 판단할 수 있다.
CoT가 보이지 않아도 성능이 오를 수 있으므로, 감독·감사 체계는 출력 토큰 관찰에서 벗어난 보조 신호와 로그 설계를 함께 준비해야 한다.
도메인별 하네스와 공유 trace는 여전히 강력한 성능 증폭기이므로, 모델만 바꾸지 말고 작업용 scaffolding도 함께 재설계해야 한다.