EP 103. 이해가 병목이 될 때

한 줄 핵심

Fable 같은 프런티어 모델이 강해질수록 핵심 병목은 코딩보다 사람이 무엇을 이해해야 하는지 정하는 능력으로 옮겨가며, 이에 따라 컨텍스트·루프·평가를 설계하는 엔지니어링과 평가 사업의 중요성이 커지고 있다.

시간별 요약

1. 0:00
   Fable 출시 이후 최상위 모델을 쓰는 비용과 체감 효용을 두고 대화가 시작된다. 단순 성능 향상보다 어떤 작업에 어떤 모델을 배치할지, 그리고 토큰과 쿼터를 얼마나 빨리 소모하는지가 실제 사용 경험을 좌우한다.
2. 4:01
   Fable는 작업을 세세히 지시하기보다 스스로 적절한 저성능 모델을 선택해 서브에이전트로 돌리게 하는 방향이 소개된다. 판단과 리뷰는 메인 루프가 맡고 구현은 작은 모델로 분산하는 방식이 비용과 효율의 균형점으로 제시된다.
3. 9:02
   핵심 병목은 모델 성능보다 사람이 미지의 것들을 얼마나 명확히 하느냐로 정리된다. 구현 전에는 사각지대를 드러내고, 구현 중에는 인터뷰·노트·요약으로 컨텍스트를 압축하며, 구현 후에는 설득 자료와 퀴즈로 이해를 검증하는 흐름이 제안된다.
4. 17:01
   YouTube 요약과 퀴즈, Explain Diff 같은 사례를 통해 이해를 강제하는 장치가 왜 필요한지가 설명된다. AI가 산출물을 빠르게 만들수록 인간은 그 결과를 따라잡기 위해 마찰과 복기 장치를 두어야 하며, 이것이 학습과 작업의 속도 조절 장치가 된다.
5. 31:01
   후반부는 Fable과 GPT 계열을 둘러싼 evaluation 시장과 한계를 다룬다. benchmark와 LMArena 같은 선호도 지표는 특정 task와 사용자 경험을 반영하지만 쉽게 해킹될 수 있어, 실제 업무·디자인·멀티모달 영역에 맞는 평가와 데이터 구축이 큰 사업 기회로 떠오른다.

실무 인사이트

• AI를 잘 쓰는 핵심은 더 긴 프롬프트가 아니라, 무엇을 사람 손으로 이해하고 무엇을 모델에 위임할지 경계를 정하는 능력이다.
• 작업을 빠르게 끝내는 루프보다, 산출물의 맥락과 변경 이유를 검증하는 퀴즈·리포트·설명문을 붙이면 인지 부채를 줄일 수 있다.
• 평가 지표는 모델 선택의 참고점일 뿐이므로, 실제 업무에서는 자신의 도메인에 맞는 소규모 evaluation과 반복 테스트를 따로 설계해야 한다.