[한영자막] AI는 왜 갑자기 이렇게 비싸졌을까요?

한 줄 핵심

AI 에이전트의 사용량이 추론형·자율형 워크플로로 급증하면서, 기업들이 토큰을 과시하던 분위기에서 실제 비용을 통제해야 하는 단계로 빠르게 돌아섰다는 이야기다.

시간별 요약

1. 0:00
   초기에는 토큰을 적게 쓰는 요령과 과시적 소비가 공존했지만, 실제로는 토큰이 비용이라는 사실을 전제로 해야 한다는 문제가 먼저 제기된다. Mandarin이나 caveman 스타일 프롬프트처럼 토큰 절약을 노리는 흐름도 있었지만, 곧 기업들은 오히려 토큰 사용량 경쟁에 뛰어들게 된다.
2. 1:01
   Shopify, OpenAI, Microsoft, Google, Salesforce가 토큰 leaderboards나 최소 지출 기준을 만들면서 토큰 소비가 조직 문화의 지표처럼 변한다. API billing 기반의 pay per token 구조에서는 개인 구독과 달리 지출 상한이 느슨해져, 일부 엔지니어가 작업과 무관한 대형 프로젝트를 시켜가며 토큰을 소모하는 상황까지 생긴다.
3. 4:01
   토큰 단가 자체는 내려갔지만 reasoning model과 agentic workflow가 늘면서 한 작업에 들어가는 총 토큰 수가 크게 증가해 실제 비용은 오히려 치솟는다. Uber처럼 연간 예산을 몇 달 만에 소진하거나, 대규모 기업이 한 달에 수억 달러를 쓰는 사례가 나오면서 기업들은 더 이상 토큰 사용을 마냥 장려할 수 없게 된다.
4. 6:00
   OpenAI 내부에서도 거대한 토큰 사용 사례가 드러나면서, 비용 문제는 외부 고객만의 이슈가 아니라는 점이 확인된다. 결국 핵심 전환점은 기술적 변화만이 아니라, 영향력 있는 집단 안에서 누군가 먼저 '이건 너무 비싸다'고 말하자 모두가 동시에 같은 불편한 진실을 인정하게 된 사회적 순간이다.

실무 인사이트

• AI 사용량을 장려할 때는 토큰 leaderboard보다 업무 기여도와 산출물 품질 지표를 먼저 둬야 한다.
• 추론형·에이전트형 기능을 도입할수록 토큰 단가보다 작업당 총 토큰 예산과 자동 중단 조건을 함께 설계해야 한다.
• 조직 차원에서는 개인별 무제한 사용을 두기보다 부서·프로젝트 단위 한도와 경보 체계를 먼저 마련해야 비용 폭주를 막을 수 있다.