[한영자막] 당신만의 AI 스택을 소유하세요

한 줄 핵심

기업은 AI를 단순히 빌려 쓰는 단계에서 벗어나, 비용·속도·성능·주도권이 중요한 영역부터 자체 모델과 하네스를 구축해 인텔리전스를 소유해야 한다는 주장이다.

시간별 요약

1. 0:00
   소버린 AI는 외부 모델에 전면 의존하지 않고 기업이 자신의 인텔리전스를 소유하는 전략이며, 오픈 모델을 완전히 버리자는 뜻이 아니라 중요한 부분부터 점진적으로 내재화하자는 접근이다. 핵심은 제품의 표면이 아니라 인텔리전스 자체가 경쟁의 중심이 되었다는 점이다.
2. 3:00
   자체 AI를 가져가려는 이유는 크게 비용, 속도, 성능, 주도권 네 가지다. 특히 탭 자동완성처럼 호출이 잦고 지연이 민감한 영역이나, 보안·바이오처럼 도메인 데이터가 강한 영역은 자체 모델로 옮길 유인이 크다.
3. 7:00
   어떤 능력을 소유하고 어떤 능력을 임대할지 먼저 선을 그어야 하며, 그 판단 기준은 cost, speed/latency, performance, proprietary data다. 코딩의 agent는 여전히 임대가 유리한 반면, 자동완성이나 고도화된 도메인 특화 모델은 소유 쪽이 더 합리적일 수 있다.
4. 9:00
   소버린 AI를 하려면 기존 플랫폼팀을 억지로 쓰기보다, 연구와 엔지니어링을 함께 이해하는 소규모 전담 팀을 새로 만드는 편이 낫다. 동시에 내부 연구를 외부에 잘 보이게 만들어야 하며, 고품질 기술 콘텐츠와 별도 연구 브랜드는 구매자 신뢰를 만드는 중요한 자산이 된다.
5. 12:01
   기술 로드맵은 evals 정의에서 시작해, model router와 harness를 거쳐 post-training, 경우에 따라 mid-training·pre-training으로 확장하고, 최종적으로는 고객 상호작용이 학습 루프가 되게 만드는 구조다. 특히 open weight 모델과 강한 post training, prompts, harness engineering, online learning을 결합하면 frontier 수준을 넘는 성능도 노릴 수 있다.
6. 14:00
   자체 AI 스택은 production stack과 development stack으로 나뉘며, 전자는 사용자에게 보이는 하네스와 모델, 후자는 성능을 개선하는 eval, 데이터, 학습 환경이다. 컨텍스트 관리, 벡터DB, MCP 같은 연결, 그리고 피드백 루프를 통한 온라인 학습이 성능의 핵심 레버로 강조된다.

실무 인사이트

• 자체 AI를 시작할 때는 전면 교체보다 호출 빈도와 비용이 큰 기능부터 소유 대상으로 정하면 투자 대비 효과를 빠르게 확인할 수 있다.
• evals를 먼저 설계해야 post-training과 online learning이 실제 개선으로 이어지는지 추적할 수 있으며, 그렇지 않으면 모델이 좋아져도 제품 성능 개선이 보이지 않는다.
• 내부 연구 결과를 외부에 읽히게 만드는 기술 마케팅과 연구 브랜딩은 채용뿐 아니라 고객 신뢰와 세일즈에도 직접적인 영향을 준다.