I Spent Two Years Building the Median — Hariprasad Sudharshan

한 줄 핵심

AI가 소프트웨어 개발을 더 빠르게 만들었지만, 대부분의 결과물은 이미 수렴한 ‘중간값’에 머무르므로 경쟁하려면 평균적인 구현이 아니라 진짜 새로움에 자원을 써야 한다.

시간별 요약

1. 0:00
   일상 아래에 깔린 결정론적 소프트웨어 현대 도시와 경제는 보이지 않는 전통적 소프트웨어에 의해 돌아가며, 신뢰성과 반복 가능성이 핵심 가치다. 제품의 차별성은 결국 인간의 판단과 도구 체인의 누적된 설계에서 나오며, 이 결정론적 기반이 세계를 지탱한다.
2. 3:54
   대여한 모델이 소프트웨어를 만드는 방식을 바꾼다 AI 시대에는 모델을 빌려 쓰면서 누구나 최첨단 능력에 접근할 수 있게 되었지만, 모델 바깥의 하네스·도구·MCP는 여전히 기존의 결정론적 소프트웨어다. AI의 역할은 새로운 문제를 더 싸게 풀고, 기존보다 빠르게 신뢰 가능한 소프트웨어를 만드는 데 있다.
3. 6:41
   육상 경기와 흔들리는 모델 순위표 엘리트 선수들처럼 모델 간 점수 차이는 매우 작고, 순위표는 릴리스마다 쉽게 바뀐다. 그래서 모델 점수 차이를 제품 전략의 핵심 우위로 해석하면 안 되며, 실제로는 모델 자체보다 하네스와 제품을 비교하는 경우가 많다.
4. 10:28
   모델, 하네스, 그리고 제품 모델은 엔진처럼 기본 능력을 제공하고, 하네스는 도구·컨텍스트·지시·오케스트레이션·메모리로 그 엔진을 쓰는 방식이다. 제품은 왜 그 결과가 필요한지를 정의하며, 모델을 모두가 빌려 쓰는 환경에서는 차별성이 점점 중간값으로 수렴한다.
5. 12:09
   중간값과 수렴하는 해법들 LLM의 반복적인 개선은 시장의 중간값을 계속 끌어올리지만, 동시에 많은 팀이 비슷하거나 같은 해법에 도달하게 만든다. 이제 배포 가능한 평균적인 제품은 거의 무료가 되었고, 경쟁 시장에서는 제품 자체보다 유통과 분배가 더 중요한 방어선이 된다.
6. 14:24
   유용한 소프트웨어와 차별화의 한계 AI 보조 개발은 많은 사람을 개발자로 만들고, 전문가의 기준으로 보면 평범해 보이는 결과물도 실제 창작자에게는 충분히 성공적일 수 있다. 내부용이나 학습용으로는 가치가 크지만, 공개 시장에서 경쟁하려면 유용함만으로는 부족하고 반드시 새로움이 필요하다.
7. 18:03
   먼저 만들어 버리는 반사적 습관 예전보다 검색과 검토보다 바로 빌드하는 습관이 강해지면서, coding agent에 문제를 던지면 몇 분 만에 스캐폴딩이 나오고 곧바로 출시 가능한 상태까지 간다. 하지만 그렇게 만들어진 RAG 같은 결과물은 이미 많이 풀린 문제를 또 푼 것일 가능성이 높아, 도파민은 크지만 차별성은 약하다.
8. 20:39
   계산기와 2년간의 1인 빌딩 여러 AI 플랫폼을 동원해 혼자 만든 계산기 프로젝트도 결국 다른 제품들과 매우 비슷한 해답으로 수렴했다. 2년 동안 여러 아이디어를 직접 만들어보며, 분배가 좋은 쪽이 이기고 해법은 빠르게 포화된다는 현실을 체감했다.
9. 23:51
   새로움 예산을 정의하라 AI 제품 개발에는 novelty budget이 필요하며, 최소 한 단위의 진짜 새로움을 확보해야 중간값을 넘을 수 있다. 새로움이 없다면 이미 많은 사람이 푼 문제를 다시 푸는 셈이므로, 프로젝트 계획 단계에서 무엇이 새로운지 먼저 명시해야 한다.
10. 26:19
    제품 로드맵을 위한 네 가지 움직임 경쟁이 치열한 환경에서는 강한 의견을 갖고, 프롬프트에서 생산까지의 평균 경로를 내부용으로는 인정하되, AI가 완료했다고 느껴지는 지점부터가 실제 작업의 시작이라고 봐야 한다. coding agent는 마지막으로 훌륭한 설계를 무료로 주지만, 다음 단계의 차별적 설계는 사용자가 직접 찾아야 한다.
11. 28:30
    데모를 평가하는 리더를 위한 세 가지 질문 리더는 데모를 볼 때 이미 누가 이것을 했는지, 우리만의 새로움이 무엇인지, 이 앱이 실제로 어디에서 살아남을지를 물어야 한다. 이런 질문은 빌드 우선 반사를 누르고, 결과 중심과 차별성 중심의 판단으로 조직의 기준을 재조정한다.
12. 30:45
    오픈 가중치, 추론 비용, 그리고 수정된 계산기 open weights는 무료이지만 open inferences는 무료가 아니며, 실제 운영에는 MLOps, SRE, KV cache, batching, 병렬화, 활용률 같은 여러 층의 비용과 역량이 필요하다. 그래서 계산기는 오픈 모델을 기업 내부에서 돌릴 때의 실제 비용과 Neo cloud에서 토큰 기반으로 쓰는 비용을 비교하는 도구로 다시 정의되었다.
13. 33:42
    독특한 문제에 판단을 써라 AI 덕분에 소프트웨어는 더 빨리 만들 수 있지만, 중간값 제품은 공개 경쟁에서 오래 버티기 어렵고, 분배력이 큰 경우에만 생존 가능하다. 결국 살아남는 길은 가장 독특한 문제 하나를 골라 세계 최고가 되려는 의도로 판단과 에너지를 집중하는 것이다.

실무 인사이트

• AI로 빨라진 개발에서는 ‘빨리 만들 수 있음’과 ‘경쟁 우위가 있음’을 분리해서 봐야 하며, 출시 전 반드시 novelty budget을 한 줄로 정의하는 습관이 필요하다.
• 모델 비교보다 더 중요한 것은 하네스와 제품이며, 조직은 모델 점수표가 아니라 실제 사용 맥락과 배포 형태를 기준으로 의사결정해야 한다.
• 내부용 자동화와 공개 시장용 제품은 성공 기준이 다르므로, 공개 경쟁을 목표로 한다면 기능 추가보다 차별화 포인트와 유통 전략을 먼저 설계해야 한다.