📺 영상 요약 아카이브
← 목록

펠리컨 한 마리로 AI 줄세우기

김플립 - LLM 코딩 · 2026-07-20 08:30 · 10:37

한 줄 핵심

자전거 타는 팰리컨 SVG 한 줄 테스트는 최신 AI가 단순 이미지 생성뿐 아니라 코드 생성, 공간 구성, 비용, 추론량까지 얼마나 성숙했는지를 직관적으로 보여주는 재미있는 축소판이지만, 이제는 종합 성능을 완전히 대변하는 벤치마크는 아니다.

시간별 요약

  1. 0:03
    아주 짧은 프롬프트로 자전거 타는 팰리컨 SVG를 만들게 하면 초기 모델은 팰리컨도 자전거도 아닌 결과를 내놓지만, 최신 모델은 훨씬 그럴듯한 그림을 만든다. 이 테스트는 단순한 그림 놀이가 아니라 모델이 얼마나 많은 출력 토큰과 추론을 동원해 문제를 푸는지도 함께 드러낸다.
  2. 2:00
    이 테스트는 사이먼 윌리슨이 기존 벤치마크 대신 직접 만든 비교용 실험이며, 팰리컨을 고른 이유는 데이터셋에 없는 독특한 조합이라 암기 가능성이 낮다고 봤기 때문이다. 16개 모델에 같은 문장을 넣어 보니 어떤 모델은 설명과 렌더링이 완전히 어긋났고, SVG라는 코드 형식이 모델의 시각적 구성 능력을 잘 드러냈다.
  3. 4:00
    초기에는 대부분의 모델이 원과 선의 집합 수준이었지만, 2024년 말부터는 새와 자전거의 형태가 점점 분리되어 보이기 시작했다. 2025년에는 팰리컨과 자전거가 같은 화면에 들어오고, 5월 무렵에는 대부분 한눈에 알아볼 만한 결과가 나오면서 사실상 리더보드 경쟁으로 발전했다.
  4. 6:00
    SVG를 잘 만든다는 것은 태그를 아는 수준이 아니라 레이아웃, 비율, 정렬, 계층, 변형, 애니메이션까지 함께 다루는 능력이다. 그래서 이 테스트는 프론트엔드 실력과도 연결되며, 코드상으로는 맞아 보여도 실제 렌더링에서 발이 떠 있거나 화면 밖으로 날아가는 식의 오류를 잡아낸다.
  5. 8:01
    최신 프론티어 모델들 사이에서는 팰리컨 품질과 종합 성능의 상관관계가 예전만큼 강하지 않지만, 여전히 실행 여부, 비용, 추론 강도, 기본적인 기하 감각을 보는 간단한 실험으로는 쓸모가 있다. 다만 에이전트의 도구 사용 안정성이나 장기 작업 수행 능력까지는 측정하지 못하므로, 재미있는 시각적 벤치마크로 보는 것이 적절하다.

실무 인사이트

  • 짧은 자연어 과제 하나로도 모델의 코드 생성, 공간 이해, 비용 특성까지 동시에 점검할 수 있으므로, 내부 비교용 미니 벤치마크를 하나 만들어 두면 모델 교체 평가가 빨라진다.
  • 겉보기 결과만 보지 말고 코드와 렌더링의 불일치까지 확인해야 하며, 특히 프론트엔드나 SVG 생성 작업에서는 설명과 실제 출력의 차이가 품질 문제를 가장 잘 드러낸다.
  • 같은 테스트를 모델 세대별로 반복하면 절대 점수보다 개선 추세를 보기 좋아서, 조달이나 도입 검토 시 정량 벤치마크를 보완하는 실무 자료로 활용할 수 있다.