Why LLM Recommenders Will Be AI's Biggest Consumer App — Devansh Tandon, Meta

한 줄 핵심

LLM 추천 시스템은 LLM처럼 규모 확장 법칙을 따르며, 의미 ID와 에이전틱 루프를 통해 소비자 앱의 핵심 엔진이자 가장 큰 AI 소비자 제품으로 성장할 수 있다는 주장이다.

시간별 요약

1. 0:00
   두 가지 핵심 주장 추천 시스템은 LLM처럼 스케일링 법칙을 따르며 아직 초기 단계에 있고, LLM 추천 시스템은 AI에서 가장 큰 소비자 애플리케이션 중 하나가 될 가능성이 크다는 두 가지 논지를 제시한다.
2. 0:45
   Devansh 소개 Meta에서 추천 연구와 제품을 맡고 있으며 Instagram, Facebook ads, Meta 앱군을 위한 프런티어 모델과 추천 시스템을 다룬다. Google과 YouTube에서의 경험과 semantic IDs, generative retrieval 관련 연구 이력도 함께 소개한다.
3. 1:30
   Semantic IDs와 생성형 검색의 대중화 semantic ID와 generative retrieval가 연구 단계를 넘어 YouTube, Meta, Spotify, DoorDash 등에서 대규모 उत्पादन 시스템으로 확산되고 있다. 올해는 추천 스케일링 곡선, 네 가지 추천 패러다임, LLM 추천 레시피, 소비자 AI 앱 프레임워크를 다룬다.
4. 2:15
   LLM에서 추천 시스템으로 이어지는 스케일링 법칙 모델 크기, 데이터, 연산량이 증가할수록 손실이 예측 가능한 로그 선형 곡선으로 감소하는 LLM의 스케일링 법칙이 추천 시스템에도 그대로 나타난다. 오프라인 평가지표의 개선은 실제 제품에서는 참여도와 매출 개선으로 이어진다.
5. 3:45
   Meta의 실제 스케일링 곡선 HSTU 2024와 후속 연구를 통해 모델 크기, 연산량, 데이터 확장이 추천 품질의 오프라인 지표 개선으로 이어지는 실제 곡선이 확인된다. 스케일링은 이론이 아니라 제품 성능을 끌어올리는 실전 메커니즘이다.
6. 4:15
   Instagram Reels의 30% 시청 시간 증가 Instagram Reels는 최근 분기에서 전년 대비 시청 시간이 30% 증가했다. 순위 구조를 단순화해 효율적인 모델 확장을 가능하게 하고, 더 긴 상호작용 이력과 더 풍부한 사용자 상호작용을 학습에 활용한 것이 성과로 연결됐다.
7. 4:55
   토큰 투입, 참여도 산출의 선순환 모델 학습과 추론으로 들어간 토큰이 더 나은 추천을 만들고, 그 결과가 참여도와 체류 시간 증가로 이어지며, 다시 수익이 다음 학습을 위한 자원이 되는 선순환 구조가 핵심이다. 많은 소비자 앱이 이 순환을 비즈니스 중심에 두고 있다.
8. 5:40
   추천의 네 가지 S-곡선 산업은 전통적 feature engineering 기반 추천, LLM 영향을 받은 end-to-end 추천, LLM-native 추천, agentic 추천의 네 단계로 이동하고 있다. 기존 곡선은 사라지지 않지만, 개발 방식과 운영 방식은 점점 더 자동화되고 모델 중심으로 바뀐다.
9. 6:35
   LLM 네이티브 추천 시스템 기반 LLM이 언어와 추론 능력을 가진 채로 추천 작업에 맞게 적응하는 방식이 다음 단계로 제시된다. Tiger와 Plum 같은 연구가 이 패러다임의 예시로 언급된다.
10. 6:50
    에이전틱 추천 시스템 추천을 한 번의 forward pass로 끝내지 않고, 에이전트가 계획하고 검색하고 순위를 매기고 비판하는 루프를 통해 개선하는 구조가 등장한다. 이는 코딩 에이전트의 하네스 개선과 비슷한 방향의 연구로 본다.
11. 8:05
    LLM 추천 시스템을 만드는 세 단계 콘텐츠를 토큰화해 도메인 언어를 만들고, LLM이 영어와 도메인 언어를 함께 이해하도록 적응시키고, 사용자 정보로 직접 추천을 디코딩하는 세 단계로 설명한다. 구조 자체는 단순하지만, 도메인 언어 설계가 핵심이다.
12. 8:35
    다섯 겹 케이크 구조 아래층의 semantic ID, 기반 LLM, pre-training, post-training, 표면별 미세조정으로 이어지는 다층 구조가 제시된다. 공통 컴퓨트가 여러 제품 표면에 공유되므로 표면마다 모델을 새로 학습할 필요가 줄어든다.
13. 9:35
    Semantic IDs: 10토큰으로 표현하는 Reel semantic ID는 해시 ID보다 안정적인 표현을 제공하고, 긴 사용자 행동 시퀀스를 다루기 위해 필요한 압축 수단이다. 예를 들어 3분짜리 Instagram Reel을 약 10 tokens 수준으로 압축해 context window를 효율적으로 쓸 수 있다.
14. 10:45
    영어와 Semantic ID를 함께 학습하는 사전학습 semantic ID와 영어 설명을 연결하는 과제를 통해 모델이 도메인 토큰과 자연어를 대응하도록 학습한다. 사용자 행동 시퀀스의 일부를 가려 다음 항목을 예측하게 하면서 시청 패턴과 연속성을 이해하게 만든다.
15. 11:25
    Chain of Thought를 쓰는 LLM 재순위화기 30개 후보를 입력받아 상위 5개를 고르는 재순위화 학습에서, 모델은 사용자의 관심사와 창작자 선호를 바탕으로 순서를 조정한다. 영어와 추천을 함께 이해하므로 왜 그런 결정을 내렸는지 내부 추론을 검토할 수 있다.
16. 12:25
    조정 가능한 피드: Instagram 알고리즘과 대화하기 사용자가 자연어로 관심사를 추가하거나 제거하며 자신의 알고리즘을 조정하는 경험이 가능해진다. 검은 상자형 추천에서 벗어나, 목표를 언어로 표현하고 피드가 그에 맞춰 반응하는 방향으로 이동한다.
17. 13:15
    추천 이유 설명 사용자의 이력과 새로 추가한 관심사를 결합해 추천 결과를 설명하고 예측할 수 있다. 예를 들어 FIFA World Cup을 팔로우하고 싶다는 의도를 반영해 더 개인화된 추천을 내놓는 식이다.
18. 13:50
    프롬프트 기반 플레이리스트와 맞춤형 피드 Spotify의 prompted playlists, YouTube의 custom feeds, DoorDash의 Ask DoorDash처럼 자연어로 경험을 조정하는 사례가 확산되고 있다. 이런 인터페이스는 추천을 검색보다 더 상호작용적인 제품 표면으로 바꾼다.
19. 14:05
    피드와 채팅 앱은 같은 선순환 구조 모델 학습, 추론, 소비자 참여, 수익화의 순환은 콘텐츠 피드와 AI 채팅 앱 모두에 공통적으로 적용된다. 다만 성공 여부는 학습 ROI와 추론 토큰이 참여와 수익으로 얼마나 효율적으로 전환되는지에 달려 있다.
20. 14:50
    피드가 시간당 참여도 비용에서 100배 저렴한 이유 콘텐츠 피드는 1~10 billion active parameters 수준의 모델로 semantic ID 포인터를 반환하면 되지만, 채팅 앱은 매 턴마다 더 큰 모델이 직접 텍스트를 생성해야 한다. 창작자가 공급하는 콘텐츠를 가리키는 방식이라 추론 비용이 훨씬 낮고, 시간당 참여도 기준으로 최대 100배 이상 효율적일 수 있다.
21. 16:25
    LLM 추천 시스템이 가장 큰 소비자 앱인 이유 상위 DAU 앱 10개 중 4개가 콘텐츠 피드이며, 이 영역의 성장과 수익화는 추천과 ads 모델이 좌우한다. 그래서 LLM 추천은 매우 큰 시장이면서도 토큰 효율성이 높은 소비자 AI 응용으로 본다.
22. 17:40
    마무리 LLM 추천 시스템이 연구와 제품 양쪽에서 중요한 전환점이라는 메시지로 발표를 마무리한다.

실무 인사이트

• 추천 시스템을 평가할 때 오프라인 지표뿐 아니라 참여도·수익으로 이어지는 선순환까지 함께 봐야 한다.
• 콘텐츠를 semantic ID로 압축하면 긴 사용자 이력과 추천 추론을 훨씬 효율적으로 다룰 수 있다.
• 자연어로 피드를 조정하고 추천 이유를 설명하는 기능은 추천 제품의 다음 경쟁축이 될 가능성이 높다.