From Tokens to Cells: Foundation Models for Single-Cell Biology - Akram Baharlouei, Altos Labs

한 줄 핵심

단일세포 생물학은 세포 재생·질병 치료·디지털 휴먼으로 이어질 잠재력이 크지만, 현재의 single-cell 데이터는 잡음과 불일치가 커서 대규모로 모아도 그대로는 좋은 foundation model이 되기 어렵고, 당분간은 분포를 더 잘 맞추는 flow matching 계열이 유망하다.

시간별 요약

1. 0:12
   이 발표는 single-cell 생물학을 토큰처럼 다루는 foundation model 관점에서 풀어내며, 단일세포의 의미, 측정 방식, 데이터의 문제, 최신 모델의 성능과 한계를 순서대로 정리한다. 핵심 문제의식은 생물학적 복잡성을 모델링해 세포 재생과 약물 개발을 앞당길 수 있느냐에 있다.
2. 1:01
   Yamanaka factor 사례는 오래된 피부 세포를 배아줄기세포 유사 상태로 되돌릴 수 있음을 보여주며, 세포 종류 자체를 바꾸는 재프로그래밍과 세포의 나이만 되돌리는 부분 재프로그래밍 가능성을 열었다. 이런 흐름은 노화 관련 기능 회복과 질병 치료를 위한 새로운 의학적 경로로 연결된다.
3. 4:00
   single-cell을 제대로 이해하면 세포에서 조직, 장기, 더 나아가 인간 전체를 모델링하는 virtual cell, virtual tissue, virtual human, digital twins로 확장할 수 있다. 그러나 신약 개발은 성공률이 낮고 10년 이상과 수십억 달러가 들기 때문에, 연구 단계만이 아니라 전체 파이프라인을 바꾸는 혁신이 필요하다.
4. 6:02
   single-cell은 genome, RNA-seq, proteomics, morphology 등 여러 방식으로 측정되지만, foundation model 학습에는 주로 RNA-seq가 쓰인다. 다만 단일세포 데이터는 같은 세포를 두 번 재도 측정해도 결과가 다를 정도로 이질적이며, 생물학적 잡음과 실험실·장비 차이까지 겹쳐 매우 불안정하다.
5. 10:00
   SCGPT와 Informer 같은 transformer 기반 모델은 세포를 문장, 유전자를 토큰처럼 보고 마스킹 복원 방식으로 학습하지만, 정보를 latent vector로 압축하는 과정에서 손실이 커서 단순한 선형 모델과 비슷하거나 더 나쁜 경우가 있다. 반면 PrimeFlow 같은 flow matching 모델은 Gaussian noise에서 출발해 데이터 분포를 직접 맞추려 하며, 분포 예측과 생성 품질 면에서 더 유망한 결과를 보인다.

실무 인사이트

• single-cell 모델 성능을 높이려면 데이터 양을 늘리는 것보다 측정 방식의 현실성, 배치 차이 보정, 멀티모달 결합처럼 데이터 품질과 표현력을 먼저 개선하는 전략이 더 중요하다.
• 세포 유형 분류보다 perturbation response modeling과 분포 복원이 더 어려운 과제이므로, 실제 적용에서는 생성 정확도와 분포 일치도를 우선 평가해야 한다.
• 단일세포 foundation model은 현재 transformer 압축형보다 flow matching 계열을 우선 검토하되, 조직·장기 수준으로 확장 가능한지까지 염두에 두고 설계해야 한다.