scPRINT-2: Towards the next-generation of cell foundation models and benchmarks
単一細胞RNA-seq基盤モデル | 設計要素を1個ずつ切り分ける加法的ベンチマーク + 350M細胞・16生物で学習した20Mパラメータの次世代scFM
🎯 どのアーキテクチャ・データ・学習タスクが本当に効くのかを系統的に切り分け、その知見で小型かつSOTAな生成的細胞基盤モデルを構築する
① 背景と課題

単一細胞基盤モデル（scFM）は数千万〜数億細胞で学習したTransformerで、細胞型注釈・バッチ補正・摂動予測などに使われる。だが各モデルが独自ベンチを用いるため、性能向上の真因が不明で、しばしば単純手法に負けるという否定的報告も相次いでいた。

どの設計選択が効くのか帰属できない（多数の変更を一括導入）
正解ラベルがクラスタ単位・GN正解は偽陰性だらけでベンチが能力を捉えきれない
大規模だが低多様性・低深度データ（例: Tahoe単独）は性能を崩壊させる

→ 1要素ずつ切り分ける加法的ベンチで「効く設計」を特定し、それを統合した次世代scFMを作る

② 手法の概要: 加法的ベンチ + scPRINT-2
scPRINT-2: multi-cell encoder -> XPressor -> generative cell tokenscRNA-seq +0-6 neighbors(meta-cell/GNN)Gene expr.encoder(non-norm.)XPressorGQA+FA3 attn+VAE compressCelltokenDenoise /imputeCell-type /diseaseGene net.embeddings

固定ベースに42機能を1個ずつ適用（6シードで誤差棒）。勝ち筋（デノイジング>マスキング、非正規化入力、ZiNB+MSE、近傍メタセル/GNN、XPressor効率注意）を統合し、350M細胞・16生物で20Mモデルを学習。細胞トークンから生成的に補完。

③ 本研究で示したこと
  • scFM設計要素を42シナリオで系統的に切り分ける初の加法的ベンチ（12が独自貢献）
  • 史上最大350M細胞・16生物コーパス＋20Mパラメータ（前世代の約1/5）でSOTA
  • ZiNB+MSE損失と近傍エンコーダでデノイジングがMAGIC・scPRINT-1を上回る
  • 未知モダリティ(Xenium)・未知生物へ生成的に汎化（補完・反実仮想推論）
④ 主な結果 (a) アーキテクチャ全体像
scPRINT-2: multi-cell encoder -> XPressor -> generative cell tokenscRNA-seq +0-6 neighbors(meta-cell/GNN)Gene expr.encoder(non-norm.)XPressorGQA+FA3 attn+VAE compressCelltokenDenoise /imputeCell-type /diseaseGene net.embeddings
④ 主な結果 (b) デノイジング比較
9scPRINT-27scPRINT-16MAGICDenoising (relative, 9 datasets)
④ 主な結果 (c) コンテキスト外挿
20020010001k32003.2k*80008kContext genes -> accuracy up (*trained)
④ 主な結果 (d) 規模と到達点
Scale -> efficient model -> SOTACorpus: 350M cells / 16 organismsCxG + Tahoe-100M + scBasecountModel: 20M params (1/5 of scPRINT-1)1xH100, 2 days+12% via cluster logit averaginginference-timeXPEFT fine-tune: 95% accuracytest subset
⑤ テイクホームメッセージ
多様性 > 細胞数
200データセットでも劣化小。細胞数より細胞型・条件・生物の多様性が汎化を生む。
デノイジング > マスキング
非正規化入力＋分類併用が有効。ZiNB+MSE混合で不確実性を保ちつつ精度向上。
小さく強く生成的に
20Mパラメータ（1/5）でSOTA。XPressor＋VAEで細胞を1トークンへ圧縮し生成可能に。
未知へ汎化
訓練に無いXenium空間データや未知生物でも補完・注釈。複数基盤モデル融合の道も。
既存scFMとの比較
側面scPRINT-1 / 既存scFMscPRINT-2
設計検証各自の独自ベンチ42シナリオ加法的ベンチ
事前学習データ~50M細胞350M細胞 / 16生物
パラメータ~100M級20M（約1/5）
損失ZiNB / MSE / binningZiNB+MSE 混合
デノイジング高品質データ偏重全品質でSOTA, MAGIC超
生成性限定的補完・反実仮想・未知遺伝子
本研究のインパクト
  • scFMの「効く設計」を再現可能・帰属可能に。今後のモデル設計の指針になる加法的ベンチを確立
  • コード・重み・データ・全42モデル・学習トレースをGPLv3で完全公開、再現性のハードルを下げた
  • scFM×タンパク質LM(ESM3)×構造(AlphaFold-Multimer)横断でPPI仮説を相互検証する多スケール統合を提示
Kalfon J, Peyré G, Cantini L. scPRINT-2: Towards the next-generation of cell foundation models and benchmarks. bioRxiv. 2025. https://doi.org/10.64898/2025.12.11.693702 | code: github.com/cantinilab/scPRINT-2