ConforFormer: Representation for Molecules through Understanding of Conformers
同一分子の複数コンフォマーを対照学習し、3D 幾何だけからコンフォメーション非依存の凍結埋め込みを獲得 ｜ ChemRxiv 2025 (TU Delft / Perplexity AI)
🎯 一度生成すれば fine-tune なしに物性予測・構造類似度へ直接使える task-agnostic・conformation-agnostic な 512 次元凍結埋め込みを得る。
① 背景と課題

化学基盤モデルはタスクごとにモデル全体を fine-tune するが、実データは数百点規模で安定した再学習が難しい。3D 幾何は物性予測に重要だが、1 つの分子グラフが複数のコンフォマーに対応し推論に曖昧さが生じる。ConforFormer はコンフォマー多様性を学習タスク化し、3D 座標と原子種だけから凍結埋め込みを得る。

既存基盤モデルはタスクごとにモデル全体を fine-tune し、数百点規模の実データで不安定
多くは 2D 表現依存で配座・配置多様性を無視（有機分子外へ一般化しにくい）
1 分子グラフが複数コンフォマーに対応し推論に曖昧さ。コンフォマー理解を学習タスク化した基盤モデルが未存在

→ コンフォマー対照学習でコンフォメーション非依存性を付与し、凍結埋め込み＋浅い MLP の安定・再現可能・スケーラブルな運用へ

② 手法: Uni-Mol backbone + コンフォマー対照学習
ConforFormer 事前学習 Uni-Mol backbone 原子トークン + 距離行列 attention・CLS プーリング マルチタスク事前学習 マスク原子/距離/座標 + コンフォマー対照 NT-Xent 対照学習 同一分子の異コンフォマーを正例 (τ=0.07) 512次元 凍結埋め込み → 浅い MLP downstream は MLP のみ学習
L = L_token + 5·L_coord + 10·L_distance + 2·L_contrast
分子グラフは正例ラベリングのみ・推論時グラフ不要・重みは HuggingFace 公開

Uni-Mol データ(209M geom / 20.9M SMILES)と高品質 OpenMolecules(OMol, FAIR)で学習。GitHub/HF 公開。

③ 本研究で示したこと（要点）
  • コンフォマー多様性を明示的な対照学習タスクとして基盤モデルに組込んだ初の手法
  • 3D 座標と原子種だけから推論（分子グラフ非依存）の 512 次元凍結埋め込み
  • fine-tune 不要の「凍結埋め込み+浅い MLP」で安定・再現性高（分類 std 2–3倍小）
  • 3D 幾何のみから分子グラフ的特徴を復元する emergent capability
④ 主な結果 (a) 対照学習の効果
0.019 対照学習なし 0.013 ConforFormer QM9 RMSD (↓良)

コンフォマー対照学習で難関 QM9 が劇的改善（0.019→0.013）。

④ 主な結果 (b) OMol 凍結埋め込み
4 QM回帰 (/6) 5 分類 (/8) ConforFormer–OMol 首位/タイ数

凍結埋め込み+MLP が QM回帰6中4で最良・分類8中5で首位タイ。2020s 手法の多くに匹敵。

④ 主な結果 (c) 安定性・表現
凍結で std 2–3倍小
分類ベンチで再現性向上（学習能力と安定性の良トレードオフ）
512 次元埋め込み
コンパクトに 3D 幾何から分子グラフ的特徴を保持・復元（emergent）
推論にグラフ不要
3D 座標 + 原子種のみで推論。有機分子外への汎化余地
④ 主な結果 (d) データ・ベンチ
Uni-Mol データ 209M geom
20.9M SMILES・各 10 コンフォマー（RDKit 生成）
OMol(FAIR)で高品質化
drop-in 代替で凍結埋め込みの質が向上
PharmIsomer ベンチ
薬学的に意味ある分子識別（コンフォマー/異性体識別能）を評価
⑤ テイクホームメッセージ
🔁 コンフォマー対照学習
同一分子の異配座を正例に NT-Xent で整列しコンフォメーション非依存化。
🧊 凍結埋め込み
fine-tune 不要・再現性高（std 2–3倍小）で小規模データに強い。
📐 グラフ非依存
3D 座標と原子種だけで推論、有機分子外への汎化余地。
✨ emergent
3D 幾何だけから分子グラフ的特徴を復元。
凍結埋め込み性能 (ConforFormer–OMol)
項目結果
QM 回帰ベンチ6 中 4 で最良
分類ベンチ8 中 5 で首位タイ
QM9（対照学習効果）0.019 → 0.013
再現性（分類 std）unfreeze 比 2–3 倍小
本研究のインパクト
  • lib/docking: 512 次元凍結埋め込みのコサイン類似度を LBVS 一次フィルタに。一度生成して再利用し、コンフォマー選択/3D アラインメント/fine-tune なしで大規模ライブラリをスクリーニングし上位のみ ProLIFCalculator/UniDockRunner へ
  • lib/molgen: 埋め込みベース property/similarity スコアラを MolgenYaml 生成ループに組込み、ドッキング不要で高速にターゲット適合度・参照類似度を評価（3D コンフォマー多様性に頑健）
  • lib/md: コンフォマー対照学習を MD トラジェクトリ由来の conformer/isomer ラベル生成へ拡張し、organometallic など分子グラフ表現が一般化しにくい系の埋め込みを学習
Rudenko, I.; Klein, M.P.; Pidko, E.A.; Bushmarinov, I. ConforFormer: Representation for Molecules through Understanding of Conformers. ChemRxiv preprint. 2025. https://doi.org/10.26434/chemrxiv-2025-x68vd