Benchmarking Generative AI Against Bayesian Optimization for Constrained Multi-Objective Inverse Design

qEHVI (BO) vs fine-tuned LLM (WizardMath-7B 等) — materials informatics (out_of_scope for chemexp)

🎯 property → structure の inverse design を BoTorch qEHVI と PEFT-fine-tuned LLM で benchmark し、performance / cost trade-off を整理する。

① 背景と課題

constrained multi-objective inverse design は materials informatics（resins、polymers、paints の formulation design）で central な課題。BO（特に BoTorch qEHVI）が SOTA だが GP の O(N³) scaling が大規模問題で限界。LLM の universal effectiveness は generative / reasoning task で示されたが、continuous numerical optimization での utility は open question。

専用 BO は強いが GP の O(N³) で large-scale に限界。

LLM は continuous numerical optimization 用に architect されていない。

→ PEFT で LLM を regression として fine-tune、qEHVI / Ax と GD/IGD/HV で直接比較。

② 手法 (a) BO baselines

BoTorch Ax（foundational BO baseline、Meta 公開）と BoTorch qEHVI（q-Expected Hypervolume Improvement、batch-aware multi-objective acquisition、SOTA）の 2 系統で BO 側を構成。

data → GP surrogate → qEHVI acquisition → next batch → iterate

qEHVI は differentiable な gradient-based acquisition で multi-objective 設定での Pareto front 探索に強い。

② 手法 (b) Fine-tuned LLM

WizardMath-7B / DialoGPT / Mistral / ChemBERTa / SciBERT を PEFT (QLoRA) で fine-tune。Inverse design を「property vector Y → feasible input vector X の zero-shot regression with custom output head」として framing。iterative surrogate を bypass。

GD = 1.21

WizardMath-7B が best LLM、Ax baseline (15.03) を大きく上回る

specialized BO に届かないが computational fast alternative。

③ 本研究で示したこと（要点）

BoTorch qEHVI は GD=0.0 で完全収束、performance ceiling
WizardMath-7B (LLM) は GD=1.21、Ax baseline (15.03) を 1 桁上回る
specialized BO は依然 leader、LLM は fast alternative としての position
chemexp スコープ外 (materials informatics) だが optimization methodology は参考

④ 主な結果 (a) GD ランキング

Generational Distance (lower is better)

qEHVI が perfect、LLM は Ax を 1 桁上回るが qEHVI には届かない。

④ 主な結果 (b) LLM × BO trade-off

qEHVI と LLM が Pareto front 上、Ax は dominated。

④ 主な結果 (c) 比較対象

分類	モデル
BO	BoTorch Ax (baseline)
BO	BoTorch qEHVI (SOTA)
LLM	WizardMath-7B (best)
LLM	DialoGPT, Mistral
BERT	ChemBERTa, SciBERT

④ 主な結果 (d) 評価 metric

Metric	意味
GD (Generational Distance)	主指標
IGD (Inverted GD)	逆方向距離
SP (Spacing)	均一性
MS (Maximum Spread)	被覆範囲
HV (Hypervolume)	体積支配

Pareto front benchmarking の標準軸 5 種。

⑤ テイクホームメッセージ

🏆 qEHVI 不動の SOTA
GD=0.0 で perfect convergence。BO の advanced acquisition は依然 ceiling。

⚡ LLM as fast alt.
WizardMath-7B が GD=1.21、cheap alternative として validate。

📐 Materials science 限定
resins / polymers / paints の formulation design。drug discovery とは異 domain。

⚠️ chemexp 外
out_of_scope だが LLM × opt の framing と qEHVI 自体は参考点。

scope 判定

軸	結果
application	materials informatics
chemexp 主軸	drug discovery
scope 判定	out_of_scope
参考点	LLM × opt framing, qEHVI acquisition

本研究のインパクト

LLM × continuous numerical optimization の baseline evidence
BO (qEHVI) の依然たる優位を再確認する material
chemexp 文脈: ulvsflow の multi-objective acquisition function 検討の参考