論文タイトル
AgentPLM: Agentic Protein Language Models with Reasoning-Augmented Decoding for Protein Sequence Design
出典
要旨
従来のタンパク質言語モデル（PLM）が持つ「一度生成したら途中で判断を修正できない」という課題に対し、外部の構造予測・安定性評価ツールを生成途中で呼び出せる AgentPLM を提案しています。
解説など
この研究は何をしたのか
近年のタンパク質言語モデル（Protein Language Model, PLM）は、アミノ酸配列から構造や機能を予測したり、新しいタンパク質配列を生成したりできるようになりました。しかし著者らは、既存の PLM は基本的に「受動的（passive）」なモデルだと指摘しています。つまり、配列を生成する途中で
- この部分は構造的に不安定ではないか
- 結合能は十分か
- 熱安定性に問題はないか
といった外部評価を参照できず、最初から最後まで一方向に生成するだけです。
そこで本研究では、タンパク質設計を単なる配列生成ではなく、「必要に応じてツールを呼び出しながら設計を進める意思決定問題」として再定義しています。
どのような仕組みなのか
AgentPLM の中核は以下の2つです。
1. RAD（Reasoning-Augmented Decoding）
RAD は配列生成中に外部オラクル（評価ツール）を呼び出せる仕組みです。ReActやToolformerといった既存研究の考え方を組み合わせて、タンパク質設計向けに再設計しています。
論文では主に以下のツールを利用しています。
- ESMFold（構造予測）
- FoldX（安定性評価）
- AutoDock Vina（結合評価）
通常の PLM はアミノ酸を1文字ずつ出力しますが、AgentPLM はアミノ酸だけでなく「ツール呼び出し」という行動も選択できます。ツール実行後は結果をモデル内部に取り込み、その情報を使って続きを生成します。
著者らはこれを、専門家が設計・評価・修正を繰り返す実験サイクルに近いものと位置付けています。
2. CAPO（Contrastive Agent Policy Optimisation）
もう一つの重要な要素が CAPO です。DPOでは出力に対して良悪を比較しますが、CAPOでは高性能な設計経路（trajectory）と低性能な設計経路を比較しながら学習します。単に良い最終配列を真似するのではなく、
- どのタイミングでツールを呼ぶべきか
- どのオラクル情報が有用か
まで学習することを狙っています。
モデル構成
AgentPLM は主に次の4要素で構成されています。
- ツール呼び出しトークンを追加した拡張語彙
- Oracle 出力を統合する Tool Context Encoder（TCE）
- 過去のツール利用履歴を保持する Trajectory Memory Buffer（TMB）
- 推論時にツール利用を制御する RAD
どのように評価したのか
著者らは以下の5種類のベンチマークで評価を行っています。
- ThermoStab-75（熱安定性設計）
- AntibodyOpt-VH（抗体最適化）
- EnzymeDesign-EC3（酵素設計）
- PPI-Interface（タンパク質間相互作用設計）
- ZeroShot-Fitness（変異効果予測）
比較対象として、
- ESM-2
- ProteinMPNN
- EvoProtGrad
- RFdiffusion-AA
- ProtAgent
などが用いられています。
得られた結果
論文によると、AgentPLM は全ての評価タスクで最良の結果を示したと報告されています。
特に抗体最適化タスクでは、
- ProtAgent：27.38%
- AgentPLM：52.41%
という top-10% hit rate が報告されています。
またアブレーション実験では、
- RAD を除去すると性能が大きく低下
- CAPO を通常の教師あり学習へ置き換えても性能低下
が観察されており、オンラインでのツール利用とその学習の両方が重要であることが示されています。
どのようにツールを使っているのか
興味深い点として、モデルは学習によってツール利用のタイミングも獲得しています。
論文の解析では、
- ESMFold は配列初期で多く利用
- FoldX は中盤で多く利用
- AutoDock Vina は後半で多く利用
されていました。著者らはこれを、
- まず全体構造を確認
- 次に安定性を調整
- 最後に結合性を最適化
という人間のタンパク質工学者に近いワークフローだと解釈しています。
