「Retrieve-for-Train」とは？

Retrieve-for-Trainは、難しい計画を学習の段階で一度だけ済ませる、Google ResearchのAI検索の手法だ。検索の時点では、小さなモデルが一つのクエリを、一度の処理で完全かつ多様な結果のセットに変える。解決するのは、最良の一件ではなくセットが必要な検索だ。「キャンプ用品」と打つ人が欲しいのは、テント、寝袋、コンロ、ランプで、テント10張ではない。そのセットを、大きなAIモデルがユーザーを待たせて一歩ずつ推論しながらその場で組み立てるのは遅い。Retrieve-for-Trainはその推論を一度きりの学習に移し、結果をずっと小さなモデルに渡す。Googleによれば、応答は12〜20倍速い。

Retrieve-for-Trainは、検索の時点でAIモデルに考えさせずに、速く多様な検索結果のセットを得るためのGoogleの方法だ。Google Researchが2026年9月に発表した。問題は幅の広いクエリから始まる。誰かが「キャンプ用品」と検索したら、良い答えは旅に必要なものをそろえたセットだ。テント、寝袋、コンロ、ヘッドランプ。検索システムは、一つのクエリをいくつかの小さなクエリに分け、それぞれを実行してそのセットを得る。分け方として素直なのは、検索の時点で大規模言語モデルにクエリを渡すことだ。これは二つの点でうまくいかない。モデルは違う種類の品物のクエリではなく、一つのクエリのほぼ複製を作りがちだ。しかも答えを一歩ずつ文章で組み立てるので遅い。Googleのテストでは、1,024件のクエリを一度に分けるのに50秒近くかかった。Retrieve-for-Trainは、その思考を三つの段階で一度だけ済ませる。まず、中規模の言語モデルを試行と報酬で学習させ、1回の検索につき10個の小さなクエリを作らせる。報酬は10個をまとめて採点する。カタログにある実在の品物に合うか、違う範囲をカバーしているか、元の話題から外れていないか。次に、学習したそのモデルが大量の例を書き出す。一つひとつがクエリと良い結果のセットの組で、人手によるラベル付けはない。最後に、約5,400万パラメータの小さなモデルがその例から学び、単語を一つずつ出すのではなく、クエリから結果のセット全体へ一度に飛ぶ。ユーザーが検索するとき動くのは小さなモデルだけだ。Googleのテストでは、小さなバッチで1秒未満、1,024件のバッチで約4秒かかった。一歩ずつ進むモデルより12〜20倍速い。結果も汎用モデルより多様だった。これは高くつく一つの振る舞いを安い一つのモデルに圧縮するレシピで、新しい検索エンジンではない。

ギフトバスケットの店に悩みがある。「ピクニックバスケット」を頼む客が欲しいのは取り合わせで、チーズ6種類ではない。どのバスケットも変化があり、テーマに合い、倉庫に実際にある品でできていなければならない。一つのやり方は、腕のいい何でも屋を雇い、客を待たせてバスケットを毎回ゼロから考えさせることだ。これは遅く、しかも何でも屋はほとんど同じクラッカーを5つ選びがちだ。そこで店主は4週間かけて、注文の種類ごとにどの品が良いバスケットになるかを突き止め、大事な点で毎回の試みを採点する。実在の在庫、変化、注文との合い方だ。結果は組み立てカードにまとめる。それ以降は、新人の誰でも考えずに60秒でバスケットを詰められ、しかも何でも屋のものより良い。Retrieve-for-Trainは検索システムを同じやり方で動かす。4週間の作業が学習、組み立てカードが例、新人が小さなモデル、バスケットが結果のセットにあたる。たとえが崩れる点：新人は決まった注文に決まったカードで応えるが、小さなモデルはパターンを学んでいて、見たことのない注文にもセットを作る。