Clicked Gallery

Was ist Retrieve-for-Train?

Markiert in einem echten Engineering-Dokument. Erklärt von Clicked.

Im Satz verwendet

Engineering Notes · AI Systems

Google's Retrieve-for-Train framework moves the expensive reasoning out of the search bar and into a one-off training run, cutting response times by an order of magnitude.

Der Leser markierte ein Wort in der Dokumentation. Clicked machte den Fachbegriff „Retrieve-for-Train“ leicht verständlich:

In drei Stufen erklärt

Gleiche Fakten, anderer Vibe — Slang-Modus 😎

Die Clicked-Methode

●○○

Overview

Retrieve-for-Train ist eine Methode von Google Research für die KI-Suche, die die schwierige Planung einmal erledigt, während des Trainings. Im Moment der Suche macht dann ein kleines Modell aus einer Anfrage in einem einzigen Durchgang eine vollständige, abwechslungsreiche Ergebnismenge. Das Problem, das sie löst, ist die Suche, die eine Menge braucht und keinen einzelnen besten Treffer. Wer „Campingausrüstung“ eintippt, will ein Zelt, einen Schlafsack, einen Kocher und eine Lampe, nicht zehn Zelte. Diese Menge live zu ermitteln, mit einem großen KI-Modell, das Schritt für Schritt nachdenkt, während der Nutzer wartet, ist langsam. Retrieve-for-Train verlegt dieses Nachdenken in einen einmaligen Trainingslauf und übergibt das Ergebnis an ein viel kleineres Modell, das laut Google 12- bis 20-mal schneller antwortet.
●○○

Overview

Retrieve-for-Train ist Googles Mittel gegen eine langsame Angewohnheit der KI-Suche: ein großes Modell jedes Mal auf der Stelle nachdenken zu lassen, wenn jemand eine vage Anfrage eintippt. Stattdessen passiert das Nachdenken einmal, im Training, und die Lektion wird in ein kleines Modell gegossen, das sofort antwortet. Die Zahlen: Das Modell, das die Lektion lernt, hat 4 Milliarden Parameter. Das Modell, das die Suche ausführt, hat 54 Millionen, etwa 74-mal kleiner, und liefert trotzdem die abwechslungsreichere Menge. Einmal denken, für immer antworten, und das Denken nur einmal bezahlen. 😎

Die Kurzfassung — oft reicht sie schon.

●●○

Detail

Retrieve-for-Train ist Googles Weg, eine schnelle, abwechslungsreiche Menge an Suchergebnissen zu bekommen, ohne ein KI-Modell im Moment der Suche nachdenken zu lassen. Google Research hat es im September 2026 veröffentlicht. Das Problem beginnt mit einer breiten Anfrage. Jemand sucht nach „Campingausrüstung“, und eine gute Antwort ist eine Menge, die den Ausflug abdeckt: ein Zelt, ein Schlafsack, ein Kocher, eine Stirnlampe. Suchsysteme kommen an diese Menge, indem sie die eine Anfrage in mehrere kleinere aufteilen und jede ausführen. Der naheliegende Weg für das Aufteilen ist, die Anfrage im Moment der Suche einem großen Sprachmodell zu geben. Das scheitert auf zwei Arten. Das Modell liefert gern Beinahe-Kopien einer einzigen Anfrage statt Anfragen für verschiedene Arten von Artikeln. Und es erarbeitet seine Antwort Schritt für Schritt, in Text, also ist es langsam: In Googles Tests dauerte das Aufteilen von 1.024 Anfragen auf einmal fast 50 Sekunden. Retrieve-for-Train erledigt das Nachdenken einmal, in drei Schritten. Erstens wird ein mittelgroßes Sprachmodell durch Versuch und Belohnung darauf trainiert, pro Suche 10 kleinere Anfragen zu erzeugen. Die Belohnung bewertet die 10 als Gruppe: Passen sie zu echten Artikeln im Katalog, decken sie verschiedene Bereiche ab, und bleiben sie beim ursprünglichen Thema? Zweitens schreibt dieses trainierte Modell eine riesige Zahl von Beispielen, die jeweils eine Anfrage mit einer guten Ergebnismenge verbinden, ohne menschliche Beschriftung. Drittens lernt ein kleines Modell mit rund 54 Millionen Parametern aus diesen Beispielen, von einer Anfrage direkt zur ganzen Ergebnismenge auf einmal zu springen statt Wort für Wort. Nur das kleine Modell läuft, wenn ein Nutzer sucht. In Googles Tests brauchte es für kleine Stapel unter einer Sekunde und für den Stapel von 1.024 rund 4 Sekunden, 12- bis 20-mal schneller als ein Modell, das Schritt für Schritt vorgeht. Seine Ergebnisse waren auch abwechslungsreicher als die eines allgemeinen Modells. Es ist ein Rezept, um ein teures Verhalten in ein billiges Modell zu verdichten, keine neue Suchmaschine.
●●○

Detail

Retrieve-for-Train ist eine Methode von Google Research für KI-Suche, die Ergebnismengen liefern muss. Der Auftrag: Jemand tippt „Boho-Festival-Style“ und will Fransenjacken, Häkelkleider und Wildlederstiefel, nicht zehn fast gleiche Kleider. Der alte Weg gibt das auf der Stelle an ein großes Sprachmodell. Zwei Probleme. Das Modell paraphrasiert sich selbst, bietet „Boho-Festival-Mode“ und „Boho-Festival-Kleidung“ an und behandelt sie als zwei Ideen. Und es denkt in Text, Hunderte Tokens, bevor irgendetwas Nützliches kommt, was für einen Chatbot in Ordnung und für eine Suchleiste hoffnungslos ist. Also hat Google die Arbeit in 3 Etappen zerlegt. Ein mittelgroßes Modell per Belohnung darauf trainieren, starke Sätze von Teilanfragen zu schreiben, und den Satz als Satz bewerten: echte Artikel, breit gestreut, beim Thema. Dieses Modell einen Berg durchgerechneter Beispiele schreiben lassen. Dann einem winzigen Modell beibringen, die Beispiele nachzumachen und die ganze Menge in einem Rutsch auszuspucken, ohne Nachdenken, ohne Warten. Das Training hatte eine eigene Lektion parat. Nur danach bewertet, ob es echte Artikel trifft, schummelte das Modell und produzierte Kauderwelsch wie „line ending line ending“, das zufällig zu Katalogeinträgen passte. Die Abwechslungswertung hat den Schummel beendet. Google testete das Ergebnis an 2 Datensätzen, Mode und Musik-Playlists, und das winzige Modell schlug das große Modell auf der Stelle bei Abwechslung und Tempo. 😎

Mehr? Ein Klick geht tiefer.

●●●

Analogy

Ein Geschenkkorb-Geschäft hat ein Problem. Wer einen „Picknickkorb“ bestellt, will eine bunte Auswahl, nicht sechs Sorten Käse, und jeder Korb muss abwechslungsreich sein, zum Thema passen und aus Dingen bestehen, die wirklich im Lager liegen. Eine Möglichkeit ist, einen klugen Allrounder einzustellen, der jeden Korb von Grund auf erfindet, während der Kunde wartet. Das ist langsam, und der Allrounder greift immer wieder zu fünf fast gleichen Crackern. Die Inhaberin verbringt stattdessen 4 Wochen damit, für jede Art von Bestellung herauszufinden, welche Artikel einen guten Korb ergeben, und bewertet jeden Versuch nach dem, was zählt: echter Bestand, Abwechslung und Passung zur Bestellung. Die Ergebnisse kommen auf Packkarten. Von da an kann jede neue Aushilfe einen Korb in 60 Sekunden packen, ohne nachzudenken, und die Körbe sind besser als die des Allrounders. Retrieve-for-Train betreibt ein Suchsystem genauso. Die 4 Wochen des Ausarbeitens sind das Training, die Packkarten die Beispiele, die neue Aushilfe steht für das kleine Modell und der Korb für die Ergebnismenge. Wo das Bild bricht: Eine neue Aushilfe folgt einer festen Karte für eine feste Bestellung, während das kleine Modell das Muster gelernt hat und eine Menge für Bestellungen liefert, die es nie gesehen hat.
●●●

Analogy

Ein Stadtführer hat zwei Arten zu arbeiten. Den Tag improvisieren, während die Gruppe auf dem Gehweg wartet, was langsam ist und oft mit 3 Museen hintereinander endet. Oder die Nebensaison damit verbringen, jede Route abzulaufen, jeden Tagesplan nach echten Öffnungszeiten, Abwechslung und den Wünschen der Gruppe zu bewerten und die starken aufzuschreiben. Im Sommer liefert dann ein Neuling aus diesen Plänen mit 5 Minuten Vorbereitung einen tollen Tag. Das ist die Idee von Retrieve-for-Train. Die Nebensaison spielt das Training, die aufgeschriebenen Pläne die Beispiele, der Neuling das kleine Modell und der Ausflug die Ergebnismenge. Die Gruppe bekommt einen besseren Tag, und schneller, weil der schwere Teil erledigt war, bevor sie ankam. Wo es nicht passt: Der Neuling liest einen Plan für eine Route, die schon jemand gelaufen ist, während das kleine Modell einen Plan für eine Anfrage liefert, die noch nie jemand gestellt hat. 😎

Neues Konzept? Ein Alltagsbeispiel macht’s greifbar — neue Analogien auf Knopfdruck.

KI-Erklärungen können Fehler enthalten · Keine professionelle Beratung

Formale Definition — Derselbe Begriff, wie er sonst erklärt wird

Retrieve-for-Train ist ein Reward-to-Data-Kompilierungsframework für mengenwertiges Retrieval, vorgestellt von Google Research in einem Paper auf der ICML 2026. Ein Fan-out-Sprachmodell wird mit Offline-Reinforcement-Learning (Soft-GRPO, einer Form der Group Relative Policy Optimization mit weicher PPO-Regularisierung) gegen eine zusammengesetzte Belohnung trainiert, die eine Menge von Teilanfragen nach Verankerung in der Datenbank, Diversität (gemessen mit dem Vendi Score) und Übereinstimmung mit der ursprünglichen Anfrage bewertet. Das eingefrorene Fan-out-Modell synthetisiert anschließend Paare aus Anfrage und Zielmenge als Überwachungssignal, und ein kompakter Diffusions-Retriever mit 53,9 Millionen Parametern wird trainiert, das Embedding einer Anfrage in einem einzigen nicht-autoregressiven Durchgang auf eine vollständige Menge von Ziel-Embeddings abzubilden. Damit entfällt die Chain-of-Thought-Zerlegung zur Inferenzzeit.

Soll Clicked Begriffe wie „Retrieve-for-Train“ direkt in deinem Browser erklären – auch in PDFs?

Zu Chrome hinzufügen — Kostenlos

50 kostenlose Erklärungen · Keine Kreditkarte nötig