Was ist Tool Calling?

Tool Calling ist eine Funktion eines KI-Modells, mit der es ein externes Werkzeug anfordern kann, statt in Worten zu antworten. Das Modell schreibt eine kurze Anfrage, die das Werkzeug nennt und die genauen Angaben, die das Werkzeug braucht. Die App (der Harness, die Software rund um das Modell) führt das Werkzeug aus und gibt dem Modell das Ergebnis zurück. Frag eine KI, wie das Wetter in Lissabon ist. Das Modell kann das heutige Wetter nicht sehen, also schreibt es die Anfrage: Werkzeug get_weather, Stadt Lissabon. Die App führt das Werkzeug aus und liefert 18 °C, die Zahl, die der Wetterdienst gemeldet hat. Das Modell antwortet dann: 18 °C in Lissabon. Das Modell hat die Anfrage geschrieben und das Ergebnis gelesen. Die App hat die Arbeit gemacht.

Tool Calling ist eine Funktion eines KI-Modells, mit der es ein externes Werkzeug anfordern kann, mit den genauen Angaben, die das Werkzeug braucht, statt eine Frage in Worten zu beantworten. Die App (der Harness, die Software rund um das Modell) führt das Werkzeug aus und gibt das Ergebnis zurück. Tool Calling beginnt mit einer Liste. Die App gibt dem Modell die Werkzeuge, die es benutzen darf, jedes mit einer einzeiligen Beschreibung und den Feldern, die es braucht: ein Wetterwerkzeug braucht eine Stadt, ein Kalenderwerkzeug ein Datum. Bei jeder Frage entscheidet das Modell, ob ein Werkzeug nötig ist. Was ist 2 plus 2 braucht keins. Wie viele Tage bis zum 25. Dezember schon, denn das Modell hat keine Uhr. Also hört das Modell auf, Prosa zu schreiben, und schreibt die Anfrage: Werkzeug days_until, Datum 25. Dezember. Die Anfrage muss aus genauen Feldern bestehen und nicht aus einem höflichen Satz, denn Software kann mit einem könntest du das für mich nachsehen nichts anfangen. Die App führt das Werkzeug aus, das vom heutigen Datum an zählt und an einem Tag Anfang Oktober 80 zurückgibt. Die App setzt diese Zahl in das Gespräch ein, und das Modell liest sie, wie es jeden anderen Text liest. OpenAI hat die Funktion im Juni 2023 unter dem Namen Function Calling eingeführt, und Tool Calling ist heute der allgemeine Name für dieselbe Sache. MCP ist das vereinbarte Format, in dem diese Liste geschrieben wird, damit jedes Modell sie lesen kann. Eine Anfrage und ein Ergebnis ist Tool Calling. Reihe mehrere aneinander, wobei das Modell jedes Ergebnis liest und das nächste Werkzeug anfordert, und du hast einen KI-Agenten. Drei Dinge können schiefgehen. Das Modell wählt das falsche Werkzeug. Es füllt die falschen Angaben ein. Und ein Ergebnis ist nur Text, also kann eine Webseite, die das Werkzeug holt, Anweisungen enthalten, denen das Modell dann folgt, und das ist Prompt Injection. In jedem Fall hat das Modell die Anfrage geschrieben, und was zurückkam, war das, womit es arbeiten musste.

Tool Calling ist eine Funktion eines KI-Modells, mit der es ein externes Werkzeug anfordern kann, mit Namen und genauen Angaben, und das Ergebnis liest, das zurückkommt. Ein Marketingteam, das eine Marktforschungsstudie in Auftrag gibt, funktioniert genauso. Das Team kann nicht selbst losziehen und 2.000 Käufer befragen, also schreibt es ein Briefing: wen fragen, in welcher Region, welche Fragen und in welchem Format der Bericht kommen soll. Das Marktforschungsinstitut führt die Umfrage durch und schickt den Bericht. Das Team liest den Bericht und entscheidet, was als Nächstes kommt, und diese Entscheidung kann ein zweites Briefing sein, das auf dem ersten aufbaut. Das Team ist das Modell, das Briefing ist die Anfrage mit ihren genauen Feldern, das Institut ist das Werkzeug, und der Bericht ist das Ergebnis. Ein vages Briefing bringt einen nutzlosen Bericht, und das ist der Fehler mit den falschen Angaben. Und das Institut kann sich irren, also muss das Team immer noch beurteilen, was es liest. Wo das Bild bricht: ein Institut braucht sechs Wochen und ein Werkzeug eine Sekunde, und das Team kann hingehen und bei der Umfrage zusehen, während das Modell nur sieht, was zurückkommt.