O que é tool calling?

Tool calling é um recurso de um modelo de IA que permite a ele pedir uma ferramenta externa em vez de responder com palavras. O modelo escreve um pedido curto com o nome da ferramenta e os dados exatos de que a ferramenta precisa. O app (o harness, o software em volta do modelo) executa a ferramenta e devolve o resultado para o modelo usar. Pergunte a uma IA como está o tempo em Lisboa. O modelo não consegue ver o tempo de hoje, então escreve o pedido: ferramenta get_weather, cidade Lisboa. O app executa a ferramenta e devolve 18 °C, o número que o serviço de meteorologia informou. O modelo então responde: 18 °C em Lisboa. O modelo escreveu o pedido e leu o resultado. Quem executou foi o app.

Tool calling é um recurso de um modelo de IA que permite a ele pedir uma ferramenta externa, com os dados exatos de que a ferramenta precisa, em vez de responder a uma pergunta com palavras. O app (o harness, o software em volta do modelo) executa a ferramenta e devolve o resultado. Tool calling começa com uma lista. O app entrega ao modelo as ferramentas que ele pode usar, cada uma com uma descrição de uma linha e os campos de que precisa: uma ferramenta de tempo precisa de uma cidade, uma de calendário precisa de uma data. A cada pergunta o modelo decide se precisa de uma ferramenta. Quanto é 2 mais 2 não precisa de nenhuma. Quantos dias faltam para 25 de dezembro precisa, porque o modelo não tem relógio. Então o modelo para de escrever prosa e escreve o pedido: ferramenta days_until, data 25 de dezembro. O pedido tem que ser campos exatos, e não uma frase educada, porque software não consegue agir sobre um você podia dar uma olhada pra mim. O app executa a ferramenta, que conta a partir da data de hoje e devolve 80 num dia do começo de outubro. O app cola esse número na conversa, e o modelo lê o número do jeito que lê qualquer outro texto. A OpenAI lançou o recurso em junho de 2023 com o nome function calling, e tool calling é hoje o nome geral da mesma coisa. MCP é o formato combinado para escrever essa lista, para que qualquer modelo consiga lê-la. Um pedido e um resultado é tool calling. Encadeie vários, com o modelo lendo cada resultado e pedindo a próxima ferramenta, e você tem um agente de IA. Três coisas podem dar errado. O modelo escolhe a ferramenta errada. Preenche os dados errados. E um resultado é só texto, então uma página da web que a ferramenta busca pode trazer instruções que o modelo depois segue, e isso é prompt injection. Em todo caso o modelo escreveu o pedido, e o que voltou foi aquilo com que ele teve de trabalhar.

Tool calling é um recurso de um modelo de IA que permite a ele pedir uma ferramenta externa, com o nome da ferramenta e os dados exatos, e ler o resultado que volta. Um time de marketing encomendando uma pesquisa de mercado funciona do mesmo jeito. O time não consegue sair para entrevistar 2.000 compradores por conta própria, então escreve um briefing: quem perguntar, em que região, quais perguntas e em que formato o relatório deve vir. A agência de pesquisa faz a pesquisa e manda o relatório. O time lê o relatório e decide o que fazer em seguida, e essa decisão pode ser um segundo briefing que parte do primeiro. O time é o modelo, o briefing é o pedido com seus campos exatos, a agência é a ferramenta e o relatório é o resultado. Um briefing vago traz um relatório inútil, que é a falha dos dados errados. E a agência pode errar, então o time ainda tem que julgar o que lê. Onde a imagem quebra: uma agência leva seis semanas e uma ferramenta leva um segundo, e o time pode ir ver a pesquisa sendo feita, enquanto o modelo só vê o que volta.