Appel de fonctions

Laissez les modèles de chat Venice appeler vos outils et fonctions via l’appel de fonctions compatible OpenAI, les schémas d’outils et l’API /chat/completions.

L’appel de fonctions permet au modèle de choisir des appels d’outils structurés que votre application peut exécuter. Le modèle n’exécute pas la fonction lui-même. Il retourne le nom de la fonction et ses arguments, votre code exécute la fonction, et vous renvoyez le résultat au modèle.

Utilisez l’appel de fonctions lorsque le modèle a besoin de données en direct, d’actions applicatives, de recherches en base de données ou de calculs déterministes.

​

Définition d’outil de base

Définissez les outils avec le tableau tools compatible OpenAI :

Python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["VENICE_API_KEY"],
    base_url="https://api.venice.ai/api/v1",
)

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the current weather in a location",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "City and state, such as San Francisco, CA",
                    }
                },
                "required": ["location"],
            },
        },
    }
]

response = client.chat.completions.create(
    model="zai-org-glm-5",
    messages=[{"role": "user", "content": "What is the weather in San Francisco?"}],
    tools=tools,
)

print(response.choices[0].message.tool_calls)

​

Exécuter l’outil

Lorsque le modèle choisit un outil, inspectez message.tool_calls, analysez les arguments, exécutez la fonction de votre application, puis renvoyez le résultat sous forme de message tool.

Python

import json

message = response.choices[0].message
tool_call = message.tool_calls[0]
arguments = json.loads(tool_call.function.arguments)

weather = get_weather(arguments["location"])

follow_up = client.chat.completions.create(
    model="zai-org-glm-5",
    messages=[
        {"role": "user", "content": "What is the weather in San Francisco?"},
        message.model_dump(),
        {
            "role": "tool",
            "tool_call_id": tool_call.id,
            "content": json.dumps(weather),
        },
    ],
    tools=tools,
)

print(follow_up.choices[0].message.content)

​

Choisir un modèle

La prise en charge de l’appel de fonctions dépend du modèle. Consultez la page Modèles de texte ou l’API Models pour trouver les modèles avec supportsFunctionCalling.

Traitez les arguments d’outil comme une entrée non fiable. Validez les arguments avant de les utiliser dans des requêtes de base de données, des commandes shell, des paiements ou d’autres opérations à effet de bord.

​

Aller plus loin

L’exemple ci-dessus s’arrête après un aller-retour. Les vrais agents continuent, car le modèle a généralement besoin de plusieurs outils avant de pouvoir répondre. Construire un agent qui utilise des outils avec l’appel de fonctions parcourt la boucle complète face à une base de données que le modèle n’a jamais vue, y compris les appels d’outils parallèles, le retour d’erreurs dont le modèle se remet, et la différence entre un modèle qui décline et un garde-fou qui refuse.

​

Conseils de conception

• Gardez les noms et descriptions d’outils courts et littéraux.
• Utilisez JSON Schema pour faciliter la génération d’arguments valides par le modèle.
• Préférez des outils restreints avec des entrées claires à un outil unique et large avec de nombreux comportements optionnels.
• Retournez des résultats d’outils concis afin que la réponse finale ait suffisamment de contexte sans gaspiller de jetons.

​

Ressources connexes

• Construire un agent qui utilise des outils avec l’appel de fonctions
• API Chat Completions
• Modèles de texte
• Guide des réponses structurées
• LangChain