La journalisation des appels de modèle enregistre pour chaque requête des informations utiles : modèle, nombre de tokens, durée, coût, statut, et utilisateur concerné. Elle permet de suivre les dépenses, d'investiguer les erreurs et d'auditer l'usage, en évitant d'y stocker des données sensibles.
Exemple
{"model":"m","tokens_in":820,"tokens_out":140,"latency_ms":1900,"status":"ok"}