Les serveurs de modèles locaux exposent une API HTTP, souvent compatible avec le format de chat d'OpenAI. Une application l'appelle avec une URL de base, un nom de modèle et des messages ; changer de serveur ou de fournisseur revient alors à modifier l'URL et le modèle.
Exemple
curl http://localhost:11434/v1/chat/completions -d '{"model":"m","messages":[{"role":"user","content":"Salut"}]}'