Ollama est un outil qui télécharge et exécute des modèles de langage sur sa propre machine ou son serveur, avec une API HTTP locale. Il simplifie l'installation, la gestion des modèles et leur lancement sur CPU ou GPU, et convient au développement et à des usages simples.
Exemple
ollama run llama3.2