Maîtrisez Ollama : Guide Complet pour Exécuter des LLM Localement

L'intelligence artificielle, et plus particulièrement les grands modèles de langage (LLM), a révolutionné la façon dont nous interagissons avec la technologie. Cependant, l'utilisation de modèles basés sur le cloud pose des défis en termes de confidentialité des données, de latence et de coûts. C'est là qu'intervient Ollama, un outil open-source qui vous permet d'exécuter des LLM localement sur votre propre machine. Ce guide vous accompagne à travers l'installation, l'utilisation et l'intégration d'Ollama dans vos projets, en vous donnant le contrôle de vos données.

Pourquoi choisir Ollama pour vos LLM ?

Ollama offre plusieurs avantages par rapport aux solutions basées sur le cloud :

• Confidentialité des données : vos données restent sur votre machine, ce qui élimine les risques liés au transfert vers des serveurs tiers.
• Contrôle : vous choisissez les modèles, leur configuration et leur déploiement.
• Latence : l'exécution locale évite les allers-retours réseau.
• Fonctionnement hors ligne : une fois le modèle téléchargé, aucune connexion Internet n'est nécessaire.
• Coûts prévisibles : pas de facturation à la requête, mais un besoin en matériel (mémoire, GPU) à anticiper.

Installation et configuration d'Ollama

Ollama est conçu pour être simple à installer. Consultez le site officiel pour la procédure à jour de votre système.

macOS

Vous pouvez installer Ollama avec Homebrew :

brew install ollama

Linux

Sur Linux, suivez les instructions d'installation du site officiel d'Ollama, adaptées à votre distribution.

Windows

Pour Windows, Ollama propose un installateur à télécharger sur son site web.

Utilisation fondamentale d'Ollama

Téléchargement et exécution de modèles

Utilisez ollama run suivi du nom du modèle. Par exemple, avec gpt-oss, un modèle ouvert sous licence Apache 2.0 disponible en deux tailles : 20 milliards de paramètres (prévu pour tourner à partir de 16 Go de mémoire) et 120 milliards (prévu pour un GPU de 80 Go).

ollama run gpt-oss:20b

Le catalogue d'Ollama évolue rapidement (familles Llama, Mistral, Qwen, Gemma…). Choisissez la taille du modèle en fonction de votre mémoire disponible et vérifiez les modèles actuels sur la bibliothèque officielle.

Interaction avec le modèle

Une fois le modèle chargé, vous pouvez lui poser des questions ou lui donner des instructions. Les réponses sont générées en temps réel.

Quitter la session

Pour quitter la discussion interactive, utilisez la commande /bye.

Intégration d'Ollama via l'API

Ollama expose une API REST locale, par défaut sur le port 11434, que vous pouvez appeler depuis vos applications. Exemple en Python :

Génération de texte

import requests

prompt = "Rédige une courte histoire sur un robot qui apprend à peindre."

response = requests.post(
    "http://localhost:11434/api/generate",
    json={"model": "gpt-oss:20b", "prompt": prompt, "stream": False},
)

print(response.json()["response"])

Par défaut, l'API répond en flux (plusieurs objets JSON successifs). Le paramètre "stream": False demande une réponse unique, ce qui permet de la lire avec response.json().

Personnalisation de l'API

L'API accepte des options de personnalisation, notamment la température ou la longueur maximale de la réponse. Consultez la documentation officielle pour la liste complète.

Aller plus loin avec Ollama

Modèles personnalisés

Ollama permet de créer des variantes de modèles existants à l'aide d'un fichier de configuration (Modelfile), par exemple pour fixer un prompt système ou des paramètres par défaut.

Déploiement

Ollama peut être utilisé sur un serveur pour partager des modèles avec une équipe. Dans ce cas, protégez l'accès à l'API (réseau privé, proxy avec authentification) : elle n'est pas conçue pour être exposée telle quelle sur Internet. Pour les bonnes pratiques, lisez notre article sur la cybersécurité.

Conclusion

Ollama est un outil pratique pour tirer parti des LLM sans envoyer vos données à un fournisseur cloud. Que vous soyez développeur expérimenté ou débutant, commencez par un modèle adapté à votre mémoire, testez l'API en local, puis intégrez-la progressivement à vos projets.