Ollama

Comment ça marche

Faire tourner un modèle de langage sur sa propre machine demandait, il y a peu, des compétences pointues. Ollama a simplifié ça à l’extrême : on l’installe, on tape le nom d’un modèle, il le télécharge et le lance. Quelques minutes plus tard, on discute avec un modèle qui tourne entièrement sur l’ordinateur, sans connexion à un service extérieur.

Techniquement, Ollama gère le téléchargement des modèles, leur exécution optimisée pour le matériel présent (processeur, carte graphique, puces Apple), et une interface standard que d’autres logiciels peuvent utiliser. Cette interface imite celle des grands fournisseurs, ce qui permet de brancher sur Ollama des outils conçus pour eux. C’est la pièce centrale de la plupart des installations locales en PME.

Un exemple concret

1. Jour 1, un portable : le dirigeant d’une PME de conseil installe Ollama sur son Mac, télécharge un modèle de taille moyenne, et lui fait résumer des comptes rendus confidentiels. Lent, mais ça marche, et rien ne sort.
2. Semaine 2, un test sérieux : avec un consultant, il compare trois modèles sur 40 tâches réelles : résumés, extractions, réponses sur des documents. L’un des trois tient la comparaison avec le service en ligne sur 35 tâches.
3. Mois 2, un serveur : Ollama est installé sur un serveur avec une carte graphique, branché sur les documents du cabinet par une base vectorielle, derrière une interface de chat interne avec identifiants.
4. Depuis : les consultants y traitent tout ce qui est confidentiel. Le reste continue sur l’assistant en ligne. Le serveur est mis à jour chaque trimestre avec les nouveaux modèles.

Le passage du portable au serveur n’a rien changé à la façon de s’en servir. C’est ce qui a rendu la décision facile.

Ce que ça change pour une équipe

• Essayer ne coûte rien. Une heure et un ordinateur récent suffisent pour voir ce qu’un modèle local sait faire sur vos documents.
• La confidentialité devient simple. Ce qui ne doit pas sortir passe par le modèle local. Pas de contrat à négocier, pas de doute sur l’hébergement.
• Les outils existants se branchent. Beaucoup d’applications qui parlent aux grands fournisseurs savent parler à Ollama, par le même format.
• On garde le contrôle des versions. Le modèle installé ne change pas sans qu’on l’ait décidé. Les évaluations restent valables.

Les limites et les erreurs fréquentes

• Attendre d’un portable ce qu’un serveur fait. Sur une machine modeste, on fait tourner un petit modèle, lentement. Pour une équipe, il faut une machine dédiée, dimensionnée.
• Choisir un modèle au hasard. La bibliothèque est vaste. Le choix se fait par des tests sur vos tâches, pas sur des classements généraux.
• Oublier la sécurité autour. Ollama lui-même n’a pas de gestion des utilisateurs. Sur un serveur partagé, il faut une interface avec identifiants et un réseau protégé.
• Laisser le serveur vieillir. Les modèles ouverts progressent vite. Un serveur jamais mis à jour perd l’avantage en quelques mois.