LocalAI
moteur IA local
LocalAI
Lire la fiche Site officielExécuter un outil localement peut donner plus de maîtrise sur les données, mais demande du matériel, de la configuration et de la maintenance. Distinguez le modèle, l’interface et les services externes éventuellement activés.

Ces services actifs sont des points de départ issus du catalogue. La mise en avant et le score éditorial ordonnent cette sélection ; ils ne remplacent pas un essai sur votre cas.
moteur IA local
LocalAI
Lire la fiche Site officielmodèles locaux
Ollama · US
Lire la fiche Site officielservice de modèles
vLLM Project
Lire la fiche Site officielmodèles locaux
LM Studio · US
Lire la fiche Site officielexécution locale de modèles
Docker · US
Lire la fiche Site officielmodèles de langage auto-hébergés
Open WebUI · US
Lire la fiche Site officielservice de modèles
SGLang
Lire la fiche Site officielmodèles locaux
Jan AI · US
Lire la fiche Site officielexécution locale de modèles
Apple · US
Lire la fiche Site officielAu sein d’une même famille, ces besoins demandent des fonctions différentes. Partez du résultat attendu pour réduire votre sélection.
| Votre besoin | Parcours à examiner | Contrôle décisif |
|---|---|---|
| Utiliser une interface de conversation | L’interface et le moteur peuvent être installés sur des machines différentes. | Identifiez l’adresse du moteur, le modèle chargé et les connexions des extensions. |
| Servir un modèle à plusieurs utilisateurs | Le runtime, la mémoire et la concurrence déterminent la capacité pratique. | Mesurez attente et erreurs à charge représentative ; ne déduisez pas la capacité du seul poids du modèle. |
| Exiger un traitement hors ligne | Téléchargez d’abord modèles et dépendances, puis vérifiez toute la chaîne déconnectée. | Incluez OCR, embeddings, recherche et outils ; un seul appel distant change le parcours. |

Tester un modèle sans envoyer de document vers un service distant.

Construire une recherche dans des documents internes avec des accès maîtrisés.

Préparer un environnement réversible pour expérimenter plusieurs modèles.

Vérifiez ce qui fonctionne réellement hors connexion.

Mesurez la mémoire, la vitesse et la qualité sur votre matériel.

Examinez les licences, les mises à jour et les connexions externes de chaque composant.
Choisissez vos critères avant de commencer. Ces contrôles sont des propositions pratiques à adapter à votre tâche, et non des performances mesurées des services du catalogue.
| Dimension | Comment vérifier | Piège à éviter |
|---|---|---|
| Mémoire | Mesurer la mémoire réellement utilisée avec votre modèle et votre longueur de contexte. | La taille du fichier ne représente pas toute la mémoire nécessaire. |
| Réactivité | Séparer temps de chargement, délai du premier mot et durée totale. | Un débit élevé après chargement peut masquer une longue attente initiale. |
| Réseau | Vérifier connexions, extensions et journaux avec la configuration effectivement utilisée. | Une interface locale peut appeler un service distant. |
| Identité de l’exécution | Noter modèle, révision, quantification, moteur et gabarit de conversation ; relancer après un redémarrage contrôlé. | Un même nom de modèle ne prouve pas que les poids, le format de conversation et les réglages sont identiques. |
Séparez les erreurs bloquantes des défauts mineurs. Comparez les mêmes entrées, gardez les tentatives ratées et incluez le temps humain. Un petit essai aide à repérer les défauts ; il ne prouve pas une fiabilité générale. Recommencez si le modèle, les données ou la configuration changent.
Ces exemples fictifs montrent comment examiner un résultat. Ils ne décrivent pas des incidents observés chez les services de cette page.
| Signal à repérer | Exemple fictif | Comment vérifier |
|---|---|---|
| Le modèle ne tient pas dans la mémoire | Le chargement réussit mais une entrée plus longue provoque un arrêt. | Mesurer la mémoire avec le contexte cible et une marge ; réduire taille ou contexte si nécessaire. |
| Local est confondu avec hors ligne | L’interface locale appelle encore un service externe. | Examiner les connexions réseau et les extensions pendant un essai sans données sensibles. |
| La quantification dégrade une tâche précise | Une version plus légère perd les nombres dans les extractions. | Comparer les variantes sur les mêmes documents, avec correction humaine et temps total. |
Situation de départ. Vous souhaitez interroger dix documents internes sur un poste isolé. Le test doit fonctionner sans réseau et citer les passages utilisés dans la réponse.

Installez le modèle et l’interface sur une machine de test. Coupez la connexion puis vérifiez les fonctions réellement disponibles.

Relevez mémoire, temps de réponse, qualité des réponses et capacité à retrouver les passages sur les mêmes questions.

Documentez les versions, licences, mises à jour, sauvegardes et possibilités d’export ou de remplacement.




Pas automatiquement. Une interface peut activer télémétrie, mises à jour ou API distantes ; vérifiez les connexions effectives.
Pas toujours. Comparez vitesse, mémoire, qualité sur votre tâche et facilité de maintenance sur votre matériel.
Le modèle produit les réponses ; l’interface gère les fichiers, utilisateurs et interactions. Leur hébergement et leurs licences peuvent différer.