Pourquoi une IA locale ?
Les IA cloud (Claude, GPT-4, Gemini) sont puissantes mais posent trois problèmes concrets pour les entreprises : coût à l’usage, confidentialité des données et dépendance à internet. Quand votre Company Brain contient vos décisions stratégiques, vos fiches produit et vos processus internes, vous ne voulez pas les envoyer à un serveur distant.
La solution : Ollama, un moteur qui fait tourner des modèles IA directement sur votre machine. Coût = 0. Données = chez vous. Vitesse = celle de votre CPU/GPU.
Ce qui a été installé dans Kortexi
L’architecture locale mise en place se compose de trois briques :
- OllamaConnector, connecteur natif Kortexi qui parle à Ollama via son API locale (
http://localhost:11434). Il gère la génération de texte (chat) et la génération d’embeddings vectoriels (embed). Coût = 0€. - VectorStore, moteur de recherche sémantique pour le Company Brain. Il convertit chaque fiche en vecteur mathématique (768 dimensions) et permet de retrouver les fiches vraiment pertinentes pour une question, même si les mots exacts ne correspondent pas.
- Brain sémantique, le QueryAgent utilise désormais la recherche vectorielle en priorité. Il trouve les fiches les plus proches par sens, pas seulement par mots-clés.
Étape 1, Installer Ollama
Rendez-vous sur ollama.ai et téléchargez la version pour votre système (macOS, Windows, Linux). L’installation prend deux minutes.
Vérifiez qu’Ollama tourne en ouvrant votre navigateur sur http://localhost:11434. Vous devez voir :
Ollama is runningÉtape 2, Installer un modèle de langage
Ollama fonctionne avec des modèles open source. Ouvrez votre terminal et tapez :
ollama pull qwen3:14bC’est le modèle recommandé pour Kortexi (9,3 Go, excellent en français). Alternatives légères : mistral:latest (4,4 Go) ou llama3.2:latest (2 Go).
Étape 3, Installer le modèle d’embeddings
C’est la brique qui rend votre Brain intelligent. Les embeddings transforment du texte en vecteurs mathématiques, ce qui permet une recherche par sens plutôt que par mots-clés.
ollama pull nomic-embed-textC’est un modèle léger (274 Mo), spécialisé pour les embeddings, rapide et très précis. Il génère des vecteurs de 768 dimensions.
Étape 4, Configurer Ollama dans Kortexi
Dans votre back-office Kortexi :
- Allez dans Kortexi → Connecteurs IA
- Trouvez la carte Ollama (Local)
- Laissez l’URL par défaut :
http://localhost:11434 - Modèle par défaut :
qwen3:14b - Cliquez Tester la connexion → vous devez voir « Ollama OK, X modèle(s) disponible(s) »
Étape 5, Indexer le Company Brain
C’est l’étape clé. Elle lit chaque fiche de votre Brain, génère son embedding via nomic-embed-text, et stocke le vecteur en base de données.
- Allez dans Kortexi → Company Brain
- Onglet Knowledge Base
- Vous voyez la barre « 🔢 Recherche sémantique » avec le compteur de fiches indexées
- Cliquez 🔄 Indexer le Brain
- Attendez la fin (environ 1-2 secondes par fiche)
- Le compteur passe à 100% ✅
⚠️ Si Ollama n’est pas lancé, l’indexation échoue silencieusement. Vérifiez toujours que http://localhost:11434 répond avant d’indexer.
Ce qui change concrètement
Avant l’indexation, quand vous posiez une question au Brain (« Quelle est notre stratégie de prospection ? »), il cherchait par mots-clés WordPress, il trouvait les fiches qui contenaient les mots « stratégie » et « prospection ». Beaucoup de fiches pertinentes passaient à la trappe.
Après l’indexation, la même question est convertie en vecteur. On calcule la similarité cosinus avec chaque fiche du Brain. Les 5 fiches les plus proches par sens remontent, même si elles n’utilisent pas exactement ces mots.
Résultat : des réponses du Brain beaucoup plus précises, contextuelles et utiles.
Réindexer après chaque ajout
Chaque fois que vous ajoutez ou modifiez des fiches dans le Brain, relancez l’indexation via le bouton. Ou réindexez une seule fiche via l’endpoint POST /aicos/v1/brain/embed-post avec le post_id concerné.
L’indexation complète prend environ 30 secondes pour 36 fiches, c’est raisonnable de la relancer à chaque session de travail sur le Brain.
Les modèles disponibles sur votre machine
Voici les modèles actuellement installés et leurs cas d’usage :
| Modèle | Taille | Usage recommandé |
|---|---|---|
qwen3:14b | 9,3 Go | Rédaction, analyse, Brain queries, modèle principal |
deepseek-r1:8b | 5,2 Go | Raisonnement complexe, logique |
llama3:70b-instruct | 39 Go | Qualité maximale (nécessite beaucoup de RAM) |
mistral:latest | 4,4 Go | Rapide, bon généraliste |
llama3.2:latest | 2 Go | Tâches légères, réponses courtes |
nomic-embed-text | 274 Mo | Embeddings Brain, NE PAS utiliser pour la génération |
La prochaine étape : Étape 2, Skill Router
L’Étape 1 donne au Brain une recherche sémantique. L’Étape 2 ira plus loin : chaque agent Kortexi chargera automatiquement le skill métier correspondant depuis le Brain comme system prompt. Le WriterAgent lira les fiches « Rédaction » du Brain avant d’écrire. Le CommercialAgent lira les 24 skills B2B. Chaque agent deviendra expert de son domaine grâce au Brain.
Côté connecteurs, Ollama fait justement partie des connecteurs disponibles dans Kortexi, au même titre qu’OpenAI ou Claude. Mais avant d’indexer quoi que ce soit, l’import des documents reste la première étape avant toute indexation sémantique.