Faire tourner une IA sur site, sans GPU : ce que l'on peut attendre

La réponse courte

Une IA locale n'a pas besoin de carte graphique pour fonctionner. Sans elle, le modèle calcule sur le processeur : c'est plus lent, souvent de l'ordre de la minute ou des minutes par réponse, mais c'est utilisable et rien ne quitte la machine.

Ce guide dit ce que Subsidia fait dans ce cas, ce que nous avons réellement mesuré (une seule fois, dans des conditions précises), et ce qu'il faut accepter.

Ce qui tourne sur la machine

L'application de bureau Subsidia contient son moteur, installe sa propre base Postgres et utilise des modèles locaux exécutés par Ollama. Les documents, les réponses et les preuves restent sur le poste. Au premier lancement, « Tout installer » met en place le moteur local et les modèles : ce sont plusieurs gigaoctets, et rien ne se télécharge sans votre clic.

L'application propose trois modes : local, mixte et cloud. En mode mixte, vos documents restent sur la machine et seuls les extraits utiles à une réponse partent vers le moteur Subsidia. Le mode se change à tout moment.

Ce que nous avons mesuré

Nous avons un banc d'essai interne, smallpc:bench, qui simule un petit PC de bureau sur une autre machine : il force Ollama à n'utiliser que le processeur, limite le nombre de threads, puis rejoue ce qu'un cabinet fait vraiment sur un vrai corpus.

Mesure du 14 septembre 2026 :

Lisez ces chiffres comme un ordre de grandeur honnête, pas comme une garantie :

• le poste est simulé, pas un vrai petit PC du commerce ;
• c'est une mesure, sur un corpus, un jour donné ;
• le contexte de 4096 est la valeur par défaut d'Ollama, d'après sa documentation. L'application de bureau règle elle-même OLLAMA_CONTEXT_LENGTH à 8192 au démarrage (si la variable n'est pas déjà définie), parce qu'au-delà de la limite Ollama tronque les prompts sans prévenir. Le banc mesure ce que le modèle a réellement lu pour détecter ce cas ;
• l'ingestion de documents est un travail de fond : elle ne consomme pas de questions et peut prendre du temps sans bloquer vos autres usages.

La page de téléchargement résume la même réalité : sans carte graphique, comptez de l'ordre de deux minutes pour une réponse sur un poste de bureau courant.

Forcer le traitement local avec pulse-sensitive

Dans Subsidia, le champ model d'un appel est une adresse. Avec pulse-sensitive (ou le drapeau +sensitive, par exemple pulse-auto+sensitive), l'appel est servi par un modèle local sur une installation qui en possède un. Le texte atteint alors le modèle sans masquage, puisqu'il ne sort pas.

curl http://localhost:3051/v1/chat/completions \
  -H "Authorization: Bearer $SUBSIDIA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "pulse-sensitive",
    "messages": [{"role": "user", "content": "Résume ce relevé."}]
  }'

L'exemple vise l'adresse locale d'une installation sur site (http://localhost:3051, l'adresse que prend le SDK pour une installation sur place) ; une clé d'API sk_live_ créée dans cette installation est nécessaire. Ne vous fiez pas à l'intention, vérifiez le résultat : l'en-tête x-pulse-provider (ou egress.provider dans le certificat) vaut ollama quand l'appel est resté local, et routing.taskType vaut sensitive.

Sur un cloud hébergé sans machine locale, Subsidia ne peut pas router vers une machine qu'il n'a pas : le bouclier masque alors les données personnelles avant tout fournisseur externe. Le local garanti suppose donc une installation qui a un modèle local. Détails dans la documentation de l'adressage.

Ce qu'il faut accepter sans GPU

• Choisir l'usage selon la machine. Une question sur des documents (Light) fait un seul appel au modèle, et un petit modèle local suffit. Le Chat avec agents peut enchaîner jusqu'à 10 appels par tour et, d'après notre note de positionnement, demande un modèle d'au moins 30 milliards de paramètres pour que la synthèse ouverte tienne : ce n'est pas un usage de petit PC.
• Le reclassement des passages est moins fiable. Un petit modèle local juge moins bien la pertinence : nous avons observé un modèle local noter 0/10 un tableau qui répondait exactement à la question. Subsidia a des garde-fous qui écartent ce genre de jugement, mais cela illustre l'écart avec un gros modèle.
• La première question après une pause peut être plus lente. L'application demande à Ollama de garder les modèles en mémoire (OLLAMA_KEEP_ALIVE=-1) pour éviter de les recharger.
• Plusieurs machines : plus de débit, pas plus de vitesse. Chaque demande tient sur une seule machine. Ajouter un poste permet de traiter plus de demandes en parallèle, pas d'accélérer une réponse.

Ce que cela ne fait pas

• Ce n'est pas rapide. Sans carte graphique, attendez-vous à des minutes. Ne l'annoncez pas à une équipe comme un remplaçant instantané d'un assistant en ligne.
• Nos chiffres ne valent pas pour votre matériel. Une seule mesure, un poste simulé, un modèle, un corpus. Mesurez avec votre machine et votre usage avant de dimensionner quoi que ce soit.
• « Local » ne dit pas « conforme ». Garder les données sur une machine règle la question de leur sortie, pas votre analyse juridique du secret professionnel. Subsidia ne délivre aucune attestation de conformité.
• Seulement Windows pour l'instant. Et l'installeur n'est pas encore signé par un certificat de signature de code : Windows affiche un avertissement, à passer par « Informations complémentaires » puis « Exécuter quand même ». L'empreinte SHA-512 est publiée dans latest.yml pour qui veut la comparer.
• Un modèle local reste moins capable qu'un très gros modèle en ligne pour le raisonnement ouvert. C'est pourquoi la promesse de Light porte sur la citation et le refus d'inventer, pas sur la finesse de l'analyse.

Checklist avant de se lancer

1. Windows 10 ou 11 en 64 bits, 8 Go de RAM au minimum (16 Go conseillés), environ 10 Go libres.
2. Un usage de type « question sur mes documents » plutôt qu'un agent qui enchaîne les outils.
3. Un test sur vos documents réels, chronométré, avant de promettre un délai à l'équipe.
4. Un contrôle de x-pulse-provider sur les appels qui doivent rester locaux.
5. Une carte graphique avec 8 Go de mémoire vidéo si le délai devient bloquant : c'est le levier le plus direct.

Pour le masquage lorsque l'on utilise un fournisseur externe, voir le guide Masquer les données personnelles avant un envoi à OpenAI.

Questions fréquentes

Faut-il une carte graphique pour faire tourner une IA en local ?

Non. Elle est facultative. Avec 8 Go de mémoire vidéo, un modèle de 7 à 8 milliards de paramètres est confortable. Sans carte graphique, tout fonctionne, plus lentement : de l'ordre de deux minutes pour une réponse sur un poste de bureau courant, selon la page de téléchargement de Subsidia.

Combien de temps prend une réponse sur un PC sans GPU ?

Cela dépend de la machine, du modèle et de la question. Notre seule mesure publiée : sur un poste simulé (processeur seul, 4 threads, contexte de 4096, qwen2.5:7b), une question sur des documents a pris 134 secondes. Ce n'est pas une promesse de performance pour votre matériel : mesurez sur le vôtre.

Mes données quittent-elles l'ordinateur avec un modèle local ?

Non, pas avec un modèle local. Ollama, le moteur d'exécution des modèles, indique dans sa documentation que, lorsqu'il tourne en local, ses éditeurs ne voient pas vos prompts ni vos données. Pour être certain qu'un appel précis reste local, utilisez l'adresse de modèle pulse-sensitive et vérifiez le fournisseur indiqué dans le certificat de la réponse.

Quelle configuration minimale faut-il pour l'application de bureau Subsidia ?

Windows 10 ou 11 en 64 bits, 16 Go de RAM conseillés (8 Go au minimum) et environ 10 Go de disque libres pour l'application et les modèles. macOS et Linux ne sont pas disponibles pour l'instant.

Que se passe-t-il si la machine est trop lente ?

Subsidia n'interrompt pas un modèle local à la première minute : les délais appliqués aux modèles locaux sont longs (jusqu'à 15 minutes pour une réponse attendue), car la limite sert à détecter un moteur à l'arrêt, pas un moteur lent. Les étapes facultatives (planification, reformulation, reclassement) sont abandonnées si elles dépassent leur budget, et la réponse arrive sans elles.

Peut-on ajouter une deuxième machine pour aller plus vite ?

Oui, sur le réseau local : une machine découverte reste candidate tant que vous ne l'avez pas admise. Chaque demande est traitée en entier par une seule machine, la moins occupée. Une même requête n'est jamais découpée entre machines, donc une deuxième machine augmente le nombre de demandes simultanées, pas la vitesse d'une réponse.