IA locale : tient-elle vraiment ses promesses ?

Article rédigé en collaboration avec bisatel Telecom

IA locale : l’intelligence artificielle qui ne quitte jamais votre bureau tient-elle ses promesses ?

Confidentialité totale, conformité au RGPD, fonctionnement sans connexion, logiciels gratuits : l’IA auto-hébergée coche toutes les cases sur le papier. Des PME aux cabinets d’avocats, elle séduit ceux qui refusent de confier leurs données aux géants américains du cloud. Mais derrière l’argument de la souveraineté se cachent des arbitrages matériels, juridiques et humains que les brochures passent souvent sous silence.

Le grand retour du « chez soi » numérique Une idée simple, une rupture profonde

Il y a trois ans à peine, utiliser une intelligence artificielle générative revenait presque toujours à taper sa question dans une fenêtre de navigateur. La requête traversait l’Atlantique, était traitée dans un centre de données appartenant à OpenAI, Google ou Microsoft, puis revenait sous forme de réponse. Personne ne s’interrogeait vraiment sur le chemin parcouru par les données.

L’IA locale, que l’on appelle aussi IA auto-hébergée, renverse ce schéma. Le principe consiste à faire tourner un grand modèle de langage, ou LLM (pour « large language model », le moteur qui permet à une machine de comprendre et de rédiger du texte), directement sur son propre matériel : un ordinateur portable, un Mac de bureau ou un serveur installé dans les locaux de l’entreprise. Aucune donnée ne sort. Le contrat de travail analysé, le dossier médical résumé ou le fichier clients interrogé restent physiquement dans la machine.

Ce basculement doit beaucoup à un mouvement que peu d’observateurs avaient anticipé : la publication de modèles dits « à poids ouverts », c’est-à-dire dont les fichiers peuvent être téléchargés et exécutés librement. Meta avec Llama, le français Mistral AI, le chinois Alibaba avec Qwen, DeepSeek ou encore OpenAI, qui a publié en août 2025 ses modèles gpt-oss sous licence Apache 2.0, ont mis entre les mains du public des outils qui rivalisent avec les services commerciaux d’il y a dix-huit mois. Pour qui veut mesurer les gains concrets de l’IA locale, l’enjeu est aussi économique : les économies peuvent atteindre plusieurs milliers d’euros par an pour une équipe qui utilise l’IA au quotidien.

Des logiciels devenus accessibles à tous

L’autre révolution est logicielle. Installer un modèle de langage relevait encore récemment du parcours d’informaticien chevronné. Aujourd’hui, un outil comme Ollama s’installe en une commande et télécharge un modèle aussi simplement qu’une application sur un smartphone. Le projet a dépassé les 100 000 étoiles sur la plateforme GitHub, un indicateur de popularité considérable dans le monde du logiciel libre, selon le guide publié en 2026 par le site spécialisé SitePoint. LM Studio propose de son côté une interface graphique qui rappelle celle de ChatGPT, à destination des utilisateurs qui ne veulent pas toucher à une ligne de commande.

Confidentialité et RGPD : la promesse, et ses limites Des données qui ne voyagent plus

L’argument de la confidentialité est le plus puissant, et il est fondé. Lorsqu’une entreprise française utilise un service d’IA américain, ses données peuvent tomber sous le coup du Cloud Act, une loi américaine de 2018 qui autorise les autorités des États-Unis à exiger d’un fournisseur américain l’accès à des données stockées à l’étranger. Pour un cabinet d’avocats, un établissement de santé ou un bureau d’études travaillant sur des brevets, ce risque n’a rien de théorique.

Avec un modèle exécuté en local, la question ne se pose tout simplement plus. Il n’existe aucun transfert hors de l’Union européenne, aucun sous-traitant à déclarer pour l’inférence, aucune clause contractuelle à négocier avec un fournisseur étranger. Le fonctionnement hors connexion ajoute une couche de sécurité appréciable : un ordinateur déconnecté d’internet ne peut, par définition, rien laisser fuir vers l’extérieur.

« Conformité native » : un raccourci dangereux

C’est ici que notre enquête impose un sérieux bémol. Parler de « conformité native au RGPD » est commercialement séduisant, mais juridiquement inexact. Le règlement européen ne s’intéresse pas à l’endroit où tourne le logiciel, il encadre le traitement des données personnelles. Or un modèle hébergé en interne reste un traitement comme un autre.

La Commission nationale de l’informatique et des libertés l’a rappelé à sa manière le 26 août 2026 en mettant à jour Genmod, son outil qui retrace la « généalogie » des modèles d’IA en source ouverte, c’est-à-dire leurs ancêtres et leurs versions dérivées. Comme le souligne une analyse du cabinet Kohen Avocats publiée le même jour, une entreprise qui déploie un modèle ouvert doit documenter chaque version utilisée, identifier la base légale du traitement, conserver des traces techniques et rester capable de répondre à une demande d’accès ou de suppression dans le délai légal d’un mois. Surtout, le cabinet insiste sur un point : « un modèle local n’est pas automatiquement conforme ». Les accès des salariés, la durée de conservation des conversations, la réutilisation des données pour personnaliser le modèle restent autant de risques à maîtriser.

Notre position est tranchée : l’IA locale supprime le risque le plus visible, celui du transfert vers un tiers, mais elle déplace la responsabilité entière sur l’entreprise. Celle qui s’imagine protégée par le simple fait d’héberger son modèle commet une erreur de gouvernance. La souveraineté se gagne par l’organisation, pas seulement par le matériel.

Combien coûte vraiment une IA « gratuite » ? Des logiciels libres, du matériel qui ne l’est pas

La gratuité des logiciels est réelle. Ollama, llama.cpp ou vLLM sont des projets libres, et la plupart des modèles récents sont distribués sans frais de licence. Mais la facture se déplace vers le matériel, et elle peut grimper vite.

Tout se joue sur une ressource : la mémoire. Un modèle de langage doit être chargé intégralement en mémoire pour fonctionner rapidement, idéalement dans la mémoire vidéo de la carte graphique, ou dans la mémoire unifiée des Mac récents, partagée entre processeur et puce graphique. Plus le modèle compte de paramètres (les réglages internes qui constituent en quelque sorte ses connaissances), plus il réclame de place.

C’est là qu’intervient la quantification, une technique de compression qui réduit la précision des calculs pour alléger le modèle. Selon les données compilées par SitePoint, un modèle de 70 milliards de paramètres pèse environ 140 Go dans sa version complète, 70 Go en précision réduite de moitié, et une quarantaine de gigaoctets dans le format quantifié le plus répandu, que les spécialistes considèrent comme le meilleur compromis entre qualité et encombrement. En dessous, la dégradation devient perceptible.

Quatre niveaux d’équipement

Le tableau ci-dessous synthétise les grandes familles de configurations et leurs usages réalistes, à partir des guides matériels publiés en 2026 par SitePoint et Pinggy.

Configuration

Mémoire disponible pour le modèle

Modèles exploitables

Usage type

PC portable ou Mac récent d’entrée de gamme

16 à 24 Go

Petits modèles, jusqu’à 8 à 14 milliards de paramètres

Rédaction, résumé, assistant personnel

Station avec carte graphique grand public (RTX 3090, 4090 ou 5090)

24 à 32 Go de mémoire vidéo

Modèles moyens, jusqu’à 30 milliards de paramètres environ, davantage avec des modèles « mélange d’experts »

Petite équipe, analyse documentaire, code

Mac à mémoire unifiée haut de gamme ou mini-station IA

64 à 128 Go

Modèles de 70 milliards de paramètres quantifiés

Service interne pour une PME

Serveur professionnel multi-cartes

96 Go et plus

Modèles les plus lourds, nombreux utilisateurs simultanés

Déploiement à l’échelle d’une entreprise

 

Une nuance importante s’impose sur les modèles dits « mélange d’experts », comme Llama 4 Scout : ils comptent 109 milliards de paramètres au total, mais n’en activent que 17 milliards pour chaque mot produit. Ils calculent donc vite, mais doivent tout de même tenir entièrement en mémoire. Là encore, les chiffres affichés demandent une lecture attentive.

Le calcul de rentabilité

Sur la durée, l’équation financière penche nettement en faveur du local pour les usages intensifs. SitePoint estime qu’une équipe consommant un million d’unités de texte par jour via une API de niveau GPT-4o dépenserait entre 12 000 et 18 000 dollars par an, contre environ 2 500 dollars pour une station équipée d’une RTX 5090, amortie sur la même période. Le point d’équilibre serait atteint entre un et trois mois d’usage modéré. Ces chiffres doivent être pris avec précaution : ils ignorent l’électricité, la maintenance et le temps humain consacré à l’administration du système. Mais l’ordre de grandeur est parlant. Ce modèle économique intéresse d’ailleurs les distributeurs informatiques : ceux qui choisissent de devenir revendeur de solutions télécoms peuvent y adosser des services d’IA hébergée et une connectivité professionnelle.

Pour les entreprises qui veulent franchir le pas sans monter une équipe technique, un acteur spécialisé du secteur propose l’installation clé en main de serveurs d’IA privés, dimensionnés selon les usages et hébergés dans leurs propres locaux.

Cloud contre local : le match sans langue de bois Une comparaison point par point

Opposer frontalement les deux approches serait réducteur, tant leurs forces sont complémentaires. Le tableau suivant permet toutefois de mesurer ce que l’on gagne et ce que l’on perd.

Critère

IA dans le cloud

IA locale

Confidentialité

Données transmises à un fournisseur, souvent extra-européen

Données conservées sur le matériel de l’entreprise

Conformité RGPD

Dépend des contrats et des transferts

Facilitée, mais jamais automatique

Coût d’entrée

Faible, abonnement mensuel

Élevé, achat de matériel

Coût à l’usage

Proportionnel au volume, parfois imprévisible

Quasi nul après l’investissement

Puissance des modèles

Modèles les plus avancés du marché

Un cran en dessous, écart qui se réduit

Fonctionnement hors ligne

Impossible

Possible

Maintenance

Assurée par le fournisseur

À la charge de l’entreprise

Dépendance

Forte vis-à-vis d’un éditeur

Faible, modèles interchangeables

 

L’écart de performance, vrai talon d’Achille

Il faut le dire sans détour : un modèle exécuté sur un PC de bureau ne rivalise pas avec les modèles les plus puissants proposés en ligne. Les modèles de pointe comptent plusieurs centaines de milliards de paramètres et tournent sur des grappes de processeurs graphiques qui coûtent des millions. Pour un raisonnement juridique complexe ou une analyse scientifique poussée, la différence reste sensible.

Mais pour l’essentiel des tâches quotidiennes d’une entreprise, résumer une réunion, reformuler un courriel, extraire des informations d’une facture, interroger une base documentaire interne, un modèle local bien choisi suffit largement. L’erreur la plus fréquente consiste à vouloir le meilleur modèle possible pour tout, alors que la bonne stratégie est souvent hybride : le local pour les données sensibles et les tâches répétitives, le cloud pour les besoins ponctuels et exigeants, avec des données préalablement anonymisées.

Ollama, LM Studio, vLLM : quel outil pour quel profil ? Des logiciels aux philosophies différentes

Le choix de l’outil conditionne largement l’expérience. Le tableau suivant compare les principales solutions, à partir des analyses de SitePoint et des documentations des projets.

Outil

Interface

Licence

Point fort

Public visé

Ollama

Ligne de commande et API

Libre

Simplicité d’installation, compatibilité avec les applications existantes

Utilisateurs avertis, développeurs

LM Studio

Application graphique

Gratuite pour usage personnel, code fermé

Prise en main immédiate

Débutants, usage individuel

Jan

Application graphique

Libre (AGPLv3)

Code entièrement auditable

Utilisateurs soucieux de transparence

vLLM

Serveur

Libre

Nombreux utilisateurs simultanés, haut débit

Équipes techniques, déploiement en entreprise

 

Ollama présente un atout décisif pour les entreprises : il expose une interface de programmation compatible avec celle d’OpenAI. Concrètement, une application déjà conçue pour dialoguer avec ChatGPT peut être redirigée vers un modèle local en changeant une simple adresse. vLLM, en revanche, vise un autre usage : servir des dizaines d’utilisateurs en parallèle sur un serveur Linux, grâce à une gestion optimisée de la mémoire.

Ce que l’IA locale change pour les métiers de l’IT et des télécoms De nouveaux métiers, de nouvelles responsabilités

Pour les directions informatiques, l’IA locale n’est pas un simple projet d’installation. Elle impose des compétences que peu d’équipes possèdent aujourd’hui : choisir et évaluer les modèles, maîtriser la quantification, dimensionner le matériel, surveiller la consommation énergétique, assurer les mises à jour de sécurité. Le rôle d’administrateur système se double d’une fonction d’ingénieur en apprentissage automatique appliqué. Les entreprises qui n’anticipent pas cette montée en compétences risquent de se retrouver avec un serveur coûteux, mal configuré et sous-utilisé.

Une opportunité pour les intégrateurs et les distributeurs

Le mouvement ouvre surtout un marché considérable aux intégrateurs, aux revendeurs informatiques et aux opérateurs de proximité. Les PME n’ont ni le temps ni les ressources pour déployer seules leur IA privée : elles chercheront un interlocuteur capable de fournir le matériel, l’installation, la maintenance et, souvent, la connectivité qui va avec. Un distributeur peut ainsi associer offre de connectivité et services d’IA hébergée, et fidéliser durablement sa clientèle professionnelle.

Les opérateurs télécoms eux-mêmes ont une carte à jouer. Une IA locale ne supprime pas le besoin de réseau : elle le transforme. Les sites distants d’une entreprise devront synchroniser leurs bases documentaires, les objets connectés industriels embarqueront des modèles légers capables d’analyser des données sur place avant de transmettre seulement l’essentiel. Cette logique, que les spécialistes nomment « edge computing », ou traitement en périphérie du réseau, fait de la connectivité mobile et de l’eSIM des briques stratégiques.

Les angles morts d’un engouement L’énergie et le bruit, grands oubliés

Une station équipée d’une carte graphique haut de gamme consomme plusieurs centaines de watts en pleine charge et produit une chaleur et un bruit que les bureaux ouverts supportent mal. Multiplier les machines individuelles dans une entreprise peut s’avérer moins efficace, énergétiquement, qu’un serveur mutualisé. La promesse écologique de l’IA locale, parfois avancée, mérite donc d’être examinée au cas par cas.

La sécurité ne se délègue plus

Autre paradoxe : en quittant le cloud, l’entreprise renonce aussi aux équipes de sécurité de son fournisseur. Un serveur d’IA mal protégé sur le réseau interne peut devenir une porte d’entrée pour un attaquant, ou exposer des documents sensibles à des salariés qui ne devraient pas y accéder. La gestion des droits, le chiffrement et la journalisation des accès deviennent indispensables.

L’origine des modèles, question géopolitique

Enfin, le choix du modèle n’est pas neutre. Plusieurs des modèles ouverts les plus performants sont d’origine chinoise, comme Qwen ou DeepSeek. Exécutés localement, ils ne transmettent aucune donnée à leurs concepteurs, mais leurs réponses peuvent refléter des biais ou des restrictions liés à leur contexte de création. Le règlement européen sur l’intelligence artificielle, entré en vigueur en août 2024 et appliqué progressivement, impose par ailleurs des obligations de transparence aux fournisseurs de modèles à usage général. Savoir d’où vient son modèle devient une exigence de gouvernance, et c’est précisément ce que l’outil Genmod de la CNIL cherche à faciliter.

Une souveraineté à portée de main, à condition de s’en donner les moyens

L’IA locale n’est plus un gadget pour passionnés. Elle est devenue une option crédible, économiquement rationnelle pour les usages intensifs et stratégiquement pertinente pour toute organisation qui manipule des données sensibles. La maturité des modèles ouverts et la simplicité des outils ont fait tomber les principales barrières techniques en moins de deux ans.

Mais notre verdict appelle à la lucidité. La confidentialité est réelle, la conformité ne l’est qu’à condition d’une gouvernance rigoureuse. La gratuité des logiciels masque un investissement matériel et humain. Et la performance, si elle suffit pour la majorité des tâches, reste inférieure à celle des meilleurs services en ligne. Les entreprises qui réussiront leur transition seront celles qui feront des choix raisonnés, souvent hybrides, plutôt que celles qui céderont à l’idéologie du tout local ou du tout cloud.

La frontière entre informatique, télécoms et intelligence artificielle s’efface. Demain, un opérateur de proximité proposera sans doute, dans une même offre, un serveur d’IA privé, une connectivité sécurisée et des équipements connectés. Certains entrepreneurs l’ont déjà compris et choisissent de lancer leur propre marque eSIM pour occuper ce terrain avant les grands acteurs. L’intelligence artificielle revient au bureau. Reste à savoir qui saura l’y installer.