De plus en plus d’entreprises souhaitent disposer d’assistants IA qui travaillent sur leurs propres documents sans envoyer de données dans le cloud. Le facteur décisif n’est pas la marque du processeur, mais la mémoire — la quantité que le modèle peut utiliser. Voici comment choisir un ordinateur adapté à la tâche.
Pourquoi exécuter l’IA en local
Les données restent au bureau : les contrats, les dossiers médicaux ou les données comptables ne quittent jamais le réseau de l’entreprise. Il n’y a pas de frais par requête, et le système continue de fonctionner sans Internet. En contrepartie, vous choisissez et entretenez vous-même le matériel.
La mémoire détermine le modèle que vous pouvez exécuter
La taille des modèles de langage se mesure en milliards de paramètres. Compressé sur 4 bits — la méthode habituelle pour l’exécuter en local —, un modèle nécessite un peu plus d’un demi-gigaoctet de mémoire par milliard de paramètres, plus de l’espace pour la conversation. À titre indicatif : un modèle de 8 milliards de paramètres nécessite environ 6 Go, un modèle de 32 milliards environ 20 Go et un modèle de 70 milliards environ 40–45 Go.
Ce qui compte, c’est la mémoire utilisable par le processeur graphique ou l’accélérateur IA. Dans les ordinateurs à mémoire unifiée, le processeur et le processeur graphique partagent une même mémoire. Une station de travail de 128 Go peut ainsi allouer jusqu’à 96 Go au modèle.
Trois catégories de matériel
Les ordinateurs monocartes dotés d’un NPU de 1 à 6 TOPS et de 8–16 Go de mémoire prennent en charge la vision par ordinateur — comptage, détection, lecture de texte — et les petits modèles de langage. Ils conviennent aux laboratoires de formation et aux appareils qui fonctionnent sur site.
Les mini PC équipés de processeurs Intel Core Ultra ou AMD Ryzen AI et de 32–64 Go de mémoire exécutent des modèles de 8–14 milliards de paramètres pour quelques utilisateurs — par exemple, un assistant documentaire pour un petit bureau.
Les stations de travail dotées de 128–192 Go de mémoire unifiée exécutent des modèles allant jusqu’à environ 70 milliards de paramètres et répondent aux besoins d’une petite équipe. Pour des dizaines d’utilisateurs simultanés, il faut un serveur équipé de cartes graphiques professionnelles — ce qui représente un autre budget.
NPU ou processeur graphique ?
Un NPU est efficace pour des tâches spécifiques, mais tous les modèles et logiciels ne le prennent pas en charge. Les outils courants pour exécuter des modèles de langage en local, comme Ollama, LM Studio et llama.cpp, s’appuient principalement sur le processeur et le processeur graphique. Avant d’acheter, vérifiez que votre logiciel prend en charge la puce exacte — nous demandons à l’usine de le confirmer par écrit.
Points à vérifier avant de commander
Les modèles à utiliser et leur taille ; le nombre d’utilisateurs simultanés ; la longueur des documents ; Windows ou Linux ; la nécessité de faire préinstaller votre image système par l’usine ; la garantie et les modalités de réparation ; la consommation électrique et le bruit dans un bureau.
Comment nous vous accompagnons
Indiquez-nous les modèles que vous souhaitez exécuter et votre nombre d’utilisateurs. Nous proposons une configuration, demandons à l’usine de confirmer la compatibilité par écrit et pouvons faire installer votre image système avant l’expédition.