Cada vez más empresas buscan asistentes de IA que trabajen con sus propios documentos sin enviar datos a la nube. El factor decisivo no es la marca del procesador, sino la memoria: cuánta puede utilizar el modelo. A continuación, le explicamos cómo elegir el ordenador adecuado para cada tarea.
Por qué ejecutar la IA en local
Los datos se quedan en la oficina: los contratos, las historias clínicas o la contabilidad nunca salen de la red de la empresa. No hay coste por consulta y el sistema sigue funcionando sin conexión a internet. A cambio, usted debe elegir y mantener el hardware.
La memoria determina qué modelo puede ejecutar
Los modelos de lenguaje se miden en miles de millones de parámetros. Comprimido a 4 bits —la forma habitual de ejecutarlos en local—, un modelo necesita algo más de medio gigabyte de memoria por cada mil millones de parámetros, además de espacio para la conversación. Como referencia: un modelo de 8 mil millones necesita unos 6 GB; uno de 32 mil millones, unos 20 GB; y uno de 70 mil millones, unos 40–45 GB.
Lo que cuenta es la memoria que puede utilizar el procesador gráfico o el acelerador de IA. En los ordenadores con memoria unificada, el procesador y el procesador gráfico comparten la misma memoria, por lo que una estación de trabajo con 128 GB puede asignar hasta 96 GB al modelo.
Tres categorías de hardware
Los ordenadores de placa única con una NPU de 1 a 6 TOPS y 8–16 GB de memoria permiten realizar tareas de visión artificial —recuento, detección y lectura de texto— y ejecutar modelos de lenguaje pequeños. Son adecuados para laboratorios de formación y dispositivos que funcionan en las propias instalaciones.
Los mini PC con procesadores Intel Core Ultra o AMD Ryzen AI y 32–64 GB de memoria ejecutan modelos de 8–14 mil millones de parámetros para unos pocos usuarios; por ejemplo, un asistente de consulta de documentos para una oficina pequeña.
Las estaciones de trabajo con 128–192 GB de memoria unificada ejecutan modelos de hasta unos 70 mil millones de parámetros y dan servicio a un equipo pequeño. Para decenas de usuarios simultáneos se necesita un servidor con tarjetas gráficas profesionales, lo que requiere otro presupuesto.
¿NPU o procesador gráfico?
Una NPU es eficiente para tareas específicas, pero no todos los modelos y programas son compatibles con ella. Las herramientas habituales para ejecutar modelos de lenguaje en local, como Ollama, LM Studio y llama.cpp, se apoyan principalmente en el procesador y el procesador gráfico. Antes de comprar, compruebe que su software sea compatible con el chip concreto; nosotros pedimos a la fábrica que lo confirme por escrito.
Lista de comprobación antes de hacer el pedido
Qué modelos y de qué tamaño; cuántas personas los utilizarán a la vez; qué extensión tienen los documentos; Windows o Linux; si la fábrica debe preinstalar su imagen del sistema; la garantía y cómo se gestionan las reparaciones; el consumo eléctrico y el ruido en una oficina.
Cómo le ayudamos
Indíquenos qué modelos quiere ejecutar y cuántos usuarios tiene. Le proponemos una configuración, pedimos a la fábrica que confirme la compatibilidad por escrito y podemos encargar que se instale su imagen del sistema antes del envío.