DeepInfer, el motor de inferencia que DeepSeek usa en sus servicios de producción, quedó publicado como código abierto el 20 de octubre y ya roza las 20.000 estrellas en GitHub. La cifra exacta del repositorio marcaba 19.941 estrellas y 2.126 bifurcaciones la noche del 22 de octubre, tres días después de la salida. Un motor de inferencia es el programa que toma un modelo ya entrenado y lo sirve a los usuarios: reparte el trabajo entre chips, agrupa las peticiones que llegan y decide con qué rapidez sale cada respuesta. Esa capa decide buena parte de lo que cuesta operar un servicio de inteligencia artificial, y los laboratorios grandes la guardan bajo llave. DeepSeek hizo lo contrario.
La licencia elegida fue Apache 2.0, una de las más abiertas del código libre: permite usar, modificar y redistribuir el programa, también con fines comerciales. El anuncio llegó en X con una frase corta, «nuestro marco de inferencia interno, ahora totalmente de código abierto», y con la promesa de ayudar a bajar costos de cómputo y consumo de energía.
Lo que trae la caja y lo que quedó fuera
La primera versión corre un solo modelo: DeepSeek-V4.1-Flash, en su variante 1017 alojada en Hugging Face. Y corre en un solo modo, la inferencia por lotes sin servicio en línea continuo. Quien espere montar un servicio completo, equivalente al que responde en la aplicación de DeepSeek, chocará con tres huecos que el repositorio reconoce en su portada: falta el sistema de caché de claves y valores, falta la separación completa entre las fases de lectura y generación, y falta el balanceo de carga entre copias del modelo.
Lo incluido tampoco es poco. El paquete trae núcleos optimizados con nombres propios —FlashMLA, DeepGEMM y DeepEP—, paralelismo de expertos, muestreo determinista que repite la misma salida ante la misma entrada, e inferencia que mantiene el resultado idéntico aunque cambie cada lote de peticiones. Suma salidas estructuradas, con respuestas atadas a un esquema JSON, una expresión regular o una gramática definida por el usuario: el modelo entrega datos en un formato que otro programa lee sin adivinar.
La base del invento no nació en casa. El repositorio reconoce que DeepInfer se construyó en su mayor parte sobre vLLM, el motor abierto que ya mueve buena parte de los servicios de modelos del mundo, con ideas de SGLang y de TensorRT-LLM. Lo que DeepSeek aportó encima es su investigación de sistemas convertida en código usable: núcleos a medida, decodificación especulativa que adelanta varios tokens y los verifica de una pasada, y programación asíncrona que solapa el trabajo del procesador con el de la tarjeta gráfica.
Dos familias de chips en el mismo código
El detalle con más lectura política está en el hardware admitido. DeepInfer funciona en tarjetas gráficas Nvidia SM100, la generación Blackwell para centros de datos, con CUDA 13, y en unidades Ascend 950 de Huawei, con CANN 9.2. Una misma base de código trata al chip chino y al estadounidense como ciudadanos de primera clase, algo raro en un marco de este nivel. La publicación llegó un día después de la orden del Gobierno de Estados Unidos que sacó los modelos de DeepSeek de los sistemas federales, un contraste que varios medios especializados remarcaron al cubrir la salida.
TechTarget informó que la jugada apunta a clientes con el costo como preocupación principal, en un momento en que las empresas ejecutan agentes que consumen millones de tokens y la factura de inferencia se vuelve difícil de sostener. El doble soporte de hardware sirve, en esa lectura, para atender a clientes chinos y occidentales con el mismo producto. DeepSeek ya había adelantado su plan de preentrenar modelos sobre silicio de Huawei antes de que cierre 2026; este motor pone esa intención en código, no en un comunicado.
Las cifras de rendimiento son de DeepSeek y nadie las ha auditado
Las mediciones que acompañan al lanzamiento hablan de 155 billones de tokens al día por clúster con V4.1-Flash, una tasa de acierto de caché de entradas del 96 %, un primer token en unos 400 milisegundos y una generación de 230 tokens por segundo, con picos de 300 en tareas de programación. Crypto Briefing recogió esos números al cubrir la salida y dejó la salvedad impresa: son cifras de la propia DeepSeek, sin pruebas independientes que las respalden. El repositorio incluye gráficas de rendimiento medidas en 4 tarjetas SM100 para la fase de lectura y 64 para la de generación, junto con las instrucciones para repetir las pruebas; hasta que un tercero las corra en su propio centro de datos, quedan como declaración del fabricante.
Para una empresa mediana de América Latina que evalúa montar su propio servicio de modelos, la lectura práctica es sobria: DeepInfer baja la barrera del programa, no la del hardware. Sin tarjetas Blackwell o sin aceleradores Ascend, el motor no arranca, y ese equipo cuesta más que años de factura de una interfaz comercial. Donde sí cambia el tablero es en laboratorios, universidades y empresas con infraestructura propia: ahora pueden estudiar, línea por línea, cómo sirve sus respuestas el laboratorio que sacudió al sector en 2025 con modelos baratos. Ese código quedó abierto el 20 de octubre, con 19.941 estrellas acumuladas en tres días y contando.
Fuente: DeepSeek en GitHub
Foto: PakTechStan
Top comments (0)