DEV Community

Cover image for Kindi: inferencia local rápida en GPUs de bajo coste
Private Local AI
Private Local AI

Posted on

Kindi: inferencia local rápida en GPUs de bajo coste

Kindi está pensado para las GPUs que la gente puede pagar de verdad, y sus métricas siguen una regla de coincidencia exacta: mismo modelo, misma cuantización, misma tarjeta; si no, el número no vale. El razonamiento detrás:
https://blog.localai.hex7.com/kindi-fast-local-inference-on-low-cost-gpus-and-the-exact-match-rule-that-makes-its-numbers-trustworthy/

https://blog.localai.hex7.com/kindi-fast-local-inference-on-low-cost-gpus-and-the-exact-match-rule-that-makes-its-numbers-trustworthy/

Top comments (0)