llama.cpp
Inferencia de LLM gratuita y de código abierto (MIT) en C/C++ en tu propio hardware.
APIs de IA
Qué obtienes
Ejecuta modelos GGUF de pesos abiertos localmente en CPU o GPU, con una CLI y un servidor HTTP compatible con OpenAI (llama-server).
Cómo obtenerlo
Instálalo con un gestor de paquetes o una versión precompilada del repo de GitHub.
Qué requiere
Un ordenador con suficiente RAM o VRAM para el modelo que ejecutes.
La letra pequeña
Sin servicio alojado: la velocidad y el tamaño del modelo dependen de tu hardware, y la configuración es más manual que con Ollama o LM Studio.
De la página oficial · verificado 1 nov 2026