Artículo
¿Es posible democratizar el acceso a la Inteligencia Artificial sin que el coste sea una barrera infranqueable? Bueno, te contaré qué me motivó a realizar este laboratorio, documentar mis hallazgos, y que me movió a crear un blog, con modelos de lenguaje pequeños, locales, para demostrar que ellos también pueden.
Durante el pasado 2025, finales, vivimos la explosión del mundo de lo "agéntico", y centenares de miles de streamers, se compraban mac minis con chips M4 para ejecutar algunos de los primeros proyectos de IA local. Por otro lado, viendo vídeos de otras personas, acudiendo a charlas, presentaciones, todo el mundo hablaba de como las grandes empresas empezaban a montar sus propios hubs con modelos, entiendo que locales, escuché a muchas personas hablar de esto, a pocas hacer una autopsia de sus sistemas y compartirlas con el resto... Al final ese denso humo que envuelve a todo lo que denominamos el hype de la IA se lo terminaba por tragar todo. Al final solo quien podía mover grandes modelos locales (si podemos llamar grande a un 30B sobre un ChatGPT 5.5), mostraban algunas demos, eso si, con bastante publicidad patrocinadora.
Nunca me he considerado lo que denomino, no se me ofenda nadie, cada uno tiene sus principios y necesidades, mercenario del bit, no me gusta fusilar código por euros. Me ha gustado y me siento muy cómodo, cuando puedo tocar, acariciar, limpiar, conectar, abrillantar, escoger, cada componente que integro en mis pilas de desarrollo local. Quizá con los tan populares servicios en la nube, las personas que destripamos cada componente eléctrico y electrónico que caía en nuestras manos, con la excusa de "si ya está roto, al menos aprendo", por un lado no negaré que, montar un servidor arrastrando dibujitos en una interfaz, les ha regalado horas a nuestras familias, muchas, pero por otro lado, como a aquel piloto de f1, que recuerda con nostalgia las horas cambiando el aceite de su kart, en el garaje de su casa, con su padre, recuerdo la felicidad tan profunda me produjo, hacer funcionar aquella raspberry pi de escasos 20-25€ y ver como un procesador, y una memoria, podían estirarse tantísimo.
Y desde hace un par de meses me he enfocado en estudiar con detenimiento si es posible llevar a cabo el uso de modelos de IA suficientemente entrenados para tareas específicas, con no mucha inversión. De hecho lo que he descubierto, es que poco a poco me voy sintiendo mucho más cómodo usando Gemma4 o Qwen3.5, no solo por su coste, y privacidad, sino porque los modelos actuales comerciales, se han vuelto lentos, pesados en la conversación (verbosos dicen ahora, cansinos decíamos los que somos de la generación Fraggle Rock). Seguramente sea mi percepción, que me gustan las cosas cortitas y al pie, pero no me parece normal que, le preguntes a cualquier LLM comercial, cuanto son 2+2, y puedas imprimir 10 folios con su respuesta.
Para muchos investigadores y entusiastas, que intentamos acercarnos al desarrollo agéntiico para nosotros y nuestras empresas, la respuesta parece un "no" rotundo a la pregunta inicial, cuando revisas las facturas de las grandes nubes. Si intentas desplegar infraestructura potente en plataformas como AWS, te encuentras con cifras que pueden asustar: una configuración equivalente a una instancia Ec2 c6i.xlarge puede superar fácilmente los 2,029.20€ anuales (hablamos de una máquina mínima, si dejas a tus usuarios pastar por libres, sin regular específicamente el uso, ese coste es barato mensualmente, no hay que esforzarse mucho).
Esta disparidad es abismal. Mientras las grandes firmas ofrecen potencia bruta, el coste de entrada actúa como un muro para quienes solo necesitan un entorno de pruebas pequeñito o uso personal. ¿Es realmente necesario incurrir en un coste tan elevado por cada experimento?
La respuesta corta si o no, es lo que intentamos investigar en este laboratorio. Pero, ¿cuáles son nuestras opciones reales cuando el presupuesto es ajustado? En este análisis vamos a poner a prueba tres caminos fundamentales para quienes buscan eficiencia sin sacrificar capacidad, (o sencillamente quieren empezar a probar, sin dejarse medio o un sueldo entero en piezas, que no saben a donde les llevará):
Por un lado, tenemos las soluciones en la nube de los gigantes (AWS, Google Cloud, Azure), esa opción de "alto rendimiento" que suele venir con una etiqueta de precio prohibitiva para el usuario individual. En el otro extremo, encontramos la posibilidad de contratar un VPS barato a "precio de streaming", una alternativa intermedia donde puedes obtener máquinas con capacidades interesantes (como 8 GB de RAM y 4 vCPU, pero sin GPU) por aproximadamente 80,15€ al año. Es la opción ideal para ejecutar modelos open source pequeños, muy pequeños, de forma remota y constante.
Finalmente, está el terreno de la propiedad física: comprar hardware local. Aquí es donde la elección entre equipos nuevos, reutilizar piezas de nuestros armarios, o bien, abrir una puerta muchísimas veces sellada, por el miedo, el mercado de equipos reacondicionados y segunda mano (si, vamos a abrir esa puerta).
En este experimento, nuestro objetivo es estudiar cuál de estos caminos resulta más viable para el usuario real, sin hype, fuera del circuito comercial, ya que, expondré mis conclusiones, pero elijas el camino que escojas,no estoy aquí para juzgar tu elección, ni para presionar ninguna decisión. Cada uno tiene sus preferencias. Como spoiler te diré, pon tu atención en una opción altamente sorprendentes ya que destaca por su equilibrio excepcional y que quiero poner sobre la mesa (y nunca mejor dicho, sobre la de trabajo): hardware de segunda mano.
¿Por qué centrar nuestra atención en este tipo de material? A todos nos viene a la cabeza ordenadores en puntos limpios, inservibles para tareas punteras. No se trata solo de ahorrar dinero; es una decisión basada en tres pilares que me parecen fundamentales:
Acompáñame en este viaje para descubrir cómo romper las barreras del coste y configurar tu propio servidor de IA privado, eficiente, para que puedas ponerte la L en el desarrollo agéntico y la inferencia de SMLs, modelos pequeños pero sorprendentemente bien entrenados en tareas muy definidas. Te compartiré mi trabajo, y conclusiones para que la democratización de la IA no sea solo un sueño técnico, sino una realidad alcanzable con las herramientas adecuadas.