¿Tener mi propia IA en vez de alquilarla? Un pequeño experimento de homelab

🌐 También en: English · Deutsch · Français

Como muchos entusiastas de la tecnología hoy en día, paso bastante tiempo saltando entre distintas herramientas de IA. Mis herramientas de uso diario ahora mismo son ChatGPT, Grok y Claude Pro. Cada una tiene sus puntos fuertes y, sinceramente, ya hemos llegado a un punto en el que elegir un modelo de IA se parece un poco a elegir la distribución Linux adecuada para una carga de trabajo concreta. 😎 Para programar y escribir, Claude se ha convertido en uno de mis favoritos. La calidad es impresionante, sobre todo cuando toca resolver problemas técnicos, revisar código o debatir decisiones de arquitectura. Sin embargo, hay una cosa que me hace volver una y otra vez a ChatGPT:

Table of Contents

🎨 El dilema de la generación de imágenes

Para artículos del blog, documentación técnica, diagramas de arquitectura y alguna que otra ilustración friki, ChatGPT produce de forma constante imágenes realmente bonitas. Claude, al menos para lo que yo lo uso, no llega del todo al mismo nivel cuando se trata de generar imágenes para contenido técnico. El problema es que, cada vez que entro en «modo creación de contenido», suelo generar muchísimas imágenes en muy poco tiempo. Y es justo entonces cuando me topo con los límites de uso. ¿Podría simplemente solucionarlo a base de pagar más? Claro. ¿Quiero hacerlo? No especialmente. 😉

🖥️ El hardware ya está aquí

Mientras pensaba en alternativas, eché un vistazo a mi despacho y me di cuenta de algo:

Ya tengo hardware de sobra criando polvo en las estanterías.

Unos cuantos PC sin usar
Una ASUS GeForce Dual RTX 3050 8GB OC Edition
RAM a montones
Más almacenamiento SSD del que probablemente necesito
Y, gracias a mi instalación fotovoltaica, excedente de electricidad durante el día ☀️

La GPU que pienso usar para este experimento es una ASUS GeForce Dual RTX 3050 8GB OC Edition. No es precisamente un acelerador de IA de gama alta, pero debería ser más que capaz de generar imágenes con modelos modernos como Flux Schnell. Y lo más importante: es hardware que ya tengo, lo que lo convierte en el proyecto de homelab perfecto y de bajo coste. En ese momento apareció la pregunta obvia de todo homelab:

¿Por qué alquilo ciclos de IA si podría tener los míos propios?

🚀 El plan: generación de imágenes en local

Después de investigar un poco, me ha ido interesando cada vez más una configuración sencilla compuesta por:

Debian 13
GPU NVIDIA
ComfyUI
Flux

Para quien no conozca este stack:

Flux es el modelo que genera realmente las imágenes.
ComfyUI es el frontend basado en flujos de trabajo que te permite construir pipelines de generación e interactuar con el modelo.

De forma simplificada:

Prompt
   ↓
ComfyUI
   ↓
Flux
   ↓
NVIDIA GPU
   ↓
Image

Sencillo. Elegante. Aprobado por frikis. 🤓

🧠 Por qué suena divertido

Lo curioso es que la generación de imágenes ni siquiera es la motivación principal. Lo que de verdad me interesa es ganar experiencia práctica operando software de IA en local. Los aficionados al homelab ya tenemos funcionando cosas como:

Proxmox
Docker
Grafana
Prometheus
Home Assistant
Sistemas NAS
Clústeres de Kubernetes que probablemente no hacía falta que existieran 😄

Añadir IA local a esa lista parece el siguiente paso lógico. Una cosa es consumir servicios de IA. Otra muy distinta es desplegarlos, mantenerlos, optimizarlos y entenderlos por tu cuenta.

🔒 La privacidad, un buen extra

Además del reto técnico, hay otro motivo por el que la IA local me parece tan interesante: la privacidad. Cuando el modelo se ejecuta en tu propio hardware, tus prompts se quedan en tu propio hardware. Sin llamadas a APIs, sin depender de la nube, sin preguntarte dónde acaban tus datos. Para los aficionados al homelab eso ya es bastante chulo. Para las empresas podría ser todavía más interesante. Las compañías que manejan datos sensibles de clientes, documentación interna, código fuente o requisitos de cumplimiento normativo no siempre se sienten cómodas enviándolo todo a los grandes proveedores de IA en la nube. La IA local no va a sustituir a ChatGPT, Claude o Grok a corto plazo, pero para ciertos casos de uso podría convertirse en una alternativa muy atractiva, sobre todo cuando la privacidad, la seguridad de los datos y la soberanía de los datos importan más que tener acceso al modelo más grande del planeta. Y, sinceramente, poder pedirle a tu IA que genere una imagen mientras todo el flujo de trabajo se queda dentro de tu propio rack resulta bastante satisfactorio. 😎

⚡ Expectativas de rendimiento

Mi hardware no es precisamente un monstruo de GPU digno de un centro de datos. El sistema funcionará con una ASUS GeForce Dual RTX 3050 8GB OC Edition, lo que lo sitúa más bien en la categoría de «homelab de entusiasta» que en la de «startup de IA quemando capital de riesgo». 😄 Aun así, por todo lo que he leído hasta ahora, la tarjeta debería poder ejecutar sin problemas ComfyUI y Flux Schnell para ilustraciones del blog y gráficos técnicos.

Resolución	Tiempo de generación estimado
512 × 512	5–15 segundos
768 × 768	10–30 segundos
1024 × 1024	20–60 segundos
1536 × 1536	60–120 segundos

Para mi blog, probablemente generaré la mayoría de las imágenes a unos 1024×1024 y las redimensionaré según haga falta. Si el tiempo medio de generación se mantiene por debajo de un minuto por imagen, me daré más que por satisfecho. Al fin y al cabo, no tengo una fábrica comercial de imágenes. Solo necesito imágenes de calidad para artículos técnicos, diagramas de arquitectura, documentación del homelab y alguna que otra ilustración friki.

📸 Fase uno: solo imágenes

De momento, quiero mantenerlo sencillo. La fase uno se centra exclusivamente en la generación de imágenes. Nada de agentes. Nada de RAG. Nada de IA autónoma gestionando mi homelab. Nada de experimentos «Skynet Beta». Simplemente:

ComfyUI + Flux

Y ver qué pasa.

💻 Fase dos: un LLM local

Cuando el stack de imágenes sea estable, seguramente empezaré a experimentar también con un LLM local. Mis casos de uso son bastante sencillos:

Responder preguntas sencillas
Ayudar con la administración de Linux
Generar scripts de Bash
Echar una mano con configuraciones de Docker
Pequeñas tareas de programación
Resolución general de problemas técnicos

Para eso no necesito un modelo monstruoso de un billón de parámetros. Los modelos locales modernos se han vuelto sorprendentemente capaces, sobre todo para el trabajo práctico de infraestructura y scripting.

📚 ¿Y ahora qué?

Ahora mismo sigo leyendo documentación, viendo tutoriales y comparando distintos enfoques. La instalación en sí probablemente será en los próximos días. Cuando todo esté funcionando, publicaré un artículo detallado que incluirá:

Especificaciones del hardware
Configuración de Debian
Instalación de los drivers de NVIDIA
Despliegue de ComfyUI
Configuración de Flux
Primeras impresiones
Benchmarks de rendimiento
Lecciones aprendidas

El objetivo inicial es simplemente crear imágenes en local. Si funciona como espero, el siguiente paso será ejecutar un LLM local ligero para tareas cotidianas como responder preguntas, generar pequeños scripts de Bash, ayudar con configuraciones de Docker o apoyar proyectos de programación más pequeños. Y seamos sinceros: hay algo profundamente satisfactorio en generar imágenes para el blog con una GPU que se compró en su día para jugar y que ahora pasa los días alimentando un diminuto laboratorio de IA que funciona con energía solar. 😎 Si todo va bien, puede que esto se convierta en otro servicio permanente de mi homelab. Porque, seamos honestos:

Si ya tienes hardware de sobra, excedente de energía solar y la manía de autoalojarlo absolutamente todo… … montar tu propia infraestructura de IA empieza a parecer menos un proyecto y más algo inevitable. 😎

No te lo pierdas. Los primeros experimentos llegarán pronto… 🚀