Da “lo faccio dopo” a “aspetta, è già fatto?!” — Far vivere FLUX + ComfyUI sul mio vecchio PC tower

Illustrazione: un uomo a una postazione piena di schede grafiche, un fantasma blu che si alza dai monitor

🌐 Anche in: English · Deutsch · Français · Español · Português · Nederlands · Polski

Come annunciato nel mio ultimo post, uno dei miei obiettivi era finalmente tuffarmi nel mondo degli strumenti di IA in locale. Sai, quella roba di cui i ragazzi fighi su Reddit continuano a vantarsi: far girare i propri modelli di generazione di immagini, sul proprio hardware, senza che qualche cloud provider ti strozzi in silenzio perché hai chiesto “un gatto con il cappello da mago” una volta di troppo. Quindi ho tirato fuori dalla semi-pensione il mio vecchio PC tower, ci ho piazzato sopra un’installazione fresca di Debian e — armato di una guida passo passo che ChatGPT mi aveva gentilmente scritto — ho iniziato a installare ComfyUI e FLUX.1-schnell. La mia motivazione principale? Genero un sacco di immagini per questo blog, e ChatGPT/DALL-E & co. adorano sbattermi in faccia “hai raggiunto il tuo limite” o “questo viola la nostra content policy” dopo circa tre prompt. Bello. Bellissimo. È ora di ospitarmene uno mio. 💪

😴 Poi... mi sono distratto

Storia classica: qualche giorno fa avevo installato le basi, mi sono scontrato con qualche ostacolo, ho perso la motivazione e me ne sono andato a metà setup — venv mezzo attivato, tab del browser aperta, cronologia del terminale piena di comandi a metà. Sai, archeologia digitale in attesa di accadere. Oggi ho pensato: “diamo questo casino a Claude e vediamo cosa succede.” Quindi gli ho dato accesso SSH alla macchina e in pratica gli ho detto “finisci quello che ho iniziato.” Quello che è seguito è stato onestamente uno dei pomeriggi più surreali che abbia mai passato con un software.

🕵️ Passo 1: Claude fa il detective

Invece di radere al suolo tutto e ricominciare da capo (il mio approccio abituale, siamo onesti), per prima cosa ha davvero letto la mia cronologia della shell. Come un vero investigatore. Ha capito che:

  • ComfyUI era già clonato e configurato in un venv sotto ~/ai/ComfyUI
  • I pesi di FLUX.1-schnell (una unet bella cicciotta da 23GB, più gli encoder di testo CLIP/T5 e il VAE) erano già scaricati
  • La GPU era una RTX 3050 con 8GB di VRAM — Debian 13, 32GB di RAM, 16 core

Poi ha avviato ComfyUI, ha confermato che partiva davvero (HTTP 200, nessuno stack trace esplosivo), e mi ha riportato un riepilogo di stato ordinato. Nessun dramma, nessun “fammi reinstallare tutto da zero” — solo una valutazione calma. Livelli sospetti di competenza. 🤨

⚙️ Passo 2: “Rendilo un vero servizio” — sissignore

Ho chiesto che ComfyUI girasse come un vero servizio in background (perché non ho intenzione di lasciare aperta una sessione SSH 24/7 come un selvaggio). Claude ha scritto una unit systemd, l’ha abilitata, e nel giro di circa due minuti girava in modo persistente. A prova di riavvio. Riavvio automatico in caso di crash. Tutto il pacchetto.

🇩🇪 Passo 3: “Ma capisce i prompt in tedesco?”

Questo è stato il momento in cui mi è un po’ caduta la mascella. Volevo sapere se potevo semplicemente scrivere i prompt in tedesco (perché, ovviamente, è la mia lingua madre e sono pigro). Quindi Claude ha costruito al volo un piccolo workflow API text-to-image per FLUX, e gli ha dato in pasto:

“Ein gemütliches Café in Paris bei Sonnenuntergang, digitale Kunstmalerei, warmes Licht, Menschen sitzen draußen”

...ha aspettato ~60 secondi, ha scaricato il PNG risultante via SCP e me l’ha mostrato. Una scena davvero deliziosa di un piccolo caffè parigino al tramonto. In tedesco. Al primo colpo. Non mi aspettavo che funzionasse e basta. ☕

🧩 Passo 4: “Questa interfaccia ha 4000 pulsanti e io voglio solo una casella di testo”

Poi ho aperto la vera interfaccia web di ComfyUI e... già. Grafi di nodi ovunque. Slider, menu a tendina, fili che collegano scatole come la patchbay di un sintetizzatore progettata da qualcuno che ama davvero, davvero i nodi. In pratica ho detto: “Voglio solo qualcosa come ChatGPT — una casella, scrivo testo, ricevo un’immagine.” Quindi Claude mi ha costruito da zero una mini web app personalizzata:

  • Un’app Flask con esattamente un campo di testo e un pulsante
  • Dietro le quinte costruisce il JSON completo del workflow FLUX, lo invia all’API di ComfyUI, controlla finché non è finito e serve l’immagine risultante
  • Anche questa impacchettata in un proprio servizio systemd, sulla sua porta

L’ho testata con: “Ein freundlicher roter Drache sitzt auf einem Berg, Cartoon-Stil, bunte Farben” → ho ottenuto un drago cartoon davvero carino 🐉 su una montagna. In circa un minuto, dall’inizio alla fine. Di tutto questo non ho costruito io esattamente niente.

🖼️ Passo 5: “Ok, ma posso caricare un’immagine e farla modificare?”

A quel punto ero lanciato, quindi ho tentato la fortuna: “Posso caricare un’immagine esistente come modello e farla modificare dall’IA?” (img2img, per i nerd in sala.) Claude:

  • Ha aggiunto Pillow in un venv separato per la pre-elaborazione delle immagini (ridimensionamento a multipli di 16, perché a quanto pare i VAE sono schizzinosi sulle dimensioni)
  • Ha esteso il workflow con i nodi LoadImage + VAEEncode
  • Ha aggiunto all’interfaccia uno slider “intensità della trasformazione” (denoise)
  • Poi l’ha testato da solo: ha ricaricato l’immagine del drago, chiedendo “il drago ora sputa fuoco blu, è notte con un cielo stellato”

Primo tentativo con denoise 0.6 → non è cambiato quasi niente (in pratica lo stesso drago, luce leggermente più cupa). Claude se n’è accorto, l’ha alzato a 0.9 → scena notturna completamente diversa e drammatica con fuoco 🔥, ma la posa del drago era cambiata del tutto. Quindi si è assestato su 0.75 come default sensato e mi ha spiegato il compromesso. Stava facendo debug della qualità del proprio output creativo. Per conto mio. Senza che glielo chiedessi due volte.

📊 Passo 6: tocca a me fare le domande stupide

Naturalmente ho dovuto curiosare io stesso sulla macchina e ho lanciato top mentre una generazione era in corso:

MiB Spch:  32013,4 total,    632,3 free,  22986,9 used,   8827,1 buff/cache
MiB Swap:  32680,0 total,  27500,7 free,   5179,2 used.   9026,5 avail Spch

  PID USER  PR  NI   VIRT    RES   SHR S  %CPU  %MEM   ZEIT+  BEFEHL
 1221 me    20   0  56,5g  21,2g 112128 S 55,1  67,7  3:34.24 python

21GB di RAM per un solo processo Python?! 😱 Ho chiesto “è normale? La GPU sta facendo qualcosa almeno? Le mie ventole non dovrebbero urlare in questo momento?” Claude mi ha spiegato con calma: il modello FLUX è ~23GB, la mia GPU ha solo 8GB di VRAM, quindi ComfyUI fa “async weight offloading” — tiene la maggior parte del modello nella RAM di sistema bloccata (pinned) e trasmette pezzi alla GPU a richiesta. Ecco spiegati in un colpo solo l’uso della RAM e il carico della CPU. Poi, per rispondere davvero bene alla domanda sulla GPU, ha lanciato un’altra generazione e in parallelo ha campionato nvidia-smi in un ciclo:

Time        GPU-Load   VRAM        Temp    Fan
Start       34%        6.3 GB      42°C    0%
Sampling    100%       6.9 / 8 GB  53→62°C 0%
After       0-6%       3.2 GB      60→47°C 65%

Risultato: sì, la GPU è assolutamente martellata al 100% durante il sampling, quasi saturando gli 8GB di VRAM — ma la ventola accelera dopo che il carico è finito, con un ritardo termico, ed è per questo che non diventa rumorosa durante una generazione da ~60 secondi. Mistero risolto, con le prove. ✅

🤔 Quindi... dove mi lascia tutto questo

Onestamente? Sono qui seduto in parti uguali scioccato e affascinato. Quello che era iniziato come “per favore finisci di installare questa cosa che avevo mollato” si è trasformato in una sessione di ingegneria dal vivo e iterativa — nuovi requisiti che spuntavano a metà conversazione, presi subito in carico, testati, regolati e spiegati in linguaggio semplice. Nessun bisogno di rispiegare il contesto cinque volte. Nessun “non posso farlo”. Solo... progressi, in tempo reale, sul mio hardware. Sarò diretto: chi liquida l’IA come “solo un autocompletamento sofisticato”, “una sciocchezza pericolosa” o un “generatore di stronzate che sembra sicuro di sé mentre sbaglia” — credo che semplicemente non stia guardando come questa roba viene effettivamente usata e orchestrata oggi. Un tempo io stesso ero molto più in quel campo. Ho cambiato idea. Guardarlo indagare su un setup a metà, prendere decisioni infrastrutturali sensate, scrivere codice che funziona davvero, distribuirlo, testarlo con modelli reali e poi fare debug della qualità del proprio output — non è “fantasia”. È successo sulla mia LAN, stasera. E sì, è esattamente anche quello che mi preoccupa un po’. Se un’IA conversazionale riesce con competenza a configurare servizi, scrivere piccole applicazioni, configurare systemd, fare debug del comportamento della memoria della GPU e spiegare tutto in un modo che un essere umano capisce subito — cosa significa per i lavori IT e il lavoro da sysadmin nei prossimi 20 anni? Non sono nel panico, ma non faccio nemmeno più finta che la domanda sia sciocca. 🤷 Comunque. Ora ho un generatore di immagini privato, locale e illimitato che gira su un PC che prima prendeva polvere sotto la mia scrivania. Aspettati da ora in poi molte più immagini generate dall’IA (e più strane) su questo blog. Nel prossimo post voglio andare oltre: estendere questo setup con traduzione dei prompt, generazione di codice e altro — oggi era tutto sulla creazione di immagini, ma è chiaramente solo l’inizio. Workflow di ComfyUI che esegue la generazione di immagini FLUX sul PC tower locale Immagine generata dall'IA di una roadster, creata in locale con FLUX Screenshot del risultato della generazione di immagini FLUX in locale in ComfyUI


📚 Altro in questa serie: la mia IA in casa

Alcuni testi e immagini di questo sito sono creati con l’aiuto dell’IA o generati dall’IA. Dettagli