SDXL Container

"image"

Um docker container para train SDXL LoRA adapters e run SDXL inference.

Este repo é otimizado para LoRA runs com “small image set”: 1) coloque images em um folder
2) (opcionalmente) auto-generate captions
3) train um LoRA em ./models/loras/
4) generate images imediatamente com esse LoRA

What’s inside

GPU trainer container
Command entrypoint: train / caption / infer
LoRA training wrapper
Training launcher wrapper
BLIP captioning tool
Diffusers inference script
CPU-only test container para CI

Architecture / Mounts

docker-compose.yml monta local folders dentro do container:

./models → /models (base models + output LoRAs)
./datasets → /datasets (your raw images)
./workspace→ /workspace(runs + caches + outputs)
./scripts → /scripts (entrypoint + wrappers)

Todos os commands rodam dentro do container, mas os files são gravados no seu host por meio desses mounts.

Prerequisites

Docker + Docker Compose
GPU + toolkit (para gpus: all)
Um SDXL base model como uma das opções: (a) local .safetensors/diffusers dir em ./models/base/, ou (b) um Hugging Face repo id (por exemplo, stabilityai/sdxl-turbo)
Um small dataset em ./datasets/<subject>/images/

Highlights:

Reproducible: tudo roda dentro de um container (não é necessário local Python env).
Simple: um command para (opcionalmente) caption images + train.
Safe defaults para few-shot SDXL LoRA.
Includes inference: SDXL txt2img com LoRA usando diffusers.

Build

docker compose build trainer

Train (caption + LoRA)

# train
docker compose run --rm trainer train \
--base-model stabilityai/sdxl-turbo \
--images /datasets/yokosuka \
--run-name yokosuka \
--sdxl \
--caption-mode blip \
--concept-token sksyokosuka \
--max-train-steps 1600 \
--num-repeats 20 \
--network-dim 16 \
--network-alpha 8

Infer (txt2img)

docker compose run --rm trainer infer \
--base-model stabilityai/sdxl-turbo \
--lora /models/loras/title_***.safetensors \
--prompt "portrait photo of sksTitle, high detail, natural light" \
--negative-prompt "low quality, blurry, worst quality" \
--out-dir /workspace/outputs \
--num-images 4 \
--seed 123 \
--steps 30 \
--cfg 7.0 \
--lora-scale 0.8 \
--width 1024 --height 1024

Caption (BLIP)

Se você quiser generate .txt captions ao lado de cada image (mesmo basename):

# caption
docker compose run  \
--rm trainer caption  \  
--images /datasets/title \   
--prefix sksSubject    \
--overwrite

Inference (SDXL txt2img with LoRA)

Generate images com o trained LoRA:

# inference
docker compose run  \
--rm trainer infer    \
--base-model /models/base/sd_xl_base_1.0.safetensors    \
--lora /models/loras/title_***.safetensors    \
--prompt "sksSubject seaside"    \
--negative-prompt ""    \
--out-dir /datasets/title/inference    \
--num-images 4    \
--steps 30    \
--cfg 7.0    \
--width 1024    \
--height 1024    \
--lora-scale 0.8    \
--seed 42

Test

docker compose -f docker-compose.test.yml build
docker compose -f docker-compose.test.yml run --rm test

LoRA algorithm

LoRA (Low-Rank Adaptation) fine-tunes um diffusion model adicionando um low-rank update a weight matrices selecionadas enquanto mantém os base weights frozen.

Para uma weight matrix W, LoRA aprende:

ΔW = (α / r) * (B @ A)

Onde:

r é o rank (–network-dim)

α é o scaling factor (–network-alpha)

A e B são as low-rank trainable matrices

Em inference time, o effective weight se torna:

W’ = W + ΔW

Além disso, este repo permite controlar a força com que o LoRA influencia a generation via –lora-scale.

License

Apache License 2.0