Diffusion Controller: Google unifica el control de los generadores de imágenes

El problema: pilotar sin romper

Los modelos text-to-image como Nano Banana, Stable Diffusion o Flux producen imágenes fotorrealistas, pero lograr que obedezcan con precisión sigue siendo un ejercicio de equilibrista. El ejemplo de Google: «un lagarto con gafas de sol». El modelo puede olvidar las gafas, o forzarlas a costa de una cara de lagarto deformada.

Para corregir el rumbo, los desarrolladores disponen de dos familias de herramientas sin relación entre sí. Por un lado, el guidance en inferencia, como el classifier-free guidance, que modula la influencia del prompt en tiempo real. Por otro, el fine-tuning pesado vía LoRA, la regresión ponderada por recompensa o los policy gradients.

A falta de un lenguaje matemático común, decidir entre alineación con las preferencias y calidad de imagen suele ser cosa de ensayo y error, según los investigadores.

El denoising visto como un trayecto controlado

Diffusion Controller trata la generación, que parte de un ruido aleatorio hasta llegar a una imagen nítida, como una trayectoria continua que se puede corregir. Google usa la metáfora: el modelo pre-entrenado es una moto grande a la que sería arriesgado rehacerle el motor.

El marco añade así un «amortiguador de dirección» ligero, mientras el modelo principal permanece congelado. Este módulo recalibra el comportamiento por defecto favoreciendo las direcciones que maximizan un objetivo definido por el usuario, estilo artístico o fidelidad al contexto.

Una penalización actúa como guardarraíl: en el ejemplo del lagarto, las gafas se añaden bien, pero sin sacrificar las escamas ni las proporciones del animal.

De la teoría a dos métodos concretos

Las ecuaciones de control, potencialmente irresolubles tal cual, se traducen en dos métodos de fine-tuning basados únicamente en una puntuación de recompensa final.

El primero, basado en policy gradients y PPO, avanza mediante ajustes incrementales e incorpora una regla de clipping que actúa como un limitador de velocidad para mantener el entrenamiento estable.

El segundo, una pérdida ponderada por recompensa, sirve de atajo: favorece fuertemente las generaciones exitosas y viene acompañado, según Google, de una garantía matemática de aprendizaje de las imágenes buscadas.

Controlar un modelo que no se puede abrir

El argumento de negocio es explícito: los mejores generadores de imágenes suelen ser cajas negras o grises, cuyos pesos no se pueden modificar. Sin embargo, el fine-tuning clásico exige acceso «white-box».

La red de amortiguación combina el conocimiento del modelo base con una pequeña corrección. Observa la imagen en pleno denoising e inyecta correcciones finas, lo que permitiría personalizar modelos cerrados sin tocar su código.

Lo que dicen los experimentos

Las pruebas se basan en Stable Diffusion v1.4, en tres regímenes: SFT, RWL y PPO, con el Human Preference Score (HPS-v2) como medida. Se comparan cuatro arquitecturas: Diffusion Controller (gray-box, con media inversa intermedia y flujo de adaptador lateral), una versión ingenua sin estos dos elementos, y dos variantes white-box, J (entrenamiento conjunto con el modelo base) y S (entrenamiento separado).

En SFT y RWL, la versión gray-box supera a LoRA en win rate HPS-v2 modificando además muchas menos capas internas. Los paneles de evaluación humana también le atribuyen la mejor calidad percibida y la mejor fidelidad en prompts multi-atributo complejos.

Última ventaja: un único parámetro de fuerza de guidance, ajustable en inferencia, para subir o bajar la intensidad del control sin las distorsiones de los antiguos métodos de guidance.

Y a continuación

Porque la capa de control está separada del motor, Google contempla usos más allá de la fidelidad al prompt: herramientas de personalización avanzadas, mecanismos de seguridad para limitar contenidos dañinos, y adaptación a los modelos de vídeo de nueva generación.