Redes Generativas: la IA que crea cosas nuevas
Las Redes Generativas Adversarias (en ingles, Generative Adversarial Networks o GAN) son un tipo de IA formada por dos redes neuronales que compiten entre si: una intenta crear contenido falso y la otra intenta detectarlo. De esa competicion salen imagenes, videos y audios increiblemente realistas.
Dos equipos compitiendo: el falsificador y el detective
Imaginad que un falsificador de arte intenta crear cuadros falsos y un detective intenta pillarle. Cada vez que el detective atrapa al falsificador, este mejora su tecnica. Y cada vez que el falsificador le engana, el detective afina su ojo. Asi funcionan las GAN:
El Generador (falsificador)
Su trabajo es crear imagenes falsas tan realistas que nadie las distinga de las autenticas. Empieza con ruido aleatorio (como cuando veis "nieve" en una tele sin senal) y poco a poco lo transforma en algo que parece real.
Entrada: numeros aleatorios
Proceso: genera una imagen
Objetivo: enganar al detective
El Discriminador (detective)
Su trabajo es examinar imagenes y decidir si son reales o generadas por el falsificador. Cada vez que se equivoca, aprende a fijarse en detalles mas pequenos.
Entrada: una imagen (real o falsa)
Proceso: analiza si es autentica
Objetivo: pillar al falsificador
Asi funciona el bucle de aprendizaje:
¿Que pueden crear las GAN?
Caras de personas que no existen
La IA genera caras realistas pixel a pixel. Parecen fotos reales, pero esas personas no existen
Arte y diseno
Crea cuadros, logos, disenos de moda y arte digital totalmente originales
Mejorar imagenes borrosas
Puede coger una foto borrosa y hacerla nitida, anadiendo detalles que no estaban
Video y animacion
Genera movimiento y expresiones a partir de una sola foto estatica
Cuidado: riesgos y responsabilidad
Esta tecnología es impresionante, pero tambien puede usarse para hacer dano. Es MUY importante que conozcais los riesgos:
Deepfakes (videos falsos)
Videos donde parece que alguien dice cosas que nunca dijo. Se han usado para difundir mentiras sobre politicos y famosos. Pueden enganar a cualquiera.
Suplantacion de identidad
Crear fotos falsas de personas reales para enganar, acosar o manipular. Esto es un delito y puede hacer mucho dano.
Desinformacion
Noticias falsas acompanadas de imagenes generadas que parecen reales. Si no verificais la fuente, es facil caer.
¿Como protegeros?
- Verificad la fuente -- ¿de donde viene esta imagen o video? ¿Es un medio fiable?
- Buscad inconsistencias -- fijaos en detalles raros en ojos, manos, fondos o sombras
- Usad herramientas de deteccion -- existen IAs que detectan deepfakes (si, IA contra IA)
- Pensamiento critico -- no creais todo lo que veis en internet. Si algo parece demasiado raro, probablemente lo es
Probad esto
Entrad en la web thispersondoesnotexist.com. Cada vez que recargais la pagina, aparece la cara de una persona que NO existe: ha sido generada completamente por una GAN. Actualizad varias veces y fijaos en lo realistas que son. ¿Sois capaces de notar algo raro? Fijaos en los fondos, las orejas y los accesorios.
Idea clave
Las Redes Generativas Adversarias (GAN) son dos IAs que compiten: una crea y otra juzga. De esa competicion salen imagenes, videos y audios super realistas. Son una herramienta increible, pero tambien peligrosa (deepfakes). Siempre verificad lo que veis en internet.