Una aterradora mujer generada por IA acecha en el abismo del espacio latente

Hay un fantasma en la máquina. Aprendizaje automático, eso es.

Todos nos sorprendemos regularmente con las habilidades creativas y de escritura de la IA, pero ¿quién diría que tenía tal capacidad para infundir horror? Un descubrimiento escalofriante de un investigador de IA revela que el "espacio latente" que comprende la memoria de un modelo de aprendizaje profundo está obsesionado por al menos una figura aterradora: una mujer con el rostro ensangrentado ahora conocida como "Loab".

(Advertencia: imágenes perturbadoras más adelante).

Pero, ¿este modelo de IA está realmente embrujado o Loab es solo una confluencia aleatoria de imágenes que aparecen en diversas circunstancias técnicas extrañas? Seguramente debe ser lo último, a menos que crea que las mentes pueden habitar estructuras de datos, pero es más que una simple imagen aterradora: es una indicación de que lo que pasa por un cerebro en una IA es más profundo y aterrador de lo que podríamos haber imaginado.

Loab fue descubierto, ¿lo cumplimos? convocado? — por Steph Swanson, un músico y artista que utiliza Supercomposite en Twitter. Ella explicó el fenómeno Loab en un hilo que atrajo mucha atención por una espeluznante cosa aleatoria de IA, algo que no falta en la plataforma, lo que sugiere que tocó una fibra sensible (clave menor, sin duda).

Swanson estaba jugando con un modelo de imagen de texto de IA personalizado, similar pero no a DALL-E o Stable Diffusion, y experimentando específicamente con "mensajes negativos".

Normalmente, le das un aviso al modelo y continúa creando una imagen que coincida con él. Si tiene un indicador, ese indicador tiene un "peso" de 1, lo que significa que es lo único en lo que está trabajando el modelo.

También puede dividir las indicaciones diciendo cosas como "globo aerostático::0.5, tormenta eléctrica::0.5" y funcionará para ambas cosas también; no es realmente necesario, porque el idioma es parte de la plantilla. también aceptaría "globo de aire caliente en una tormenta eléctrica" ​​e incluso podría obtener mejores resultados.

Pero lo interesante es que también puede tener avisos negativos, lo que hace que el modelo funcione de forma remota a partir de este concepto de la forma más activa posible.

Este proceso es mucho menos predecible, ya que nadie sabe cómo se organizan realmente los datos en lo que podría antropomorfizarse como la "mente" o memoria de la IA, conocida como espacio latente.

"El espacio latente es como explorar un mapa de diferentes conceptos en IA. Un indicador es como una flecha que te dice cuánto caminar en ese mapa conceptual y en qué dirección", dije Swanson.

Aquí hay una representación útil de un espacio latente mucho más simple en un modelo de traducción de Google más antiguo que funciona en una sola oración en varios idiomas:

El El espacio latente de un sistema como DALL-E es un orden de magnitud más grande y más complejo, pero se entiende la idea general. Si cada punto aquí fuera un millón de espacios como este, probablemente sería un poco más preciso.

"Entonces, si le pide a la IA una imagen de una 'cara', terminará en algún lugar en el medio de la región que contiene todas las imágenes de caras y obtendrá una imagen de algún tipo de cara de manera mundana”, dijo. Con un aviso más específico, se encontrará entre caras con el ceño fruncido, caras de perfil, etc. "Pero con un indicador ponderado negativamente, haces lo contrario: te alejas lo más posible de ese concepto".

¿Pero cuál es el opuesto de "cara"? ¿Son los pies? ¿Es la parte de atrás de la cabeza? ¿Algo sin rostro, como un lápiz? Aunque podemos discutirlo entre nosotros, en un modelo de aprendizaje automático, se decidió durante el proceso de formación, es decir, un concepto visual y lingüístico...