La “endogamia generativa” y sus riesgos para la cultura humana

Visite nuestra biblioteca bajo demanda para ver las sesiones de VB Transform 2023. Regístrese aquí

La endogamia se refiere a la corrupción genómica cuando miembros de una población se reproducen con otros miembros que son demasiado similares genéticamente. Esto a menudo da lugar a descendencia con importantes problemas de salud y otras deformidades, ya que amplifica la expresión de genes recesivos. Cuando la endogamia está muy extendida –como puede serlo en la reproducción moderna– todo el acervo genético puede degradarse con el tiempo, amplificando las deformaciones a medida que la población se vuelve cada vez menos diversa.

En el mundo de la IA generativa, existe un problema similar, que amenaza potencialmente la eficacia a largo plazo de los sistemas de IA y la diversidad de la cultura humana. Desde una perspectiva evolutiva, los modelos de lenguaje grande (LLM) de primera generación y los sistemas de inteligencia artificial de otra generación se entrenaron en un "acervo genético" relativamente limpio de artefactos humanos, utilizando cantidades masivas de contenido textual, visual y de audio para representar la esencia de nuestra cultura. susceptibilidad. .

Pero a medida que Internet está inundado de artefactos generados por IA, existe un riesgo significativo de que los nuevos sistemas de IA se entrenen en conjuntos de datos que incluyen grandes cantidades de contenido creado por IA. Este contenido no es cultura humana directa, sino una cultura humana imitada con distintos niveles de distorsión, corrompiendo así el "acervo genético" a través de la endogamia. Y a medida que aumente el uso de sistemas de IA de generación, este problema no hará más que acelerarse. Después de todo, los nuevos sistemas de IA entrenados en copias de la cultura humana llenarán el mundo con artefactos cada vez más distorsionados, lo que obligará a la próxima generación de sistemas de IA a entrenarse en copias de la cultura humana, etc.

Degradar los sistemas de inteligencia artificial de generación y distorsionar la cultura humana

A este problema emergente lo llamo “endogamia generativa” y me preocupan dos consecuencias preocupantes. En primer lugar, existe la posible degradación de los sistemas generacionales de IA, ya que la endogamia reduce su capacidad para representar con precisión el lenguaje, la cultura y los artefactos humanos. En segundo lugar, está la distorsión de la cultura humana por parte de sistemas de inteligencia artificial endogámicos que introducen cada vez más "distorsiones" en nuestro acervo genético cultural que no representan verdaderamente nuestra sensibilidad colectiva.

Evento

VB Transform 2023 bajo demanda

¿Te perdiste una sesión de VB Transform 2023? Regístrese para acceder a la biblioteca bajo demanda de todas nuestras sesiones destacadas.

Regístrate ahora

En cuanto a la primera cuestión, estudios recientes sugieren que la endogamia generativa podría dañar los sistemas de IA, provocando que con el tiempo produzcan artefactos cada vez peores, como hacer una fotocopia de una fotocopia de una fotocopia. A esto a veces se le llama "colapso de patrón" debido al "envenenamiento de datos", e investigaciones recientes sugieren que los patrones básicos son mucho más susceptibles a este peligro recursivo de lo que se pensaba anteriormente. Otro estudio reciente encontró que a medida que aumentan los datos generados por IA en un conjunto de entrenamiento, los modelos generativos están cada vez más "condenados" a disminuir gradualmente su calidad.

En el...