He aquí por qué las GPU son las mejores amigas del aprendizaje profundo

Si tiene curiosidad acerca de cómo funcionan realmente las tarjetas gráficas sofisticadas y por qué son tan adecuadas para aplicaciones similares a la IA, tómese unos minutos para leer [Tim Dettmers] explica por qué es es así. No es una lectura muy larga, pero incluso si se vuelve técnica, también hay analogías con los automóviles, ¡así que hay algo para todos!

Empieza diciendo que la mayoría de la gente sabe que las GPU son terriblemente buenas en la multiplicación de matrices y la convolución, pero lo que realmente las hace más útiles es su capacidad para trabajar de manera muy eficiente con grandes cantidades de memoria.

Básicamente, una CPU es un dispositivo con latencia optimizada, mientras que las GPU son dispositivos con ancho de banda optimizado. Si una CPU es un coche de carreras, una GPU es un camión de carga. La principal tarea del aprendizaje profundo es recuperar y mover bienes (memoria, en realidad). Ambos dispositivos pueden hacer este trabajo, pero de diferentes maneras. Un coche de carreras se mueve rápido, pero no puede transportar mucho. Un camión es más lento, pero mucho más eficiente a la hora de mover muchas cosas a la vez.

Para ampliar la analogía, una GPU no es sólo un camión; más bien se trata de una flota de camiones trabajando en paralelo. Cuando se aplica correctamente, esto puede enmascarar efectivamente la latencia de la misma manera que una línea de montaje. El primer camión tarda un poco en llegar, pero una vez que llega hay una fila interminable de camiones cargados esperando a ser descargados. No importa qué tan rápido y eficientemente se descargue cada camión, el siguiente está ahí, esperando. Por supuesto, las GPU no sólo mueven memoria, sino que también pueden trabajar con ella.

La configuración habitual para aplicaciones de aprendizaje profundo es una computadora de escritorio con una o más tarjetas gráficas de alta gama integradas, pero existen otras formas (y más pequeñas) de obtener algunos de los mismos beneficios informáticos sin consumir una gran cantidad de energía. y obtenga un montón de tomas HDMI y DisplayPort adicionales no utilizadas como efecto secundario. La línea de placas de desarrollo Jetson de NVIDIA tiene incorporada la tecnología adecuada. Si bien no tiene la potencia bruta (y la factura de energía) de una computadora de escritorio equipada con GPU, no se queda atrás en relación con su tamaño.