Lo que aprendimos sobre la IA y el aprendizaje profundo en 2022

Consulte todas las sesiones bajo demanda de Smart Security Summit aquí.

Ahora es un buen momento para discutir las implicaciones de los avances en inteligencia artificial (IA). 2022 ha visto algunos avances emocionantes en el aprendizaje profundo, especialmente en modelos generativos. Sin embargo, a medida que aumentan las capacidades de los modelos de aprendizaje profundo, también aumenta la confusión que los rodea.

Por un lado, modelos avanzados como ChatGPT y DALL-E muestran resultados fascinantes y dan ganas de pensar y razonar. Por otro lado, a menudo cometen errores que prueban que carecen de algunos de los elementos básicos de inteligencia que tenemos los humanos.

La comunidad científica está dividida sobre qué hacer con estos avances. En un extremo del espectro, algunos científicos han llegado a decir que los patrones sofisticados son sensibles y deben atribuirse a la personalidad. Otros han sugerido que los enfoques actuales de aprendizaje profundo conducirán a la inteligencia general artificial (AIG). Mientras tanto, algunos científicos han estudiado las fallas de los modelos actuales y señalan que, si bien son útiles, incluso los sistemas de aprendizaje profundo más avanzados sufren el mismo tipo de fallas que los modelos anteriores.

Es en este contexto que el debate en línea AGI #3 se llevó a cabo el viernes, moderado por el presidente de Montreal AI Vincent Boucher y el investigador de AI Gary Marcus. La conferencia, que incluyó charlas de científicos de diferentes orígenes, discutió las lecciones aprendidas de la ciencia cognitiva y la neurociencia, el camino hacia el razonamiento de sentido común en la IA y arquitecturas sugeridas que pueden ayudar a superar la siguiente etapa de la IA.

Evento

Cumbre de seguridad inteligente bajo demanda

Obtenga más información sobre el papel esencial de la IA y el ML en la ciberseguridad y los estudios de casos específicos de la industria. Mira las sesiones a pedido hoy.

mira aquí ¿Qué les falta a los sistemas de IA actuales?

"Los enfoques de aprendizaje profundo pueden proporcionar herramientas útiles en muchas áreas", dijo el lingüista y científico cognitivo Noam Chomsky. Algunas de estas aplicaciones, como la transcripción automática y la finalización automática de texto, se han convertido en herramientas en las que confiamos todos los días.

"Pero más allá de la utilidad, ¿qué aprendemos de estos enfoques sobre la cognición, el pensamiento, especialmente el lenguaje?" dijo Chomsky. “Los sistemas [de aprendizaje profundo] no hacen distinción entre lenguajes posibles e imposibles. Cuantos más sistemas se mejoran, más profunda se vuelve la falla. Lo harán aún mejor con lenguajes imposibles y otros sistemas".

Esta falla es evidente en sistemas como ChatGPT, que puede producir texto gramaticalmente correcto y consistente, pero con fallas en la lógica y los hechos. Los presentadores de conferencias proporcionaron muchos ejemplos de tales fallas, como modelos de lenguaje grandes que no pueden clasificar oraciones por longitud, cometen errores graves en problemas lógicos simples y hacen declaraciones falsas e inconsistentes. /p>

Según Chomsky, los enfoques actuales para avanzar en los sistemas de aprendizaje profundo, que se basan en agregar datos de entrenamiento, crear modelos más grandes y usar "programación inteligente", no solo exacerbarán los errores cometidos por estos sistemas.

"En resumen, no nos dicen nada sobre el lenguaje y el pensamiento, sobre la cognición en general, o qué es ser humano o cualquier otra fantasía en la discusión contemporánea", dijo Chomsky.

Marcus dijo que una década después de la revolución del aprendizaje profundo de 2012, se ha logrado un gran progreso, "pero aún quedan algunos desafíos".

Presentó cuatro áspides clave...