Una IA pionera en lo que realmente deberíamos temer
La inteligencia artificial alimenta nuestras ambiciones más altas y nuestros miedos más profundos como pocas otras tecnologías. Es como si cada promesa reluciente y prometeica de máquinas capaces de realizar tareas a velocidades y con habilidades con las que solo podemos soñar viniera con una pesadilla compensatoria de desplazamiento humano y obsolescencia. Pero a pesar de los recientes avances de la IA en los campos del lenguaje y las artes visuales anteriormente dominados por humanos (las composiciones en prosa del modelo de lenguaje GPT-3 y las creaciones visuales del sistema DALL-E 2 han generado un gran interés), nuestras preocupaciones más serias deberían probablemente esté templado. Al menos esa es la opinión del científico informático Yejin Choi, ganador de la prestigiosa beca MacArthur "genius" en 2022, que realizó una investigación innovadora sobre el desarrollo del sentido común y el razonamiento ético en la IA. "Hay un poco de exageración en torno a la IA potencial, así como miedo a la IA", admite Choi, de 45 años. dice de su trabajo: "Exploras este territorio inexplorado. Ves algo inesperado y luego sientes que quiero descubrir qué hay allí". ¡Hay más por ahí!
¿Cuáles son los conceptos erróneos más grandes que la gente todavía tiene sobre la IA? Hacen generalizaciones apresuradas. "Oh, GPT-3 puede escribir esta maravillosa publicación de blog. Tal vez GPT-4 sea editor de The New York Times Magazine. [Risas.] No creo que pueda reemplazar a nadie allí, porque no tiene un comprensión real del contexto político y, por lo tanto, no puedo escribir nada relevante para los lectores. Luego están las preocupaciones sobre la inteligencia de la IA. Siempre hay personas que creen en algo que no tiene sentido. La gente cree en las cartas del tarot. La gente cree en teorías de conspiración Entonces, por supuesto, habrá personas que creen en que la IA es sensible.
Sé que esta podría ser la pregunta más cliché para hacerle, pero la voy a hacer de todos modos: ¿los humanos alguna vez crearán inteligencia artificial sensible? Podría cambiar de opinión, pero actualmente soy escéptico. Puedo ver que algunas personas pueden tener esa impresión, pero cuando trabajas tan cerca de la IA, ves muchas limitaciones. Este es el problema. Desde la distancia, parece, ¡oh, Dios mío! De cerca, veo todos los defectos. Cada vez que hay muchos modelos, muchos datos, la IA es muy buena para lidiar con eso, ciertas cosas como jugar Go o ajedrez. Pero los humanos tienen esta tendencia a creer que si la IA puede hacer algo inteligente como la traducción o el ajedrez, entonces también debe ser muy bueno en todas las cosas fáciles. La verdad es que lo que es fácil para las máquinas puede ser difícil para los humanos y viceversa. Te sorprendería cómo la IA lucha con el sentido común básico. Esto es una locura.
¿Puede explicar qué significa "sentido común" en el contexto de su enseñanza de la IA? Una forma de describirlo es que el sentido común es la materia oscura de la inteligencia. La materia normal es lo que vemos, con lo que podemos interactuar. Durante mucho tiempo hemos pensado que eso es lo que hay en el mundo físico, y eso es todo. Resulta que eso es solo el 5% del universo. El noventa y cinco por ciento es materia oscura y energía oscura, pero es invisible y no se puede medir directamente. Sabemos que existe, porque si no existe, entonces la materia normal no tiene sentido. Así que sabemos que está ahí, y sabemos que hay mucho de eso. Llegamos a esta realización con sentido común. Es el conocimiento tácito e implícito que tú y yo tenemos. Es tan obvio que no solemos hablar de ello. Por ejemplo, ¿cuántos ojos tiene un caballo? De ellos. No hablamos de ello, pero todo el mundo lo sabe. No sabemos la fracción exacta del conocimiento que tú y yo tenemos y del que no hemos hablado, pero aún sabemos, pero supongo que hay mucho. Déjame darte otro ejemplo: tú y yo sabemos que los pájaros pueden volar, y sabemos que los pingüinos generalmente no pueden hacerlo. Entonces, los investigadores de IA pensaron que podíamos codificar esto: las aves generalmente vuelan, excepto los pingüinos. Pero, de hecho, las excepciones son el desafío de las reglas del sentido común. Los pájaros recién nacidos no pueden volar, los pájaros cubiertos de aceite no pueden volar, los pájaros heridos no pueden volar, los pájaros enjaulados no pueden volar. El caso es que las excepciones no son excepcionales, y tú y yo podemos pensar en ellas aunque nadie nos lo haya dicho. Es una habilidad fascinante, y no es tan fácil para A.I.
Usted se refirió a GPT-3 con escepticismo anteriormente. ¿Crees que eso no es impresionante? Soy un gran admirador de GPT-3, pero al mismo tiempo siento que algunas personas son b...
La inteligencia artificial alimenta nuestras ambiciones más altas y nuestros miedos más profundos como pocas otras tecnologías. Es como si cada promesa reluciente y prometeica de máquinas capaces de realizar tareas a velocidades y con habilidades con las que solo podemos soñar viniera con una pesadilla compensatoria de desplazamiento humano y obsolescencia. Pero a pesar de los recientes avances de la IA en los campos del lenguaje y las artes visuales anteriormente dominados por humanos (las composiciones en prosa del modelo de lenguaje GPT-3 y las creaciones visuales del sistema DALL-E 2 han generado un gran interés), nuestras preocupaciones más serias deberían probablemente esté templado. Al menos esa es la opinión del científico informático Yejin Choi, ganador de la prestigiosa beca MacArthur "genius" en 2022, que realizó una investigación innovadora sobre el desarrollo del sentido común y el razonamiento ético en la IA. "Hay un poco de exageración en torno a la IA potencial, así como miedo a la IA", admite Choi, de 45 años. dice de su trabajo: "Exploras este territorio inexplorado. Ves algo inesperado y luego sientes que quiero descubrir qué hay allí". ¡Hay más por ahí!
¿Cuáles son los conceptos erróneos más grandes que la gente todavía tiene sobre la IA? Hacen generalizaciones apresuradas. "Oh, GPT-3 puede escribir esta maravillosa publicación de blog. Tal vez GPT-4 sea editor de The New York Times Magazine. [Risas.] No creo que pueda reemplazar a nadie allí, porque no tiene un comprensión real del contexto político y, por lo tanto, no puedo escribir nada relevante para los lectores. Luego están las preocupaciones sobre la inteligencia de la IA. Siempre hay personas que creen en algo que no tiene sentido. La gente cree en las cartas del tarot. La gente cree en teorías de conspiración Entonces, por supuesto, habrá personas que creen en que la IA es sensible.
Sé que esta podría ser la pregunta más cliché para hacerle, pero la voy a hacer de todos modos: ¿los humanos alguna vez crearán inteligencia artificial sensible? Podría cambiar de opinión, pero actualmente soy escéptico. Puedo ver que algunas personas pueden tener esa impresión, pero cuando trabajas tan cerca de la IA, ves muchas limitaciones. Este es el problema. Desde la distancia, parece, ¡oh, Dios mío! De cerca, veo todos los defectos. Cada vez que hay muchos modelos, muchos datos, la IA es muy buena para lidiar con eso, ciertas cosas como jugar Go o ajedrez. Pero los humanos tienen esta tendencia a creer que si la IA puede hacer algo inteligente como la traducción o el ajedrez, entonces también debe ser muy bueno en todas las cosas fáciles. La verdad es que lo que es fácil para las máquinas puede ser difícil para los humanos y viceversa. Te sorprendería cómo la IA lucha con el sentido común básico. Esto es una locura.
¿Puede explicar qué significa "sentido común" en el contexto de su enseñanza de la IA? Una forma de describirlo es que el sentido común es la materia oscura de la inteligencia. La materia normal es lo que vemos, con lo que podemos interactuar. Durante mucho tiempo hemos pensado que eso es lo que hay en el mundo físico, y eso es todo. Resulta que eso es solo el 5% del universo. El noventa y cinco por ciento es materia oscura y energía oscura, pero es invisible y no se puede medir directamente. Sabemos que existe, porque si no existe, entonces la materia normal no tiene sentido. Así que sabemos que está ahí, y sabemos que hay mucho de eso. Llegamos a esta realización con sentido común. Es el conocimiento tácito e implícito que tú y yo tenemos. Es tan obvio que no solemos hablar de ello. Por ejemplo, ¿cuántos ojos tiene un caballo? De ellos. No hablamos de ello, pero todo el mundo lo sabe. No sabemos la fracción exacta del conocimiento que tú y yo tenemos y del que no hemos hablado, pero aún sabemos, pero supongo que hay mucho. Déjame darte otro ejemplo: tú y yo sabemos que los pájaros pueden volar, y sabemos que los pingüinos generalmente no pueden hacerlo. Entonces, los investigadores de IA pensaron que podíamos codificar esto: las aves generalmente vuelan, excepto los pingüinos. Pero, de hecho, las excepciones son el desafío de las reglas del sentido común. Los pájaros recién nacidos no pueden volar, los pájaros cubiertos de aceite no pueden volar, los pájaros heridos no pueden volar, los pájaros enjaulados no pueden volar. El caso es que las excepciones no son excepcionales, y tú y yo podemos pensar en ellas aunque nadie nos lo haya dicho. Es una habilidad fascinante, y no es tan fácil para A.I.
Usted se refirió a GPT-3 con escepticismo anteriormente. ¿Crees que eso no es impresionante? Soy un gran admirador de GPT-3, pero al mismo tiempo siento que algunas personas son b...
What's Your Reaction?
