"Responsabilidad moral": ¿Puede Blockchain realmente mejorar la confianza en la IA?

La mayoría de las revoluciones tecnológicas vienen con un lado oscuro imprevisto.

Cuando los físicos nacidos en Austria Lise Meitner y Otto Frisch dividieron el átomo por primera vez a fines de la década de 1930, probablemente no previeron que su descubrimiento conduciría a la bomba atómica unos años más tarde. Podría decirse que la revolución de la inteligencia artificial (IA) no es diferente.

Los algoritmos de IA existen desde hace décadas. La primera red neuronal artificial, el perceptrón, se inventó en 1958. Pero el ritmo del desarrollo reciente ha sido vertiginoso, y con dispositivos de reconocimiento de voz como Alexa y chatbots como ChatGPT, la IA parece haber ganado nueva notoriedad pública.

En el lado positivo, la IA podría aumentar drásticamente el nivel de educación general en el planeta y ayudar a encontrar curas para enfermedades devastadoras como el Alzheimer. Pero también podría desplazar trabajos y fortalecer estados autoritarios que pueden usarlo para vigilar a sus poblaciones. Además, si las máquinas alguna vez logran inteligencia "general", incluso podrían ser entrenadas para anular elecciones y llevar a cabo guerras, advirtió recientemente el pionero de la IA Geoffrey Hinton.

“Enorme potencial y enorme peligro” es la forma en que el presidente de EE. UU., Joe Biden, lanzó recientemente una IA. Esto sigue a una marcha de más de 1,000 líderes tecnológicos, incluidos Elon Musk y Steve Wozniak, que piden una moratoria en los desarrollos de IA como ChatGPT. La tecnología, dijeron, plantea "riesgos profundos para la sociedad y la humanidad".

Ya, algunos países se están alineando contra OpenAI, el desarrollador de ChatGPT. Italia prohibió temporalmente ChatGPT en marzo y el comisionado de privacidad de Canadá está acusado de recopilar y usar información personal sin consentimiento. La UE está negociando nuevas reglas para la IA, mientras que China ahora exige que los desarrolladores de IA sigan reglas estrictas de censura. Cierta regulación parece inevitable.

En este contexto, surge una pregunta: ¿puede la tecnología blockchain resolver los problemas que aquejan a la inteligencia artificial, o al menos algunos de ellos? La tecnología de contabilidad descentralizada, después de todo, es posiblemente todo lo que la IA no es: transparente, rastreable, confiable y a prueba de manipulaciones. Esto podría ayudar a compensar parte de la opacidad de las soluciones de caja negra de IA.

Anthony Day, jefe de estrategia y marketing de Midnight, una cadena lateral de Cardano, en abril en LinkedIn sobre la tecnología blockchain: "Necesitamos crear una forma de habilitar la CONFIANZA que sea rastreable, transparente, sin censura y automatizada en dónde y qué IA hará por (o para) nuestro mundo.

Como mínimo, las cadenas de bloques podrían ser un depósito para los datos de entrenamiento de la IA. O como Jerry Cuomo de IBM hace varios años, una observación que todavía suena cierta hoy:

"Avec la blockchain, vous pouvez suivre la provenance des données d'entraînement ainsi que voir une piste d'audit des preuves qui ont conduit à la prédiction de la raison pour laquelle un fruit particulier est considéré comme une pomme par rapport à una naranja."

"Los usuarios de modelos de IA centralizados a menudo no son conscientes de los sesgos inherentes a su formación", explica a Magazine Neha Singh, cofundadora de Tracxn Technologies, una plataforma de análisis e inteligencia empresarial. "Se puede lograr una mayor transparencia para los modelos de IA a través de la tecnología blockchain".

Muchos están de acuerdo en que se debe hacer algo antes de que la IA se generalice. "Para confiar en la inteligencia artificial, las personas deben saber y comprender exactamente qué es la IA, qué hace y su impacto", dijo Kay Firth-Butterfield, directora de inteligencia artificial y aprendizaje automático del Foro Económico Mundial. "Los ejecutivos y las empresas deben hacer de la IA transparente y confiable una prioridad al implementar esta tecnología".

Es interesante notar que se está trabajando en esta dirección. En febrero, la empresa de tecnología financiera con sede en EE. UU. FICO recibió una patente para "Blockchain for Data and Model Governance", registrando oficialmente un proceso que ha utilizado durante años para garantizar prácticas de IA "responsables".

FICO usa un libro de contabilidad basado en Ethereum para rastrear la procedencia de extremo a extremo "del desarrollo, la puesta en funcionamiento y el monitoreo de modelos de aprendizaje automático de manera inmutable", de regreso a la empresa, que importa a más de 300 científicos de datos y trabaja con muchos de los bancos más grandes del mundo. Hay diferencias notablemente sutiles entre los términos "IA" y "aprendizaje automático", pero los términos a menudo se usan indistintamente.

El uso de una cadena de bloques permite la auditabilidad y crea un modelo de negocio y confianza, dijo Scott Zoldi, director de análisis de FICO, en una publicación de IA a principios de este año.< /p>

"Es importante tener en cuenta que la cadena de bloques proporciona un rastro para la toma de decisiones. Muestra si una variable es aceptable, si introduce un sesgo en el modelo o si la variable se usa correctamente... Registra todo el rastro construcción de estos modelos...