La inteligencia artificial (IA) y la cadena de bloques son tecnologías digitales emergentes que han captado la imaginación del público pero también han generado serias preocupaciones.
Entonces vale la pena preguntarse: ¿Se pueden integrar la IA y la cadena de bloques de una manera que beneficie a la humanidad?
Hay razones para pensar que sí. Ya en 2016, Vitalik Buterin escribió que tanto las comunidades de criptoeconomía como de seguridad de la IA estaban «tratando de abordar lo que es fundamentalmente el mismo problema» de cómo regular sistemas complejos e inteligentes con «propiedades emergentes impredecibles».
Después de todo, ambos dependen para el manage de sistemas esencialmente “tontos” “cuyas propiedades, una vez creadas, son inflexibles”. Una vez que se implementa un contrato inteligente, no se puede cambiar, por ejemplo. Las dos comunidades “deberían escucharse más”, concluyó.
El año pasado, con la aparición de ChatGPT y otras herramientas de inteligencia synthetic generativa, aumentó la preocupación de que la inteligencia artificial pueda estar fuera de regulate. Los humanos podrían perder el control de los sistemas de armas autónomos en un escenario de pesadilla.
Por lo tanto, la noción de que las cadenas de bloques y los contratos inteligentes pueden de alguna manera servir como barreras de seguridad para evitar que los modelos de IA se desvíen de su curso ha ido ganando terreno.
«Todos los que trabajan en criptografía tienen un papel muy distinto que desempeñar para que AGI funcione bien», dijo Allison Duettmann, presidenta del Foresight Institute, en la reciente conferencia SmartCon 2023. Esto es especialmente cierto dadas las predicciones de que la inteligencia synthetic standard, o AGI, en la que las máquinas alcanzan una inteligencia a nivel humano, puede llegar más pronto que tarde.
Esta posible fusión de IA y tecnología blockchain también estaba en la mente de los tomadores de decisiones de TI que participaron en una encuesta recientemente publicada encargada por Casper Labs. Casi la mitad (48%) de los 608 líderes de TI encuestados en los Estados Unidos, Europa y China coincidieron en que «la integración de la IA y la tecnología blockchain tiene el potencial de revolucionar nuestra industria, permitiendo una mayor seguridad, transparencia y eficiencia de los datos».
Tecnologías complementarias, impulso creciente
La plan básica es que los libros de contabilidad inmutables y libres de manipulaciones de las cadenas de bloques, junto con los contratos inteligentes, pueden proporcionar barreras de seguridad para las implementaciones de IA, garantizando una inteligencia synthetic responsable. Algunos creen que una cadena de bloques podría incluso servir como una especie de “interruptor de apagado” para modelos de IA fuera de regulate.
En la encuesta encargada por Casper Labs y realizada por Zogby Analytics, el 71% de los líderes de TI dijeron que «ven la cadena de bloques y la IA como tecnologías complementarias». Además, cuando se les preguntó cómo utilizan actualmente sus organizaciones blockchain, «trabajar de manera eficiente con IA fue la respuesta más preferred en common (51%)».
Por otra parte, el 1 de noviembre, el presidente estadounidense Joe Biden emitió una orden ejecutiva que establece nuevos estándares de seguridad para la IA. La orden tiene como objetivo proteger al público contra una amplia gama de riesgos, incluidos materiales biológicos peligrosos diseñados por IA, fraude y engaño habilitados por IA.
Esa orden «creó mucho impulso», dijo a Noticias Blockchain en una entrevista Mrinal Manohar, director ejecutivo y cofundador de Casper Labs, que tiene una cadena de bloques de capa 1 centrada en las empresas. La gobernanza de la IA está en la mente de más personas de TI empresariales en estos días.
¿Ve más empresas lanzando proyectos reales de IA/blockchain? “Prevemos que 2024 será un año de grandes POC [proofs-of-concept] y MVP [minimum viable products]. Y después de eso anticipo que habrá casos de uso reales”, dijo Manohar.
Pero seguramente aquí hay obstáculos, incluido el escalamiento. Validar rápidamente las transacciones en cadenas de bloques descentralizadas de gran volumen sigue siendo un desafío, a pesar de que se han logrado avances recientemente.
En un artículo de 2021 muy citado, Ben Garfinkel, director del Centro para la Gobernanza de la IA, escribió que “las cadenas de bloques establecidas sin permiso, incluido Ethereum, son demasiado ineficientes para ejecutar algo más que aplicaciones bastante simples”. Incluso una aplicación «que comprueba quién ha ganado una partida de ajedrez va en contra de las limitaciones actuales de Ethereum».
Revista: Irrumpir en Liberland: esquivar a los guardias con cámaras de aire, señuelos y diplomáticos
Aún así, si los contratos inteligentes “alguna vez llegan a ser lo suficientemente confiables”, admitió Garfinkel, podrían ser útiles como mecanismos de verificación para acuerdos internacionales destinados a gobernar los sistemas de IA.
Casper Labs es claramente más optimista. «En la carrera por resolver el desafío de la ‘caja negra’ de la IA, blockchain está emergiendo como la solución todo en uno que estábamos esperando para incorporar la tan necesaria transparencia», escribió Manohar en el informe. El funcionamiento interno de los sistemas de IA es básicamente invisible para los usuarios, de ahí la analogía de la «caja negra».
La solución blockchain híbrida
Aún así, ¿cómo es posible que la tecnología blockchain sea vista como una solución al problema de la “caja negra” de la IA si ni siquiera puede escalar?
«La forma de abordar el problema de la escala es a través de cadenas de bloques híbridas», dijo Manohar a Noticias Blockchain. Hoy en día nadie habla de colocar enormes conjuntos de datos en Ethereum o en la cadena de bloques de capa 1 de Casper Labs. La solución de Casper Labs implica el uso de cadenas de bloques autorizadas (privadas) y públicas (no autorizadas).
«La gente se ha obligado a pensar en esta forma de pensar en la que hay que tener todo el permiso o hay que estar completamente abierto», dijo Manohar, y explicó con más detalle:
“En una cadena de bloques híbrida, tienes tu propia cadena de bloques privada que es tuya. Lo controlas, lo configuras y puedes hacer que se ejecute tan rápido como quieras porque tienes un conjunto de validadores limitado”.
¿Y la cadena pública? Eso es más para control de versiones y mantenimiento de registros. Es posible que desees registrar una nueva versión de IA en la cadena pública, por ejemplo. «La belleza de este modelo híbrido es que usted elige cuándo necesita inmutabilidad de la cadena pública y dónde simplemente administra su infraestructura por su cuenta», dijo Manohar.
Siempre que almacene adecuadamente la referencia en la cadena de bloques pública, «siempre puede asegurarse de que esos datos no hayan sido manipulados porque, si lo fueran, los hashes no coincidirían».
Además, cualquier cosa que desee que sea auditable, puede colocarla en la cadena de bloques pública porque es a prueba de manipulaciones. Entonces, «cada vez que modifique la IA o cada vez que use un nuevo conjunto de datos, enviaré un ping a la cadena de bloques pública», dijo Manohar.
Un gran problema con la IA hoy en día es que no se sabe cuando algo sale mal. Pero las cadenas de bloques proporcionan una manera de revertir la cinta, por así decirlo, porque están altamente serializadas y con marca de tiempo.
Por lo tanto, si un modelo de IA «comienza a mostrar signos de alucinaciones o sesgos inherentes, simplemente se puede hacer retroceder el sistema de IA a una iteración reciente que carecía de esos problemas y, posteriormente, diagnosticar de dónde provienen los datos del problema», señala Casper Labs en su informe. sitio net.
Pero otros no están convencidos de que una cadena de bloques pueda resolver el problema de la “caja negra” de la IA.
«Es engañoso describir la ‘transparencia’ de blockchain como un antídoto al problema de la ‘caja negra’ de la IA», dijo a Noticias Blockchain Samir Rawashdeh, profesor asociado y director del Centro de Investigación de Inteligencia Synthetic de Dearborn en la Universidad de Michigan, Dearborn.
No hace que el funcionamiento interno inherente de un modelo de aprendizaje automático sea más comprensible ni aclara «de qué manera un resultado certain se remonta a los datos de entrenamiento originales».
Lo que Casper Labs realmente propone, sugirió Rawashdeh, es un «sistema de handle de versiones» -aunque con algunas características interesantes- que pueda usarse «para realizar un seguimiento del desarrollo y la implementación del modelo de IA».
Dicho esto, una cadena de bloques podría abordar indirectamente el desafío de la “caja negra”, añadió Rawashdeh, al ofrecer un registro de auditoría que ayude a garantizar la integridad, procedencia y transparencia de los datos en los conjuntos de datos utilizados para entrenar modelos de IA. Pero eso no hace que el proceso de decisión genuine sea más interpretable.
Cuando las máquinas se confabulan contra los seres humanos
De cara al futuro, surgen preocupaciones en torno a la inteligencia synthetic common: ¿podría blockchain ayudar a evitar esos escenarios de pesadilla en los que los modelos AGI anulan elecciones o incluso inician guerras?
“En realidad, podría ser de gran ayuda”, respondió Manohar. Blockchain «sería el mejor interruptor de apagado» para un modelo de IA siempre que su energía eléctrica «pase a través de una cadena de bloques completamente descentralizada».
Es decir, la cadena de bloques y sus validadores humanos deciden si el modelo de IA recibe energía o no. «Siempre hay una señal de apagado, donde si todos los validadores están de acuerdo, pueden simplemente cerrar la red, cerrar el acceso de la IA a la energía», dijo Manohar, y agregó:
«En realidad, podría actuar como un interruptor increíblemente potente para esos escenarios de pesadilla».
Las sospechas persisten
Existen otros obstáculos potenciales para esta integración de blockchain y AI. Por un lado, «hay muchas sospechas en la comunidad de IA en torno a las criptomonedas», dijo Duettmann. Las criptomonedas y blockchain todavía recuerdan a muchos las estafas de tokens no fungibles y otros comportamientos desagradables.
Dicho esto, cuando se le preguntó si Foresight estaba viendo más propuestas de financiación para proyectos de IA/Blockchain, Duettmann respondió: «Ahora hay mucho movimiento en el espacio». Ella ve, en promedio, alrededor de cinco propuestas de financiamiento por semana que combinan tecnología blockchain e inteligencia synthetic. Por supuesto, el Instituto sólo puede financiar una fracción de estos, pero «definitivamente ha recaudado mucho».
En cuanto a las dos comunidades, “en última instancia, tienen mucho que aprender unas de otras”, afirmó. En su charla en la SmartCon 2023, señaló que la industria de la criptografía es muy buena en materia de seguridad de redes y, a menudo, emplea «equipos rojos», en los que los equipos buscan entradas que provoquen un comportamiento catastrófico. “Extendamos el ‘equipo rojo’ a los modelos de aprendizaje automático”, propuso.
Más aceptación en China
La integración de la IA y la tecnología blockchain parece verse especialmente favorablemente en China. En la encuesta de Casper Lab, el 68% de los encuestados de TI de China coincidieron en que «la integración de la IA y la tecnología blockchain tiene el potencial de revolucionar nuestra industria, permitiendo una mayor seguridad, transparencia y eficiencia de los datos». En comparación, esa proporción fue del 48% en Estados Unidos y sólo del 34% en Europa.
Reciente: Impulsar la adopción de blockchain manteniendo la tecnología en el backend
¿Por qué tan alto en China? China ha sido hostil hacia las criptomonedas en los últimos años, pero sigue siendo positiva respecto de la tecnología blockchain, observó Manohar. Algunos municipios han puesto títulos de propiedad en una cadena de bloques. China considera la tecnología blockchain como un mecanismo eficaz de certificación y seguimiento.
En Occidente, en comparación, «todo el mundo piensa que blockchain es sólo una criptomoneda», afirmó Manohar. Pero es possible que esta brecha educativa se reduzca. A largo plazo, “todo vuelve a la normalidad”.
¿Es esta la mejor aplicación de blockchain?
Se le preguntó a Manohar si la fusión de la IA y la cadena de bloques podría llegar a convertirse en la tan buscada «aplicación asesina» de la cadena de bloques.
“Podría ser uno de ellos”, respondió. Los protocolos de gobernanza de seguimiento y localización de Blockchain para los sectores de la cadena de suministro y la tecnología financiera también son candidatos, pero esas dos áreas tenían una gobernanza aceptable antes de que aparecieran las cadenas de bloques y los contratos inteligentes.
En comparación, “no existe un sistema de gobernanza establecido en la IA. Por tanto, hay mucho más espacio para la innovación. Así que realmente creo que esta podría ser la aplicación asesina de blockchain”, dijo a Noticias Blockchain.
