Las soluciones ZK que surgen de Web3 podrían mitigar los riesgos ocultos de la IA
La tecnología de conocimiento cero (ZK) se ha convertido en una de las propiedades más populares en la esfera blockchain en los últimos años, impulsando un ecosistema completo de Capa 2 que brinda escalabilidad, tarifas más bajas y muchas otras características y mejoras al panorama de Ethereum.
Sin embargo, hasta ahora, la aplicación de la tecnología ZK se ha limitado a soluciones de infraestructura para blockchains. Pero basándose en los desarrollos emergentes en Web3, ZK está comenzando a ingresar al campo de la tecnología orientada al usuario e incluso podría abordar algunos de los riesgos menos obvios asociados con la creciente prevalencia de la IA.
La IA, y específicamente los modelos de lenguajes grandes (LLM, por sus siglas en inglés), están cada vez más integrados en nuestras experiencias en línea. El último desarrollo es la expansión de las capacidades ChatGPT de Open AI a la búsqueda web, un movimiento reflejado por Meta. Evidentemente, ambos esfuerzos pretenden desafiar el dominio de Google sobre el segmento de búsqueda, que ronda el 90 por ciento.
Riesgos ocultos
La idea de recibir una única respuesta a una consulta de búsqueda, en lugar de rastrear los resultados de la búsqueda para encontrar la página con la información que necesita, puede parecer tentadora. Sin embargo, los investigadores advierten sobre los riesgos. Emily M. Bender, profesora de Lingüística en la Universidad de Washington, publicó un hilo extenso en X, destacando cómo la precisión de los resultados de búsqueda de LLM todavía deja mucho que desear, pero quizás lo más preocupante es que el uso de LLM podría erosionar la “información”. alfabetismo.» Ella sostiene que al eliminar una lista de respuestas para que el usuario tenga sentido, no hay posibilidad de considerar la confiabilidad o relevancia de la respuesta.
Además, todavía hay una falta de conciencia sobre hasta qué punto la IA está llegando a dominar nuestras interacciones en línea. Un estudio de 2024 realizado por investigadores de AWS reveló que el 57% de todo el texto basado en la web ha sido generado por IA o sometido a un algoritmo de IA, mientras que Pew Research muestra que el 44 por ciento de los estadounidenses todavía cree que no interactúan regularmente con la IA.
Esta desconexión crea más riesgos, ya que las cifras indican que al menos algunas personas interactúan con la IA sin saberlo. La difusión de información errónea es un ejemplo obvio, pero los LLM también pueden conllevar riesgos de ciberseguridad si una entidad maliciosa altera el modelo o los datos subyacentes utilizados para impulsarlo.
Levantando la tapa
La tecnología ZK es todavía relativamente nueva y la IA ciertamente avanza a un ritmo mucho más rápido, gracias a los esfuerzos de desarrollo y al capital de inversión de las grandes tecnologías. Sin embargo, las soluciones ZK que surgen actualmente del sector Web3 ofrecen el tipo de funcionalidad que podría mitigar algunos de estos riesgos ocultos de la IA.
Efectivamente, la tecnología ZK ofrece una forma para que una entidad demuestre que un hecho es cierto sin revelar los datos subyacentes. Entonces, en el caso de las respuestas de búsqueda impulsadas por el LLM, imagine un escenario en el que se le podría pedir al LLM que muestre las fuentes que utilizó para llegar a una respuesta sin revelar detalles exclusivos sobre el funcionamiento del algoritmo.
Históricamente, los sistemas administrados centralmente no necesariamente han funcionado bien con las cadenas de bloques, pero aquí es donde las pruebas ZK podrían proporcionar el puente necesario para llevar la certeza de la seguridad dentro de la cadena a las transacciones fuera de la cadena.
La mayoría de las cadenas de bloques solo pueden dar fe de lo que sucede dentro de los límites de sus propias redes, pero SXT Chain, desarrollada por datos descentralizados y la plataforma tecnológica ZK Space and Time, es capaz de presenciar y proteger una variedad de tipos de datos, incluso de bases de datos fuera de la cadena. , en su red, que luego se puede consultar con una interfaz SQL que resultará familiar para la mayoría de los desarrolladores. ¿Un caso de uso para una “prueba de SQL” ZK? Auditar y registrar las acciones de los LLM.
De manera similar, las soluciones de identidad basadas en ZK aún se encuentran en sus primeras versiones, pero podrían ayudar a distinguir entre humanos y robots en línea. Actualmente, existen muy pocas formas de demostrar concretamente quiénes somos, como por ejemplo enviar copias de nuestra identificación emitida por el gobierno. Los proyectos de identidad de ZK como Holonym tienen como objetivo dotar a las personas de claves privadas que puedan utilizar para verificar su humanidad sin revelar ningún elemento de su identidad o características identificativas.
Quedan algunas barreras. Una pregunta clave es si el ritmo de desarrollo de Web3 puede seguir el ritmo de los avances en IA impulsados por las grandes tecnologías, mientras que también está por verse la voluntad de las grandes tecnologías de adoptar soluciones centradas en la transparencia de los LLM. Sin embargo, la existencia de tales soluciones significa que el argumento para mantener la caja negra de la IA bajo control es cada vez más difícil de mantener.
