Estamos implementando un caso de uso genuino para la IA y las criptomonedas cada día de esta semana, incluidas razones por las que no necesariamente debes creer en las exageraciones. Hoy: Cómo blockchain puede combatir las falsificaciones.
La IA generativa es extremadamente buena para generar fotos falsas, cartas falsas, facturas falsas, conversaciones falsas: todo es falso. El cofundador cercano, Illia Polosukhin, advierte que pronto no sabremos en qué contenido confiar.
“Si no solucionamos este (problema) de reputación y autenticación de contenido, la cosa se pondrá muy rara”, explica Polosukhin. «Recibirás llamadas telefónicas y pensarás que esto es de alguien que conoces, pero no lo es».
“Todas las imágenes que veas, todo el contenido, los libros serán (sospechosos). Picture un libro de historia que los niños están estudiando y, literalmente, cada niño ha visto un libro de texto diferente y está tratando de afectarlos de una manera específica”.
Blockchain se puede utilizar para rastrear de forma transparente la procedencia del contenido en línea para que los usuarios puedan distinguir entre contenido genuino e imágenes generadas por IA. Pero no distinguirá la verdad de la mentira.
“Esa es una visión equivocada del problema porque la gente escribe cosas falsas todo el tiempo. Es más una cuestión de cuando ves algo, ¿es por la persona que dice que es?” dice Polosukhin.
“Y ahí es donde entran los sistemas de reputación: Ok, este contenido proviene de ese autor ¿Podemos confiar en lo que dice ese autor?
«Entonces, la criptografía se convierte en un instrumento para garantizar la coherencia y la trazabilidad, y luego se necesita reputación en torno a esta criptografía: cuentas en cadena y mantenimiento de registros para garantizar que ‘X publicó esto’ y ‘X está trabajando para Noticias Blockchain en este momento'».
En serio, ya no confíes en nada de lo que ves en línea. Fingir cosas es trivial. No puedes notar la diferencia. No hay marcas de agua y las marcas de agua se pueden eliminar fácilmente. Este genio no volverá a la botella.
– Ethan Mollick (@emollick) 27 de noviembre de 2023
Si es una notion tan genial, ¿por qué nadie la está haciendo ya?
Existe una variedad de proyectos de cadena de suministro existentes que utilizan blockchain para demostrar la procedencia de los productos en el mundo serious, incluidos VeChain y OriginTrail.
Sin embargo, la procedencia basada en el contenido aún no ha despegado. El proyecto Trive News tenía como objetivo la verificación colectiva de artículos a través de blockchain, mientras que el proyecto Po.et estampó un historial transparente de contenido en blockchain, pero ambos ya no existen.
Más recientemente, se lanzó Point Protocol, que utiliza una combinación de tecnología AI y World wide web3 en un intento de realizar crowdsourcing para la validación de noticias. El proyecto se unió a la Iniciativa de Autenticidad de Contenido en marzo del año pasado.
Cuando alguien comparte un artículo o contenido en línea, primero se valida automáticamente mediante inteligencia synthetic y luego los verificadores de datos del protocolo se proponen verificarlo y luego registrar la información, junto con las marcas de tiempo y los hashes de transacciones, en la cadena.
Leer también
Características
Cómo hacer un Metaverso: Secretos de los fundadores
Características
El invierno criptográfico puede afectar la salud mental de los hodlers
«No volvemos a publicar el contenido en nuestra plataforma, pero creamos un registro permanente en cadena del mismo, así como un registro de las verificaciones de datos realizadas y los validadores de las mismas», dijo el fundador Mohith Agadi a The Decrypting. Historia.
Y en agosto, la agencia mundial de noticias Reuters ejecutó un programa piloto de prueba de concepto que utilizó un prototipo de cámara Canon para almacenar los metadatos de las fotografías en cadena utilizando el estándar C2PA.
También integró el marco de autenticación de Starling Lab en su flujo de trabajo de escritorio fotográfico. Con los metadatos, el historial de edición y el registro de blockchain integrados en la fotografía, los usuarios pueden verificar la autenticidad de una imagen comparando su identificador único con el registrado en el libro de contabilidad público.
También se están llevando a cabo investigaciones académicas en el área.
Por qué @FactProtocol ¿Elegir la tecnología blockchain para construir un sistema descentralizado de verificación de datos? Un hilo 🧵👇
1. Registros a prueba de manipulaciones:
La inmutabilidad de Blockchain garantiza que los registros de verificación de hechos en Fact Protocol no puedan modificarse ni manipularse, proporcionando un entorno seguro y… pic.twitter.com/tEOrl4Us4o
– Protocolo de hechos (@FactProtocol) 21 de noviembre de 2023
¿Se necesita blockchain?
Técnicamente, no. Uno de los problemas que obstaculiza este caso de uso es que en realidad no se necesita blockchain o criptografía para demostrar de dónde proviene un contenido. Sin embargo, hacerlo hace que el proceso sea mucho más sólido.
Entonces, si bien se pueden usar firmas criptográficas para verificar el contenido, Polosukhin pregunta cómo puede el lector estar seguro de que es la firma correcta. Si la clave se publica en el sitio internet de origen, alguien aún puede piratear ese sitio web.
World-wide-web2 aborda estos problemas utilizando proveedores de servicios confiables, explica, «pero eso falla todo el tiempo».
“Symantec fue hackeado y estaban emitiendo certificados SSL que no eran válidos. Los sitios internet están siendo pirateados: Curve, incluso los sitios website World-wide-web3 están siendo pirateados porque se ejecutan en una pila Net2”, dice.
«Entonces, al menos desde mi perspectiva, si esperamos un futuro en el que esto se use de manera maliciosa, necesitamos herramientas que realmente sean resistentes a eso».
Leer también
Características
Las criptomonedas están vivas y coleando, aunque los escépticos dicen que «no es dinero»
Características
Las criptomonedas como ‘bien público’ en el siglo XXII
No creas en el bombo
La gente ha estado discutiendo este caso de uso de blockchain para combatir la “desinformación” y las falsificaciones profundas mucho antes de que despegara la IA, y ha habido pocos avances hasta hace poco.
Microsoft acaba de lanzar su nueva marca de agua para combatir las falsificaciones de IA generativa que se utilizan en las campañas electorales. La marca de agua de la Coalición para la Autenticidad de Procedencia del Contenido está adjunta permanentemente a los metadatos y muestra quién los creó y si la IA estuvo involucrada.
El New York Times, Adobe, la BBC, Truepic, Washington Post y Arm son todos miembros de C2PA. Sin embargo, la solución no requiere el uso de blockchain, ya que los metadatos se pueden proteger con códigos hash y firmas digitales certificadas.
Dicho esto, también se puede registrar en blockchain, como lo demostró el programa piloto de Reuters en agosto. Y el brazo de concientización de C2PA se llama Written content Authenticity Initiative, y los equipos Internet3, incluidos Rarible, Point Protocol, Livepeer y Dfinity, son miembros de CAI que enarbolan la bandera de blockchain.
Lea también:
Casos de uso reales de IA en criptomonedas, n.° 1: el mejor dinero para la IA son las criptomonedas
Casos de uso reales de IA en criptografía, n.° 2: las IA pueden ejecutar DAO
Casos de uso reales de IA en criptografía, n.° 3: auditorías de contratos inteligentes y ciberseguridad
Suscribir
Las lecturas más interesantes en blockchain. Entregado una vez por semana.
andres fenton
Andrew Fenton, radicado en Melbourne, es periodista y editor que cubre criptomonedas y blockchain. Ha trabajado como escritor de entretenimiento nacional para Information Corp Australia, en SA Weekend como periodista de cine y en The Melbourne Weekly.
Sigue al autor @andrewfenton
