Casper Labs, una empresa de soluciones blockchain flexibles, anunció hoy que está trabajando con IBM Corp. para crear una herramienta de gobernanza de inteligencia artificial que utilice tecnología de contabilidad descentralizada para introducir handle de versiones, monitoreo y controles de acceso para modelos de IA.
En una entrevista con SiliconANGLE, el director ejecutivo de Casper Labs, Mrinal Manohar, dijo que a partir de mayo del año pasado, Casper vio que había cierta necesidad de acercarse a una convergencia entre la IA y la tecnología blockchain. Esto es especialmente importante, dijo, a medida que más empresas han descubierto la necesidad de controlar el comportamiento de sus modelos y cumplir con los estándares regulatorios establecidos por los organismos gubernamentales.
«Ha habido muchos enfoques cínicos que pensamos, como rociar un poco de 'polvo de hadas' de IA en blockchain con chatbots de IA para comprender el ecosistema, etc.», dijo Manohar. “Pero en realidad las dos grandes strategies fueron: una, la gobernanza de la IA se convertirá en algo realmente importante debido a las necesidades gubernamentales y regulatorias y todos sienten que la IA debe volverse más responsable. Y en segundo lugar, este es uno de los raros casos en los que está surgiendo una industria y la pila tecnológica no está bien definida”.
Para que esto funcione, Casper Labs comenzó a trabajar con IBM para crear un producto de application como servicio utilizando el software package de IBM. watsonx.gobernanza que lo combina con la plataforma Casper Blockchain para ofrecer a las empresas una solución auditable para el command del modelo de IA.
La tecnología Blockchain proporciona una capa de seguimiento de datos utilizando libros de contabilidad distribuidos y criptografía que pueden crear un registro histórico a prueba de manipulaciones de los cambios en un modelo de IA. Esto significa que cada vez que se realiza una modificación en una versión del modelo de IA, se puede agregar una transacción a un registro de blockchain y eso puede usarse como un «punto de reinicio» si algo sale mal con el modelo después de ese punto.
«Dado que la cadena de bloques es resistente a manipulaciones, está completamente sincronizada en el tiempo y puede automatizarse por completo, la gobernanza de la IA se puede hacer correctamente, ser altamente automatizable y altamente certificable desde el principio», dijo Manohar.
El kit de herramientas watsonx.governance de IBM ofrece software program para automatizar y gestionar sus modelos de IA para hacer frente a los requisitos regulatorios de entrenamiento y ejecución de modelos y abordar las preocupaciones éticas y legales de la IA generativa y los modelos de aprendizaje automático. Al combinar sus capacidades con un registro histórico a prueba de manipulaciones de cada cambio que ocurre durante la vida útil de un modelo, es posible reducir los riesgos y problemas que puedan surgir.
Dado que los modelos de IA pueden experimentar desviaciones debido a los nuevos datos entrenados en ellos de una versión a otra, se vuelve aún más necesario poder identificar de manera transparente cuándo ocurrió un evento y qué cambio lo causó. Es aún mejor que sea posible volver al momento exacto antes de que comenzara a ocurrir el problema.
«Te brinda un command de versiones serious», dijo Manohar. «Dado que su cadena de bloques le proporciona un estado en cada momento, es muy fácil simplemente reiniciar o volver a un estado anterior».
Esto es especialmente importante para anomalías como las alucinaciones, que es donde un modelo de IA comienza a hacer declaraciones falsas con confianza con mucha más frecuencia que antes, algo a lo que pueden ser propensos los chatbots conversacionales y los grandes modelos de lenguaje. Se podría hacer lo mismo si los desarrolladores descubrieran que el modelo ha sido entrenado con datos confidenciales, como información de identificación personalized u obras protegidas por derechos de autor que deben eliminarse. Volver a la versión justo antes de que se agregara podría ser tan easy como determinar la transacción antes del evento en el que se agregó.
Utilizando la misma tecnología blockchain, las grandes organizaciones también pueden implementar controles de acceso y permisos sobre quién puede editar o entrenar modelos de IA. Esto permitirá a los usuarios establecer qué individuos o grupos de individuos deben participar antes de que se puedan ingresar los datos de entrenamiento, lo que, según Manohar, será clave para que las grandes organizaciones controlen conjuntos de datos confidenciales para la IA.
Manohar dijo que los primeros clientes de este producto probablemente provendrían de una variedad de industrias sensibles y altamente reguladas, especialmente productos financieros, seguros y similares, donde las regulaciones son estrictas y la responsabilidad legal por alucinaciones sería un problema. De manera related, las empresas de la cadena de suministro y cualquier industria que utilice IA para “seguimiento y localización” donde las aberraciones necesitan una buena pista de auditoría para saber por qué confiaban en una ruta de modelo distinct.
«La eficacia de un sistema de IA es, en última instancia, tan buena como la capacidad de una organización para gobernarlo», dijo Shyam Nagarajan, socio worldwide, blockchain y líder responsable de IA en IBM Consulting. “Las empresas necesitan soluciones que fomenten la confianza, mejoren la explicabilidad y mitiguen el riesgo. Estamos orgullosos de aportar la consultoría y la tecnología de IBM para respaldar a Casper Labs en la creación de una nueva solución que ofrece una capa importante para impulsar la transparencia y la mitigación de riesgos para las empresas que implementan IA a escala”.
El servicio se encuentra actualmente en modo beta activo y Casper Labs está utilizando el programa para obtener comentarios empresariales de los usuarios empresariales para crear la solución más útil posible. En cuanto al lanzamiento, la compañía dijo que el servicio está en camino de lanzarse en el tercer trimestre de este año.
Imagen: Producción Perig
Su voto de apoyo es importante para nosotros y nos ayuda a mantener el contenido Free of charge.
Un clic a continuación respalda nuestra misión de proporcionar contenido gratuito, profundo y relevante.
Únase a nuestra comunidad en YouTube
Únase a la comunidad que incluye más de 15 000 expertos de #CubeAlumni, incluido el director ejecutivo de Amazon.com, Andy Jassy, el fundador y director ejecutivo de Dell Technologies, Michael Dell, el director ejecutivo de Intel, Pat Gelsinger, y muchas más luminarias y expertos.
GRACIAS