Vértigo3d | E+ | imágenes falsas
DAVOS, Suiza – Blockchain podría usarse para evitar sesgos en los datos con los que se entrenan los modelos de inteligencia synthetic, y ese podría ser un «caso de uso excelente» para la tecnología, dijeron ejecutivos a CNBC.
Una de las preocupaciones sobre los modelos de IA (del tipo que sustentan aplicaciones como ChatGPT) es que los datos con los que se entrenan podrían contener sesgos o información errónea. Eso significa que las respuestas que pueda dar un sistema de IA contendrán esos sesgos e información falsa.
Blockchain llegó al mercado en 2009 con el lanzamiento de la criptomoneda bitcoin. En el contexto de bitcoin, la tecnología es un libro de transacciones público inmutable y a prueba de manipulaciones. Las empresas han estado buscando utilizar estos principios en otras aplicaciones de blockchain, que a veces se denomina tecnología de contabilidad distribuida.
En el caso de la IA, los datos de entrenamiento se pueden colocar en la cadena de bloques. Esto permitirá a los desarrolladores del sistema de IA realizar un seguimiento de los datos con los que se ha entrenado el modelo.
Casper Labs, una empresa de blockchain centrada en los negocios, se asoció con IBM este mes para crear dicho sistema.
«El producto que estamos desarrollando, los conjuntos de datos en realidad están controlados y almacenados en la cadena de bloques para que tenga una prueba de cómo se entrena la IA», dijo a CNBC Medha Parlika, directora de tecnología y cofundadora de Casper Labs, durante un panel. discusión en el Foro Económico Mundial en Davos esta semana.
«Y cuando usas la IA, si está aprendiendo y descubres que la IA está empezando a alucinar, puedes retroceder la IA. Y entonces puedes deshacer parte del aprendizaje y volver a una versión anterior de la IA. «.
Las alucinaciones se refieren en términos generales a cuando un sistema de inteligencia {artificial|synthetic} proporciona información falsa.
Blockchain es una tecnología de la que se ha hablado durante muchos años, y una gran cantidad de industrias, desde las finanzas hasta la atención médica, han estado buscando formas de utilizarla.
Sheila Warren, directora ejecutiva del Crypto Council for Innovation, dijo, sin embargo, que un libro de datos de entrenamiento de IA basado en blockchain podría ser el «caso de uso excelente» para la tecnología.
«De hecho, creo que la verificación de una IA y algún tipo de controles y contrapesos… dentro de un sistema de IA, serán impulsados y respaldados por blockchain», dijo Warren a CNBC durante el panel.
