En la London Blockchain Convention 2024, el Dr. Scott Zoldi, jefe de análisis de datos de FICO, habló con el reportero de CoinGeek Backstage, Jon Southurst, sobre la inteligencia synthetic (IA), blockchain y cómo los dos pueden trabajar juntos para crear una mejor rendición de cuentas. Vea la conversación a través del enlace del movie a continuación.
Definición de IA responsable
Para comenzar, Southurst le pide a Zoldi que defina la IA responsable. Dice que estos son modelos en los que se puede confiar para tomar decisiones críticas y de alto riesgo. Para confiar en ellos, debemos poder auditar y explicar cómo toman decisiones, y debemos poder compartir eso con reguladores y auditores.
Fundamentalmente, Zoldi y FICO creen en un concepto llamado «humanos informados». Esto significa que los científicos de datos y los ingenieros de inteligencia synthetic pueden verificar los puntos de datos y sus relaciones, encontrando aspectos como sesgos para poder anularlos o eliminarlos.
Junto con los humanos involucrados, la tecnología blockchain desempeñará un papel clave en la creación de la confianza que necesitamos en los modelos de IA. Los registros inmutables de las decisiones tomadas por científicos de datos, auditores y otros crean un fuerte incentivo para hacer las cosas bien.
Lidiando con el sesgo
Ampliando el tema del sesgo de datos, Zoldi reconoce que tanto los datos como la sociedad en basic están sesgados. Los modelos de IA pueden explorar todo tipo de relaciones más profundas entre puntos de datos, como las relaciones entre tipos de vivienda y determinadas razas, por ejemplo.
¿Cómo lidiamos con los prejuicios de los científicos de datos y los propios ingenieros de IA? Zoldi dice que los estándares de desarrollo de modelos los establece una mesa redonda y se hacen cumplir mediante la tecnología blockchain.
Todos los modelos de FICO utilizan este modelo de IA responsable. Además, dado que FICO lo considera tan importante, está disponible para toda la industria, dijo Zoldi a CoinGeek Backstage.
Modelos de auditoría y la necesidad de los humanos.
FICO utiliza la cadena de bloques privada Hyperledger Cloth. Southurst pregunta cómo alguien ajeno a la organización puede auditar esta cadena de bloques, ya que requiere permiso para acceder a ella.
Zoldi explica que las personas se autentican y agregan según sea necesario. Por ejemplo, se pueden agregar reguladores para verificar que se sigan las reglas sobre los modelos de IA responsables. Este es el feliz término medio que permite controles y equilibrios adecuados al tiempo que protege la propiedad intelectual (PI) de FICO.
¿Llegaremos algún día al punto en que los modelos de IA construyan sus propios modelos sin humanos involucrados? “No bajo mi mando”, responde Zoldi inequívocamente. El concepto de «humanos en el circuito» es central en FICO. Dado que la confianza en la IA es baja, debemos mantener a los humanos involucrados para mitigar las malas decisiones y aumentar esa confianza.
¿Cómo podemos construir un mundo en el que los humanos confíen en la IA? Zoldi enfatiza las salvaguardias, las regulaciones y que las empresas vean la IA como una herramienta y construyan modelos de manera responsable. La combinación de IA y blockchain es la mejor aplicación, afirma, y FICO ya la tiene.
Para que la inteligencia synthetic (IA) funcione dentro de la ley y prospere frente a los crecientes desafíos, necesita integrar un sistema blockchain empresarial que garantice la calidad y la propiedad de la entrada de datos, lo que le permitirá mantener los datos seguros y al mismo tiempo garantizar la inmutabilidad. de datos. Consulte la cobertura de CoinGeek sobre esta tecnología emergente para saber más por qué la cadena de bloques empresarial será la columna vertebral de la IA.
Vea la clase magistral de AI Forge: Por qué la IA y la cadena de bloques son potencias tecnológicas
¿Nuevo en blockchain? Consulte la sección Blockchain para principiantes de CoinGeek, la guía de recursos definitiva para aprender más sobre la tecnología blockchain.
