Un artículo reciente de McKinsey & Co. quizás resuma mejor el espíritu actual de las iniciativas ambientales, sociales y de gobierno corporativo (ESG): “Aunque se han planteado preguntas válidas sobre ESG, es probable que las empresas comprendan y aborden sus externalidades. se vuelven esenciales para mantener su licencia social”. La tecnología de inteligencia artificial (IA) es un gigante de una externalidad que influye cada vez más en cómo se otorga o no la licencia social. Afortunadamente, en medio de la desconfianza pública generalizada hacia la inteligencia artificial, el uso de la tecnología blockchain para el gobierno de la IA puede ayudar profundamente a las empresas que desean generar confianza pública en su uso responsable de esta tecnología y, a su vez, licencia social.
Uso de blockchain para la gobernanza de la IA
En pocas palabras, el uso de la tecnología blockchain para registrar inmutablemente todas las decisiones tomadas sobre un modelo de IA o aprendizaje automático (ML) es un paso importante hacia la transparencia, un precursor crítico de la confianza. Este uso de blockchain también permite la auditabilidad para ayudar aún más a establecer la confianza. Estos principios están en el corazón de un modelo de gobierno de IA construido alrededor de un estándar de desarrollo de modelo e IA corporativo, y reforzado por la tecnología blockchain.
Desarrollar un modelo de toma de decisiones de IA es un proceso complejo que comprende innumerables decisiones incrementales. Estos incluyen las variables del modelo, el diseño del modelo, los algoritmos, los datos de entrenamiento y prueba utilizados, la selección de características, las características latentes sin procesar del modelo, las pruebas de ética y las pruebas de estabilidad. También incluye a los científicos que construyeron diferentes partes de los conjuntos de variables, participaron en la creación de modelos y realizaron pruebas de modelos. Tal como lo permite la tecnología blockchain, la suma y el registro total de estas decisiones brinda la visibilidad necesaria para gobernar de manera efectiva los modelos internamente de acuerdo con los estándares definidos por la empresa, atribuir responsabilidad y satisfacer los requisitos normativos inminentes.
Pasos para codificar la rendición de cuentas
Antes de que blockchain se convirtiera en una palabra de moda, comencé a implementar un enfoque de gestión de modelos analíticos en mi organización de ciencia de datos. En 2010 instituí un proceso de desarrollo centrado en un documento de seguimiento analítico (ATD). Este enfoque detalló el diseño del modelo, los conjuntos de variables, los científicos asignados, los datos de entrenamiento y prueba, los criterios de éxito y las pruebas de ética/robustez. El ATD divide todo el proceso de desarrollo en tres o más sprints ágiles, con revisiones y aprobaciones formales en cada etapa de cumplimiento.
Desde entonces, he hecho de blockchain el eje del ATD; es el mecanismo utilizado para codificar el desarrollo de modelos analíticos y de ML al asociar una cadena de entidades, tareas de trabajo y requisitos con cada modelo individual, incluidas las comprobaciones de prueba y validación. La tecnología Blockchain esencialmente registra una instancia inmutable del contrato entre mis científicos de datos, gerentes y yo que describe:
- cual es el modelo
- Los objetivos del modelo
- Cómo construiríamos ese modelo, incluido el algoritmo ML prescrito
- Áreas que el modelo debe mejorar, por ejemplo, una mejora del 30% en el fraude de tarjeta de crédito card not present (CNP) a nivel de transacción
- Los grados de libertad que tienen los científicos para resolver el problema y los que no.
- Reutilización de fragmentos de código de modelos y variables confiables y validados
- Requisitos de datos de entrenamiento y prueba
- Pruebas y procedimientos éticos de IA
- Ensayos de robustez y estabilidad
- Pruebas de modelos específicos y listas de verificación de validación de modelos
- Científicos analíticos específicos asignados para construir las variables, los modelos, entrenarlos y aquellos que validarán el código, confirmarán los resultados, realizarán pruebas de las variables del modelo y la salida del modelo.
- Criterios de éxito específicos para el modelo y segmentos de clientes específicos
- Sprints analíticos específicos, tareas y científicos asignados, y se cumplieron las revisiones/aprobaciones formales de los requisitos de los sprints.
Como puede ver, el ATD informa un conjunto de requisitos muy específicos que están vinculados al estándar de IA de desarrollo de modelos corporativos. Una vez que todos hemos negociado nuestros roles, responsabilidades, plazos y requisitos de la construcción, todos los miembros del equipo firman el ATD como un contrato. Se convierte en el documento mediante el cual definimos todo el proceso de desarrollo del modelo Agile.
Con personas asignadas a cada uno de los requisitos, el equipo luego evalúa un conjunto de garantías existentes, que generalmente son piezas de códigos y modelos variables previamente validados. Algunas variables analíticas se aprobaron en el pasado, otras se ajustarán y otras serán nuevas. Luego, la cadena de bloques registra cada vez que se usa la variable en este modelo, por ejemplo, cualquier código que se adoptó de las tiendas de códigos, se escribió nuevo y los cambios que se realizaron, quién lo hizo, qué pruebas se realizaron y el gerente de modelado que lo aprobó. y mi firma.
Seguimiento granular
Es importante destacar que la cadena de bloques proporciona un rastro de toma de decisiones. Muestra si una variable es aceptable, si introduce un sesgo en el modelo o si la variable se utiliza correctamente. La cadena de bloques no produce solo una lista de verificación de resultados positivos. Registra todo el proceso de construcción de estos modelos, incluidos sus errores, correcciones y mejoras.
Este enfoque brinda un alto nivel de confianza de que nadie ha agregado una variable al modelo que tenga un desempeño deficiente o introduzca alguna forma de sesgo. Asegura que nadie usó un campo incorrecto en su especificación de datos o cambió las variables validadas sin permiso y validación. Sin el proceso de revisión crítica que brinda ATD y ahora blockchain para mantenerlo auditable, mi organización de ciencia de datos podría introducir inadvertidamente un modelo con errores, particularmente a medida que estos modelos y los algoritmos asociados se vuelven cada vez más complejos.
Además, el sistema blockchain garantiza que se realicen, revisen y aprueben los estándares corporativos para las pruebas de ética y estabilidad. El proceso captura y codifica qué relaciones se deben monitorear cuando el modelo está en producción, para cumplir con los estándares de IA responsable.
Los viajes de desarrollo transparentes dan como resultado menos sesgos
La superposición del estándar de desarrollo del modelo corporativo en la cadena de bloques le da al modelo analítico su propia entidad, vida, estructura y descripción. El desarrollo del modelo se convierte en un proceso rigurosamente organizado; se puede producir documentación detallada para garantizar que todos los elementos hayan pasado por la revisión adecuada y que las decisiones del modelo estén libres de sesgos. Estos pasos se revisarán mientras el modelo está en producción, proporcionando un marco de monitoreo de IA esencial para la fase operativa de la gobernanza del modelo de IA. Estos activos informan los requisitos de observabilidad y seguimiento cuando el modelo se utiliza finalmente, necesarios para mantener la confianza en su toma de decisiones.
En resumen, blockchain permite que los modelos complejos de IA se vuelvan transparentes y auditables. Estos son factores críticos para hacer que la tecnología de IA sea responsable y confiable, un paso esencial en la construcción de sistemas de gobierno de IA que puedan renovar, en lugar de erosionar, la licencia social de las empresas.
Sobre el Autor
Scott Zoldi es director de análisis de FICO y es responsable del desarrollo analítico de las soluciones tecnológicas y de productos de FICO. Mientras estuvo en FICO, Scott ha sido responsable de la creación de más de 110 patentes analíticas, con 71 otorgadas y 46 pendientes. Scott participa activamente en el desarrollo de nuevos productos analíticos y aplicaciones de análisis de Big Data, muchos de los cuales aprovechan las nuevas innovaciones analíticas de transmisión, como el análisis adaptativo, la creación de perfiles colaborativos y el análisis de autocalibración. Scott se centró más recientemente en las aplicaciones de transmisión de análisis de autoaprendizaje para la detección en tiempo real de ataques de seguridad cibernética. Scott es miembro de dos juntas directivas, Software San Diego y Cyber Center of Excellence. Scott recibió su Ph.D. en física teórica y computacional de la Universidad de Duke.
Relacionado
