basado en cadena de bloques La gobernanza de la IA es un enfoque novedoso para garantizar el uso ético, transparente y responsable de inteligencia artificial (IA) sistemas. Al aprovechar la tecnología de contabilidad distribuida de blockchain, el gobierno de IA puede registrar, verificar y auditar el datosdecisiones y acciones de modelos de IA de forma descentralizada y (casi) inmutable.
Esto puede ayudar a generar confianza entre las partes interesadas de las aplicaciones de IA, como desarrolladores, usuarios, reguladores y la sociedad en general.
Este artículo explora qué significa el gobierno de IA basado en blockchain, por qué es importante y cómo se puede utilizar para formar la columna vertebral de mecanismos transparentes y auditables para sistemas de IA.
También se sumerge en tres de los casos de uso más prometedores para tecnologías de contabilidad distribuida en la construcción de sistemas de IA: toma de decisiones, responsabilidad y consideración ética.
Por qué es necesaria la gobernanza basada en blockchain en los sistemas de IA
La inteligencia artificial es una potencia que continúa transformando todos los aspectos de nuestras vidas, incluido el enfoque organizacional, las iniciativas corporativas, sociales y de gobierno (ESG). Por otro lado, la gobernanza de la IA es la formulación de políticas y lineamientos para gestionar éticamente la inteligencia artificial.
Sin regulación, puede dar lugar a una infracción de la privacidad, inclinación propagacióno toma de decisiones sin control con consecuencias de largo alcance. El lanzamiento de ChatGPT por IA abierta permitió tanto a los entusiastas como a los críticos de la inteligencia artificial generativa interactuar con la tecnología.
La mayoría de la población mundial (aquellos que han interactuado con la IA) cree que la tecnología puede transformar la economía global mejorando la eficiencia, reduciendo costos y fomentando un mejor proceso de toma de decisiones. Sin embargo, algunos expertos, como el anterior Google el científico Geoffrey Hinton (apodado el «Padrino de la IA»), están mucho más centrados en las posibles consecuencias de la tecnología.
Hinton, junto con un grupo notable de 350 personas, incluidos el director ejecutivo de OpenAI, Sam Altman y Elon Musk, escribió una carta abierta alertando al mundo sobre los posibles peligros de la IA. Expresaron colectivamente la urgencia de ralentizar momentáneamente la evolución de la IA, lo que permitió suficiente tiempo para redactar las políticas necesarias para supervisar esta tecnología en rápida expansión.
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.
En medio de este escepticismo público hacia la inteligencia artificial, la utilización de la tecnología blockchain para la gobernanza de la IA podría hacer que la tecnología sea más segura y ética y ayudar significativamente a las empresas a fomentar la confianza pública en su uso consciente de la IA.
Uso de Blockchain en la gobernanza de la IA
A medida que el mundo hace la transición para adaptarse a la IA generativa, las organizaciones y los gobiernos deben asegurarse de abordar las diversas inquietudes que se han planteado, incluidas ético y temores sociales.
Es esencial construir sistemas de IA que sean justos y responsables y promuevan la transparencia. Deben abordarse cuestiones difíciles como la forma de proteger la propiedad intelectual (PI) empresarial, garantizar la privacidad y la seguridad de los datos utilizados por los modelos de IA y cómo evitar el uso indebido o el abuso de la IA por parte de actores malintencionados.
La tecnología Blockchain, por otro lado, es un libro mayor distribuido que permite aplicaciones seguras, transparentes y (relativamente) a prueba de manipulaciones. La tecnología Blockchain puede brindar una solución a algunos de los desafíos que enfrenta la IA, como la procedencia de los datos, la explicabilidad del modelo, la verificación del cumplimiento y la resolución de disputas.
Al integrar la tecnología de IA y blockchain, se pueden construir marcos más confiables y eficientes para el gobierno de IA para beneficiar a varias industrias y a la sociedad en general. Esencialmente, la aplicación de la tecnología blockchain para documentar permanentemente cada decisión tomada con respecto a una IA o aprendizaje automático (ML) significa un salto significativo hacia la transparencia, un antecedente clave para la confianza.
Tal uso de la implementación de blockchain también permite la audibilidad, lo que refuerza aún más el establecimiento de la confianza. Estos principios son fundamentales para un modelo de gobierno de IA que gira en torno a una IA corporativa y modelo estándar de desarrollo, todo respaldado por la tecnología blockchain.
Construyendo un sistema de IA con tecnología Blockchain
El proceso de construcción de un modelo de decisión de IA es delicado y complejo, y comprende numerosas decisiones incrementales. Por ejemplo, los desarrolladores deben tener en cuenta todas las variables bajo el alcance del modelo, algoritmosel diseño del modelo, los datos de entrenamiento y prueba utilizados, la variedad de características, sin olvidar las características latentes sin procesar del modelo, y las pruebas teniendo en cuenta la ética y la estabilidad.
Estas decisiones incrementales a menudo no se apartan tanto de los científicos que dedicaron su tiempo a construir las diversas partes de los conjuntos de variables, como de aquellos que participaron en la proceso de creación del modelo y realizó pruebas de modelos.
Al aprovechar el poder de la tecnología blockchain, el registro acumulativo de estas decisiones brinda la claridad necesaria para el gobierno interno eficiente de los modelos en línea con los estándares prescritos por las empresas, asigna responsabilidades y cumple con las demandas regulatorias inminentes.
Algunas formas de utilizar la naturaleza casi inmutable de los registros de blockchain en la construcción de sistemas de IA incluyen:
- Modelo de objetivos;
- Cómo se construye el modelo, que abarca el algoritmo de aprendizaje automático;
- Los grados de libertad que tienen los científicos al resolver problemas y los que no;
- Reaplicación de variables confiables, auditadas y verificadas;
- Especificaciones para datos de entrenamiento y prueba;
- Procedimientos y estándares para la IA ética;
- Evaluaciones de robustez y estabilidad;
- Listas de verificación para pruebas y validación de modelos específicos.
Mecanismos de gobernanza basados en blockchain auditables para sistemas de IA
Los sistemas de IA a menudo se ven como «cajas negras» misteriosas que no se pueden examinar para determinar si funcionan de manera correcta y ética. La tecnología Blockchain podría ayudar a resolver este problema integrándola en la base de los sistemas de IA para garantizar la transparencia.
Una infraestructura sólida para la gestión de IA requiere la incorporación de marcos y procedimientos de gobernanza claros y auditables. Asignar rendición de cuentas y responsabilidad a la IA implica exigir transparencia en la gobernanza de toda la organización, que abarque metas y objetivos claros para la Marco de IA.
Estos incluyen roles, deberes y cadenas de mando bien definidos; un equipo diversificado experto en la gestión de infraestructuras de IA; una amplia gama de partes interesadas; y procesos para mitigar los riesgos. Además, es fundamental buscar elementos de gobernanza auditables a nivel del sistema, incluidas las especificaciones técnicas documentadas para el sistema de IA específico, el cumplimiento de las reglamentaciones y el acceso de las partes interesadas a los datos de diseño y operación del sistema.
Si bien esto puede parecer complejo, simplemente significa que la tecnología blockchain se puede incorporar al proceso de construcción. Toma de decisiones Sistemas de inteligencia artificial para hacerlos más auditables y, por lo tanto, más responsables. Todas las decisiones tomadas con respecto al modelo de IA se registrarían en la cadena de bloques y estarían abiertas para que cualquiera las vea y confirme.
Construyendo sistemas éticos de IA con tecnología Blockchain
Sería imposible saber si un modelo de IA sin integraciones de cadena de bloques en sus sistemas de gobierno o mecanismos similares de transparencia de código abierto está actuando de manera ética. Estas integraciones no solo mejorarían la tecnología en sí, sino que también generarían confianza en la comunidad y el público en general.
La construcción de una gobernanza de IA basada en blockchain comienza garantizando que la gobernanza de modelos transparentes sea fundamental para el desarrollo de sistemas de IA éticos que puedan ser auditados por cualquier espectador preocupado por el potencial de los modelos maliciosos.
Con la ayuda de la tecnología de cadena de bloques, el registro completo de estas decisiones se vuelve completamente visible, lo que permite una gestión interna efectiva. gobernancia de modelos, clara atribución de responsabilidad y cumplimiento del inevitable escrutinio regulatorio dirigido a los sistemas de IA.
El desarrollo de modelos respaldados por blockchain podría ser un proceso sistematizado que culmine en la generación de documentación y mecanismos integrales para verificar fácilmente cualquier parte del sistema, afirmando así que todos los componentes han sido sometidos a un escrutinio riguroso para las consideraciones éticas y la toma de decisiones apropiadas.
Dichos componentes pueden examinarse retrospectivamente en cualquier coyuntura, lo que ofrece recursos cruciales para la gobernanza del modelo. En consecuencia, el desarrollo del modelo analítico y procesos de toma de decisiones ser objeto de auditorías.
Esto podría convertirse en un elemento clave para garantizar la responsabilidad de la tecnología de IA, así como de los científicos de datos que la diseñan. Tiene el potencial de ser un paso crucial hacia la eliminación de sesgos, asegurando altos estándares éticos y simplemente mejorando la toma de decisiones de los sistemas vitales de IA.
