Utilizar blockchain para generar confianza en la IA

En un periodo de tiempo notablemente corto, organizaciones de todos los sectores han desplegado la inteligencia artificial (IA) para tomar decisiones que afectan a la vida cotidiana de las personas. Dado que la IA puede caracterizarse como "un espejo que nos refleja nuestros prejuicios y defectos morales", a veces esta práctica da lugar a errores desafortunados e incluso trágicos. Y el sesgo es sólo una de las múltiples razones por las que la IA se considera una "caja negra" con un problema de confianza. El año pasado, Pew Research descubrió que el 52% de los estadounidenses están más preocupados que entusiasmados con la IA en la vida cotidiana, frente a sólo un 10% que dicen estar más entusiasmados que preocupados. Está claro que la IA tiene que demostrar que es una tecnología digna de confianza. Para ello, las empresas que utilizan la IA deben garantizar la interpretabilidad, auditabilidad y aplicabilidad de las decisiones que toman estos modelos analíticos. La interpretabilidad permite comprender la tecnología. La auditabilidad permite la rendición de cuentas. Por último, la aplicabilidad aplaca las dudas, dejando la confianza a su paso. Si las organizaciones quieren obtener beneficios empresariales reales de sus inversiones en IA, los clientes tienen que confiar en ella. La desconfianza social sistémica en la IA sólo podrá disolverse cuando puedan responderse las preguntas sobre el funcionamiento de esta tecnología -de clientes, reguladores y otras partes apropiadas-. El uso de la rendición de cuentas basada en blockchain proporciona un camino alcanzable y operativo hacia la rendición de cuentas y la exigibilidad. En FICO, estamos utilizando la tecnología blockchain para fomentar la confianza de los consumidores y del sector financiero en general en la IA. Blockchain crea un registro inmutable de cada aspecto del desarrollo del modelo de IA, y garantiza que cada acción realizada se adhiere a los requisitos y estándares corporativos para una IA responsable. En lugar de señalar desconfianza en los científicos de datos, un sistema blockchain para la gestión de modelos de IA ilustra que la confianza no es una cuestión personal: hay una razón por la que las cosas importantes de la vida tienen contratos. La cadena de bloques no sirve para señalar culpables; está diseñada para mantener a todo el mundo honesto, eficiente, seguro y conforme a las normas. Con unas estructuras adecuadas de gobernanza y rendición de cuentas, la innovación en IA dispone de un espacio seguro y abierto para prosperar. Este artículo presenta un estudio de caso sobre cómo FICO llegó a adoptar la gestión del desarrollo de modelos de IA basada en blockchain, cómo beneficia al negocio y cómo otras organizaciones pueden adoptar y beneficiarse de este enfoque. Cuando blockchain se encontró con la IA En 2021, el equipo de ciencia de datos de FICO responsable de la IA y la innovación analítica comenzó a utilizar blockchain para la gobernanza del desarrollo de modelos, un movimiento que desde entonces ha proporcionado un valor demostrable. Este equipo proporciona tecnología básica para las plataformas de software de FICO, incluidas la detección de fraudes y las soluciones para la gestión de tarjetas de crédito, y está separado de la organización analítica que desarrolla los análisis para la puntuación FICO. Ha descubierto que este enfoque no sólo ha acelerado nuestro tiempo de comercialización con la IA y la innovación analítica, sino que también ha ayudado a mantener los nuevos modelos en producción; blockchain ha reducido los problemas de soporte y las retiradas de modelos en más de un 90%. Lo ha hecho ayudando a automatizar el proceso de control de los detalles de desarrollo de los modelos, que se multiplican rápidamente. Las semillas de este enfoque se desarrollaron a lo largo de más de una década de trabajo, a medida que el equipo se esforzaba por documentar y gestionar la miríada de decisiones incrementales que intervienen en el complejo proceso de desarrollo de un modelo: las variables del modelo, el diseño del modelo, los algoritmos, los datos de entrenamiento y prueba utilizados, las características latentes en bruto del modelo, las pruebas éticas y las pruebas de estabilidad. Este proceso también incluye un enorme elemento humano: los científicos que construyen diferentes partes de los conjuntos de variables, participan en la creación del modelo y realizan las pruebas del mismo. Cada pequeño cambio puede repercutir en el rendimiento del modelo, en su uso responsable y en los resultados de las decisiones. La solución inicial que se le ocurrió al equipo de ciencia de datos fue empezar a utilizar un documento de seguimiento analítico (DSA) para guiar su proceso de desarrollo. Originalmente contenido en un documento Word de varias páginas, este enfoque detallaba cada aspecto de los requisitos, el desarrollo y las pruebas de un modelo. El ATD informaba de un conjunto de requisitos muy específicos vinculados a la norma de desarrollo de modelos de IA de FICO. Una vez negociados todos los elementos de la elaboración, se convirtió en el documento con el que el equipo definió todo el proceso de desarrollo del modelo. Utilizar el ATD supuso un cambio en el juego, pero manejar cientos de voluminosos documentos de modelo ATD y celebrar docenas de reuniones para confirmar la adhesión de cada modelo a la norma generaba demasiados gastos administrativos. Así que, en 2021, FICO puso todo el proceso ATD en una blockchain privada, proporcionando una forma mucho más fácil de crear un rastro inmutable de la toma de decisiones para cada modelo. La blockchain elimina cualquier confusión sobre los requisitos, los algoritmos utilizados y los criterios de éxito que deben cumplirse, ya que todos se comprometen en la cadena antes de que comience el desarrollo. También enlaza permanentemente con los activos que demuestran el cumplimiento de las normas, expone las características latentes y determina si introducen sesgos en el modelo, además de identificar quién trabajó en las características latentes, qué pruebas se hicieron, el responsable que las aprobó y la aprobación de la dirección. Es importante destacar que la blockchain no sólo produce una lista de comprobación de los resultados positivos, sino que también incluye los errores, las correcciones y las mejoras realizadas a lo largo del proceso. Por qué funciona blockchain El DTA ha recorrido un largo camino desde los largos documentos de Word. El enfoque basado en blockchain de FICO abstrae cada tarea en una interfaz fácil de usar que se integra en el trabajo diario de los científicos de datos. Un científico inconformista que no quiera utilizar este método, simplemente no puede - comprometer cada decisión de desarrollo a la blockchain es simplemente la forma en que se hace el trabajo, y un requisito para que los modelos sean liberados. FICO ha descubierto que el valor empresarial del registro inmutable de blockchain es enorme. Conseguimos coherencia en una gran organización global de ciencia de datos; el desarrollo de modelos en cientos de activos analíticos de producción cada año es uniforme, lo que minimiza la confusión y el despilfarro. Reducir el despilfarro es importante, dados los altísimos costes de oportunidad de la innovación perdida y los costes muy tangibles del talento para el desarrollo de la IA y los recursos informáticos relacionados. Es un secreto a voces en los servicios financieros que sólo una fracción de los modelos de IA desarrollados internamente se pone en producción porque nadie está muy seguro de lo que contienen o de cómo funcionarán. Una encuesta realizada en 2019 por McKinsey & Co. en el sector de los servicios financieros reveló que sólo entre el 25% y el 36% de los encuestados habían desplegado la IA en diversos casos de uso dentro de sus empresas. Anecdóticamente, hemos visto mejorar esas cifras, pero en todo el sector, los activos de IA no utilizados todavía se traducen en cientos de millones de dólares de esfuerzo desperdiciado. En última instancia, FICO sabe por qué funciona blockchain debido a lo que no sucede. Los modelos no se retienen de la producción debido a la incertidumbre sobre su riesgo, o a la falta de artefactos que demuestren la adhesión a las normas de IA responsable de la empresa. Los científicos no aprovechan inadvertidamente los modelos de producción para proyectos de investigación o, peor aún, liberan experimentos de ciencia de datos "en la naturaleza". ¿Y ese científico de datos inconformista? No se pierde tiempo en rechazar el trabajo que se sale de la norma, intencionadamente o no; la blockchain mantiene a los equipos cohesionados, en la norma y cumpliendo los requisitos, produciendo eficientemente modelos que cumplen las normas de calidad y seguridad de FICO. Además de ver cómo los problemas de soporte de los modelos descienden casi a cero, conseguimos una adhesión absoluta a las normas de desarrollo de modelos de IA y su cumplimiento, incluso a gran velocidad. Todo esto es la clave operativa para generar confianza en la IA. Ayuda a FICO a producir resultados que cumplen al 100% con nuestros estándares, respaldados con activos duros de prueba de trabajo. Esto significa que la experiencia de los consumidores con estas herramientas es coherente con nuestras propias normas de IA responsable. Cómo hizo FICO que blockchain funcionara para la IA Poner en marcha este sistema no era un problema tecnológico, ante todo. Era un problema de organización y de personas. A solucionar eso le siguieron los obstáculos tecnológicos y de diseño que había que superar, por supuesto, pero la primera parte fue la más difícil. Esto es lo que aprendimos a través de este proceso. Las normas primero, la tecnología después Sin una norma de desarrollo de modelos de IA a la que adherirse, utilizar blockchain para registrar cada detalle del desarrollo de modelos es inútil. Por desgracia, este primer paso puede ser la parte más difícil del viaje: Para establecer normas corporativas en torno a la IA responsable, habrá que tomar decisiones difíciles sobre lo que se hará y lo que no, incluidas las aprobaciones de qué algoritmos se pueden utilizar y cuáles no, la interpretabilidad de los modelos, las metodologías éticas de prueba de la IA y el cumplimiento de los requisitos normativos. En FICO, esto implicó cierta evangelización en torno al objetivo de garantizar resultados analíticos coherentes para todos los clientes, independientemente del arte de los científicos de datos individuales, y el nombramiento de un comité que definiría las normas de desarrollo y educaría a todo el equipo en los métodos asociados. La facilidad de uso no es negociable En FICO, conseguir que los científicos de datos se hicieran a la idea de utilizar el sistema no fue tan difícil. La mayoría de ellos apreciaron la estructura que ofrece, la alineación automática de su trabajo con los estándares de desarrollo de modelos de IA y los enfoques formalizados de la IA responsable, todo lo cual les protege a ellos y a sus productos de trabajo. Lo que resultó difícil fue desarrollar la interfaz de usuario (UI) entre los científicos de datos y la blockchain. El desarrollo de la IU era algo más que averiguar qué campos y botones pulsaría el usuario y cuándo; tenía que ayudar a los científicos de datos a hacer el cambio mental de un desarrollo lineal en cascada centrado en el individuo a una mentalidad de equipo en la que múltiples desarrolladores y probadores pudieran hacer su trabajo y validar el de los demás de forma eficiente y automatizada. En última instancia, invertimos mucho tiempo y recursos para facilitar a los científicos el uso del sistema de forma que se enfatizara el compromiso intelectual en lugar de la engorrosa supervisión, integrando una interfaz de usuario hábil en la forma de hacer el trabajo. Para lograr ese estado final, las organizaciones deben prepararse para pasar por un proceso formal con requisitos empresariales y documentos de requisitos del producto (BRD y PRD). Esto permite alinear las ideas y opiniones de los diseñadores de software sobre cómo interactuarán los usuarios con el sistema y cómo funcionará el proceso. Era importante garantizar que todo el mundo se sintiera escuchado y que el desarrollo no comenzara hasta que las expectativas sobre la forma, la funcionalidad y el funcionamiento estuvieran alineadas. Y lo que es más importante para la adopción, la fricción no era un resultado aceptable, lo que forzó la creatividad en el desarrollo del software desde el principio. Por ejemplo, tuvimos que equilibrar que los científicos de datos no necesitaran o no quisieran conocer la tecnología blockchain con el uso obligatorio de la herramienta basada en ella. Del mismo modo, necesitábamos informes instantáneos sobre el estado de todas las tareas de desarrollo y comprobación de modelos sin exigir a los científicos de datos que elaboraran informes. Itere en las victorias rápidas A continuación, prepárese para hacer pruebas de concepto de los primeros diseños para conseguir que funcione una versión rápida del sistema, y empiece a navegar por casos de uso como el establecimiento de requisitos, actualizaciones de desarrollo, actualizaciones de pruebas, actualizaciones de validación, rechazo/aprobación y cómo restablecer el estado de los requisitos cuando se rechaza un modelo. Habría que centrarse mucho en cómo se mide la integridad, ya que ningún modelo se publica hasta que el desarrollador, el probador y el validador cumplen todos los requisitos: ¿cómo se analizará eso en la blockchain y se presentará a los stakeholder? Mantener todo junto, para siempre Ninguna aplicación analítica está realmente hecha; evoluciona constantemente, y los procesos (en particular los de las dependencias) no pueden olvidarse. Así que, como punto técnico clave, es importante pensar en los repositorios que mantendrán los grandes activos de IA en un almacenamiento alternativo, con hashes, sumas de comprobación y otros mecanismos que confirmarán que el activo referenciado en la cadena de bloques es apropiado e incorrupto. Cualquier almacenamiento alternativo debe ser supervisado activamente y se deben emitir alertas si hay actualizaciones o migraciones a otras pilas tecnológicas dentro de la organización. El mantenimiento golpea diferente Por último, la realidad global de un sistema de gestión de desarrollo de modelos de IA basado en blockchain es que se trata de software, un software con requisitos de gestión de la seguridad y la vulnerabilidad, mantenimiento y actualizaciones. Los equipos de software de IT gestionan estas cuestiones todos los días para las aplicaciones empresariales, pero con las aplicaciones de desarrollo de IA, los desarrolladores de software necesitan cultivar nuevos conocimientos o asociarse con otros recursos para conseguirlo. - - - La confianza puede ser esquiva cuando se trabaja con IA. Es comprensible que estas nuevas y potentes herramientas tengan que superar un listón muy alto. Pero la desconfianza sistémica en la IA sólo puede disiparse cuando los clientes, los reguladores y otras partes apropiadas confíen en cómo funciona la tecnología y en que pueden confiar en que los modelos específicos funcionen como se supone que deben hacerlo. Eso es lo que puede proporcionar este enfoque basado en blockchain: responsabilidad, transparencia y aplicabilidad. Al mantener a todo el mundo honesto, da a los usuarios motivos para confiar en estas nuevas y potentes herramientas.

Utilizar blockchain para generar confianza en la IA

Resumen.

Partner Center