Cómo implantar la IA - de forma responsable

Cuando el Parlamento de la UE aprobó la Ley de Inteligencia Artificial (IA) a principios de 2024, Deutsche Telekom, uno de los principales proveedores alemanes de telecomunicaciones, se sintió confiada y preparada. Desde que estableció sus principios de IA responsable en 2018, la empresa había trabajado para integrar estos principios en el ciclo de desarrollo de sus productos y servicios basados en la IA. "Anticipamos que las regulaciones de la IA estaban en el horizonte y animamos a nuestros equipos de desarrollo a integrar los principios en sus operaciones por adelantado para evitar ajustes disruptivos más adelante. La IA responsable se ha convertido ahora en parte de nuestras operaciones", explicó Maike Scholz, responsable de Cumplimiento y Ética Empresarial del Grupo en Deutsche Telekom. Lamentablemente, nuestra investigación sugiere que tales medidas proactivas son la excepción más que la regla. Aunque la ética de la IA ocupa un lugar destacado en la agenda de muchas organizaciones, traducir los principios de la IA en prácticas y comportamientos está resultando más fácil de decir que de hacer. Sin embargo, con las fuertes sanciones económicas que están en juego en caso de incumplimiento, hay poco tiempo que perder. ¿Qué deben hacer los líderes para redoblar sus iniciativas de IA responsable? Para encontrar respuestas, nos pusimos en contacto con organizaciones de diversos sectores, cada una en una fase diferente de la implantación de la IA responsable. Aunque los ingenieros y científicos de datos suelen asumir la mayor parte de la responsabilidad desde la concepción hasta la producción de los ciclos de vida de desarrollo de la IA, los líderes no técnicos pueden desempeñar un papel clave para garantizar la integración de la IA responsable. Hemos identificado cuatro movimientos clave -traducir , integrar, calibrar y proliferar- que los líderes pueden realizar para garantizar que las prácticas de IA responsable se integren plenamente en normas operativas más amplias. Movimiento nº 1: Traducir los principios de alto nivel en orientaciones prácticas Muchas organizaciones elaboran una carta ética de la IA, pero a menudo tienen dificultades para aplicar los principios de la IA en sus operaciones diarias. Dado que el 79% de los trabajadores del sector de la tecnología afirman necesitar recursos prácticos que les ayuden a abordar las cuestiones éticas, estos principios deben traducirse en orientaciones prácticas. Es un proceso que lleva tiempo. Los principios autovinculantes de Deutsche Telekom se comprometían a un uso responsable, solidario, transparente y digno de confianza de la IA. Sin embargo, la empresa pronto se dio cuenta de que estos principios eran demasiado abstractos para sus desarrolladores y se dispuso a traducirlos en términos más procesables y operativos. En 2021, la empresa dio a conocer las directrices de ingeniería y uso de la IA, que documentaban las mejores prácticas, métodos y consejos para integrar los principios en los procesos de desarrollo de la IA. Estas directrices proporcionaban acciones específicas que debían llevarse a cabo antes, durante y después del lanzamiento de un proyecto de desarrollo de IA, destacando las consideraciones esenciales para los propietarios de las empresas, los directores de proyectos, los equipos de productos y los equipos operativos. Disponibles tanto en alemán como en inglés, cada directriz se documentó claramente y se hizo accesible a todos los empleados. Del mismo modo, el proceso de integración de la ética de la IA en Thomson Reuters, una empresa global de contenidos y tecnología, fue fundamental para la forma en que construyó y aplicó la tecnología de la IA. Un aspecto crítico de este viaje implicó la traducción efectiva de los principios éticos de los datos y la IA, que hacían hincapié en la confianza, en un programa integral de gobernanza de los datos y la IA. La empresa hizo hincapié en la naturaleza reflexiva de este proceso que implicaba plantearse preguntas como: "¿Cuáles son los bloques de construcción y procesos fundamentales?" y "¿Qué expectativas deben establecerse para cada empleado?" Acciones clave: Facilitar la alineación Mantenga unidos a los equipos: Los equipos de cumplimiento y digitales han tenido a menudo una relación inestable. El cumplimiento es visto como un impedimento para la innovación digital, mientras que los equipos digitales son vistos como inconformistas que buscan riesgos. El éxito de la alineación entre ambos depende a menudo de la estructura de gobierno. En Thomson Reuters, el equipo de ética trabajaba en estrecha colaboración con el equipo de gobernanza de datos y modelos. Los dos equipos cubrían diferentes aspectos del mismo tema, como la forma de garantizar que los datos se utilizaran de forma responsable y segura en toda la organización. Trabajar en estrecha colaboración puso de manifiesto la importancia de la ética digital como aspecto fundamental del proceso de desarrollo de la IA. Facilitar diálogos abiertos: Crear diálogos abiertos es tan importante como establecer un sistema de gobernanza bien estructurado. Descubrimos que las organizaciones destacaban cuando participaban activamente en los debates sobre la complejidad del despliegue ético de la IA. Tomemos como ejemplo la iniciativa de Deutsche Telekom de trasladar el principio de transparencia a los anuncios de servicio al cliente aprovechando los chatbots de IA. El departamento de atención al cliente expresó su preocupación por la posibilidad de que el cliente se desvinculara si era recibido con mensajes formales como "Hola, soy el asistente de servicio digital de Deutsche Telekom". Esta preocupación dio lugar a extensas deliberaciones entre los departamentos de cumplimiento, ética y servicio, que finalmente desembocaron en la creación de un grupo de trabajo para idear una solución adecuada. Medida nº 2: Integrar las consideraciones éticas en los procesos de diseño y desarrollo de la IA El siguiente paso es integrar las consideraciones éticas en la rutina de desarrollo de la IA. Para muchos proyectos de IA, los problemas éticos surgen desgraciadamente después de la implantación. Para evitar estos problemas, muchas organizaciones han adoptado un enfoque proactivo, abordando las preocupaciones éticas durante la fase de desarrollo. Descubrimos que las organizaciones, especialmente aquellas con una sólida gobernanza de los datos, aprovechaban sus procesos de privacidad existentes para incorporar principios éticos de IA adicionales. Este enfoque les permitió basarse en procedimientos internos probados y adaptarlos en respuesta a los cambiantes requisitos normativos y a las expectativas del mercado. Al operar en un sector altamente regulado, el gigante bancario español CaixaBank había establecido procedimientos de privacidad sólidos para cualquier nuevo desarrollo tecnológico. En 2020, el regulador español introdujo nuevos requisitos para el uso responsable de los modelos de IA que aprovechan los datos personales, incluidos más de 100 controles relacionados con la transparencia, la explicabilidad, la imparcialidad (control de sesgos) y la solidez (precisión). Para cumplir con esta nueva normativa, CaixaBank adaptó su metodología de privacidad y sus procesos de validación existentes para el desarrollo de modelos de IA. Como describieron fuentes internas: "Seguimos nuestros procesos de privacidad para la ética de la IA para aprovechar todo lo que la organización ha construido hasta ahora." Acciones clave: Navegar y apoyar Adaptarse a la relevancia operativa: Las organizaciones tienen la tarea de implementar marcos que no sólo se adhieran a las normas mundiales, sino que también resuenen con sus realidades operativas únicas. Un estudio de 2019 identificó 106 herramientas y metodologías, y este número sigue creciendo. Los líderes pueden ayudar a cribar este panorama abarrotado para garantizar que las herramientas y los marcos de la IA sean a la vez exhaustivos y pertinentes desde el punto de vista operativo. Por ejemplo, cuando SwissPost, el servicio postal nacional de Suiza, se dio cuenta de que un proceso de autocertificación que estaban poniendo a prueba se solapaba significativamente con sus requisitos de certificación ISO preexistentes. Respondieron desarrollando un proceso racionalizado que incorporaba únicamente preguntas no relacionadas con la ISO. Sophia Ding, especialista en ética digital e IA, explicó: "Reconocimos la importancia de personalizar las herramientas para adaptarlas a las necesidades y contextos organizativos específicos." Proporcionar apoyo continuo: El viaje no termina con la configuración inicial de los guardarraíles éticos; requiere apoyo y supervisión continuos. Las organizaciones pueden establecer mecanismos de apoyo continuo para responder a las preguntas que vayan surgiendo. Mediante la creación de una cuenta de correo electrónico centralizada, Deutsche Telekom invitó a personas y equipos a enviar consultas sobre la aplicación de la ética en la IA. El equipo de cumplimiento también realizó consultas sobre los proyectos, proporcionó asesoramiento y, en algunos casos, emitió certificaciones éticas internas. Estas certificaciones ayudaron a los propietarios de los productos a evaluar si sus proyectos de IA cumplían las normas éticas. Para garantizar aún más la adhesión, el equipo realizó auditorías aleatorias, seleccionando el 10% de todos los proyectos de IA cada año para revisar el cumplimiento de las directrices éticas. Estas acciones ayudaron a garantizar que la integración de la ética en la IA no fuera una tarea puntual, sino un proceso continuo. Medida nº 3: Calibrar las soluciones de IA en respuesta a las condiciones locales y las tecnologías cambiantes. En las fases de prueba y evaluación, el objetivo principal es verificar que la solución de IA cumple los objetivos y requisitos originales. Un aspecto esencial de la fase de calibración es garantizar que la solución siga siendo relevante para las aplicaciones del mundo real. Con el tiempo, puede producirse una divergencia entre los escenarios para los que se creó la solución de IA y la evolución de las situaciones del mundo real. Es necesario un seguimiento continuo para detectar cualquier cambio y adaptarse a él. Sin embargo, un reto importante destacado por muchas organizaciones fue la capacidad limitada para la supervisión continua tras la implantación. Para abordar este problema, se pueden emplear varias tácticas. En primer lugar, la responsabilidad de la supervisión activa de la ética de la IA debe distribuirse por toda la organización entre los equipos de despliegue y las comunidades de usuarios. Este enfoque facilita el diálogo y la comunicación continuos, garantizando que cualquier problema se identifique y resuelva con prontitud. En segundo lugar, es vital priorizar los casos de uso de alto riesgo para prestarles una atención más centrada. Acciones clave: Mantener el impulso Supervisar y ajustar las soluciones de IA en respuesta a las condiciones locales y a las tecnologías cambiantes requiere importantes inversiones en tiempo y recursos, sobre todo en personal y en la aplicación de procedimientos de "alerta roja". Posicionar la IA responsable como un impulsor de valor: Organizaciones líderes que alinean las consideraciones éticas con los objetivos empresariales. La aseguradora suiza Die Mobiliar ejemplifica este enfoque. En lugar de considerar la ética de la IA como un proceso pesado lleno de listas de comprobación, la empresa se centró en encontrar un equilibrio óptimo entre la estrategia empresarial, la privacidad de los datos y la ética de la IA. Para lograrlo, Die Mobiliar empleó un equipo interdisciplinar, que incluía representantes de cumplimiento, seguridad, ciencia de datos y IT, que se reunían regularmente para explorar esta sinergia. Aprovechar las asociaciones externas: Colaborar con expertos externos, instituciones académicas y grupos industriales puede aportar nuevas perspectivas y puntos de vista que informen sobre el ajuste de las soluciones de IA. La Universidad de Salud y Ciencias de Oregón utilizaba cada vez más herramientas de IA para mejorar la investigación sanitaria, la atención a los pacientes y la administración hospitalaria. La Directora de Información, Bridget Barnes, destacó la importancia de adoptar una visión amplia de la ética de la IA: "No sólo nos estamos centrando internamente, sino que también nos estamos asociando con otros centros médicos académicos de todo Estados Unidos. También estamos observando el trabajo de los esfuerzos del gobierno federal y estatal sobre las normas de la IA para enriquecer aún más nuestros aprendizajes." Medida nº 4: Prolifere las prácticas y los aprendizajes al resto de la organización. En el panorama en rápida evolución de la IA, fomentar un entorno de aprendizaje e intercambio puede mejorar la concienciación y capacitar a los empleados para contribuir al desarrollo responsable de la IA. Sin embargo, las organizaciones también se enfrentan al reto a corto plazo de actualizar a la plantilla sobre los avances de la IA que afectan a la empresa en la actualidad. La empresa farmacéutica Bristol-Meyers-Squibb (BMS) creó una comunidad autoorganizada llamada "Colectivo IA". Se reunían regularmente en intervalos de 4 a 6 semanas para intercambiar puntos de vista e ideas sobre cómo hacer avanzar los proyectos de IA dentro de la empresa, discutir las últimas tendencias, puntos de referencia, mejores prácticas y casos de uso intrigantes. "El colectivo es una iniciativa ascendente que fomenta la innovación a través del aprendizaje entre iguales y de conversaciones dirigidas por expertos. Creemos que esto es más eficaz que un enfoque descendente. Da a los expertos más autonomía y oportunidad de crecer", afirma Miguel Crespo, responsable de Riesgos Digitales e IT. Acciones clave: Priorizar y ampliar Lleve a cabo un análisis de los stakeholder y una priorización de roles: Cuando los recursos son limitados y la necesidad de un impacto inmediato es alta, centrarse en los roles clave que más influyen en el desarrollo de la IA se convierte en algo crucial. Un primer paso práctico es realizar un análisis de las partes interesadas para identificar los roles con mayor impacto en el desarrollo de la IA y su aplicación ética. Al analizar su panorama de stakeholders, SwissPost identificó a los gestores de proyectos con capacidades analíticas como fundamentales para el éxito de sus iniciativas de IA. En consecuencia, la organización tomó la decisión estratégica de dar prioridad a la formación en ética de la IA para estas personas clave, garantizando que los más implicados en la dirección de los proyectos de IA estén equipados con los conocimientos necesarios para navegar eficazmente por las consideraciones éticas. Crear un conjunto de herramientas de ampliación: Proporcionar recursos prácticos para ayudar a compartir las prácticas responsables de la IA puede lograrse mediante el desarrollo de un conjunto de herramientas de ampliación de la IA responsable. La empresa industrial francesa Thales creó un conjunto de herramientas buscables y adaptables que las distintas divisiones de la organización podían utilizar para aplicar prácticas de IA responsable. Este conjunto de herramientas contenía información sobre las prácticas de IA responsable, consejos de aplicación, material colateral de comunicación y estudios de casos diseñados para ayudar a los equipos locales de IA. También ofrecía consejos sobre cómo adaptar las prácticas de IA responsable a las necesidades locales. El kit de herramientas definía un conjunto básico de prácticas que pueden adaptarse para satisfacer las necesidades locales. - - - Aunque muchas organizaciones han avanzado en el desarrollo de los principios de la IA, el verdadero reto consiste en integrar estos principios en el tejido de las operaciones diarias. Los líderes, en particular los que desempeñan funciones no técnicas, desempeñan un papel decisivo en este proceso, abogando por recursos prácticos, fomentando una cultura que valore la IA ética y garantizando que las prácticas de IA responsables sean un aspecto fundamental de la toma de decisiones.

Cómo implantar la IA - de forma responsable

Resumen.

Partner Center