La importancia de la IA responsable: ventajas, principios y cumplimiento

Puntos Clave 

• La IA responsable es fundamental para garantizar que los sistemas de IA se desarrollen y utilicen de forma ética y legal. Además de garantizar el cumplimiento, la IA responsable también puede proporcionar ventajas financieras y generar una mayor confianza.
• Para garantizar que la IA se adopte de forma segura y responsable, las organizaciones deben tener en cuenta cómo gestionan sus sistemas de IA los riesgos de privacidad y seguridad, y analizar si cumplen con la ética y la normativa vigente.
• Comprueba que las tecnologías y proveedores de IA que implementas se responsabilizan del desarrollo responsable de la IA mediante certificaciones como la ISO/IEC 42001, la primera norma mundial sobre sistemas de gestión de IA.
• Liferay se compromete a defender los principios de la IA responsable en nuestro propio sistema de gestión de IA (AIMS), tal y como lo valida nuestra certificación ISO/IEC 42001, que proporciona una base sólida para ampliar nuestros esfuerzos en materia de IA de forma responsable y recorrer el panorama en continua evolución de la gobernanza y regulación de la IA.

La importancia de la IA responsable

La Inteligencia Artificial (IA) ha desbloqueado una eficiencia e innovación sin límites en sectores como el financiero, la sanidad, industrial y muchos otros. Sin embargo, la adopción de sistemas de IA requiere que estas herramientas se desarrollen y utilicen de forma ética, segura y protegida. No basta con utilizar la IA, las organizaciones deben utilizarla de forma responsable.

¿Por qué es importante la IA responsable?

A medida que las tecnologías de IA se vuelven más críticas en nuestro día a día, existe una necesidad creciente de impulsar prácticas responsables de IA para gobernar y controlar su uso y desarrollo.

La IA responsable es la práctica de desarrollar y utilizar sistemas de IA de forma legal y ética, de manera que beneficie a la sociedad y minimice el riesgo de consecuencias negativas, según la Organización Internacional de Estandarización.

¿Cuáles son las ventajas de la IA responsable?

Si bien dar prioridad a la IA responsable ayuda a garantizar el cumplimiento de las normativas globales y a mitigar costosos litigios, el avance de la IA responsable también puede:

• Mitigar los sesgos y riesgos potenciales que pueden surgir al aprovechar las soluciones de IA. De hecho, un estudio realizado por PwC reveló que las organizaciones que se dedican a la IA responsable redujeron la frecuencia de incidentes adversos relacionados con la IA hasta en un 50%. Y cuando se produjeron estos incidentes, pudieron recuperar su valor financiero más rápidamente.

• Según el mismo estudio realizado por PwC, estas organizaciones obtuvieron beneficios económicos, ya que lograron unos ingresos un 4% superiores a los de las empresas que solo invirtieron en cumplimiento normativo.

• Generar confianza entre el público y los empleados. Las empresas que invirtieron en IA responsable obtuvieron un 7% más de confianza que sus competidores.

Principios clave para sistemas de IA responsables

¿Cómo se puede garantizar que la IA se adopte y utilice de forma responsable? Comprueba si estos sistemas de IA:

Gestionan los riesgos de privacidad y seguridad

Si no se protegen adecuadamente, los sistemas de IA pueden introducir nuevos riesgos y vulnerabilidades cibernéticas. Por ejemplo, estos son algunos de los principales riesgos que pueden asociarse a la IA generativa:

Los líderes empresariales pueden diseñar enfoques de seguridad de la IA para ayudar a proteger los datos y la privacidad de sus usuarios, lo que incluye realizar evaluaciones de riesgos, confirmar la base legal adecuada, seguir las mejores prácticas de seguridad y proporcionar más protección para los datos confidenciales.

Cumplimiento de la ética de la IA

Las consideraciones éticas relacionadas con la IA incluyen el sesgo y la discriminación, ya que la IA puede perpetuar patrones injustos a partir de datos sesgados o información errónea. Según la UNESCO, los cuatro valores fundamentales que deben guiar el uso ético de la IA son el respeto por el bien de la humanidad, las personas, las sociedades y el medio ambiente. Como dice Satya Nadella, director ejecutivo de Microsoft, “la IA será una parte integral de la solución de los mayores problemas del mundo, pero debe desarrollarse de manera que refleje los valores humanos”.

Por ejemplo, si un equipo de recursos humanos utiliza un algoritmo de aprendizaje automático para identificar a los posibles candidatos, pero este algoritmo de contratación ha identificado que los candidatos seleccionados en el pasado eran predominantemente hombres, es posible que favorezca o dé prioridad únicamente a los candidatos masculinos.

Es fundamental reconocer cómo las prácticas no intencionadas pueden afectar a los modelos de IA y dar lugar a resultados sesgados. El desarrollo responsable de la IA debe incluir la identificación de las fuentes de sesgo, la creación de indicaciones inclusivas y la garantía de la supervisión humana a lo largo de toda la etapa del ciclo de vida de la IA, desde la investigación y el desarrollo hasta la implementación y el mantenimiento.

Además, la IA se ha utilizado de forma maliciosa, como en los deepfakes, lo que pone en tela de juicio las cuestiones éticas sobre lo que los usuarios han consentido o no. Los deepfakes no solo engañan y comprometen la imagen personal, sino que también pueden suponer una grave amenaza para la seguridad nacional si se utilizan para incitar a discusiones políticas o para obtener beneficios, según el Dr. Tim Stevens, del Grupo de Investigación en Ciberseguridad del King’s College de Londres.

Como dice Sri Amit Ray en su libro Ethical AI Systems: Frameworks, Principles, and Advanced Practices (Sistemas de IA éticos: marcos, principios y prácticas avanzadas), “la ética es la brújula que guía a la inteligencia artificial hacia resultados responsables y ventajosos. Sin consideraciones éticas, la IA se convierte en una herramienta de caos y daño”.

Cumplimiento normativo

El cumplimiento normativo de la IA es un proceso que implica garantizar que todos los sistemas basados en IA cumplan con las leyes y normativas aplicables. Si bien el cumplimiento es necesario para proteger la seguridad y la privacidad de los ciudadanos, también ayuda a las organizaciones a evitar posibles riesgos legales y financieros.

La gobernanza y la normativa de la IA siguen estando rezagadas en comparación con el ritmo exponencial de la innovación, pero una de las legislaciones más importantes es la Ley de Inteligencia Artificial de la UE. En 2021, la Comisión Europea presentó el primer marco normativo integral del mundo para la IA. La Ley de IA de la UE clasifica los sistemas de IA en función del riesgo que suponen para los usuarios, categorizándolos desde aplicaciones de riesgo mínimo hasta aplicaciones de alto riesgo, y aplicando normativas más estrictas a las aplicaciones de mayor riesgo. Por ejemplo, un sistema de IA de alto riesgo que se utiliza para gestionar servicios y prestaciones públicas o para evaluar los perfiles de los candidatos a un puesto de trabajo debe ser evaluado antes de su comercialización.

Aunque otras regiones y países tienen perspectivas diferentes sobre la legislación en materia de IA, no hay duda de que podemos esperar más regulaciones a medida que la IA siga creciendo e innovando. Para utilizar la IA de forma responsable, las organizaciones deberán estar alerta y ser diligentes para evolucionar y cumplir con las leyes de ese momento.

Fomentar la IA responsable

El ritmo al que seguirá acelerándose la IA no hará sino aumentar los riesgos y las incertidumbres que conlleva, por lo que será necesario establecer regulaciones. Por lo tanto, resulta aún más importante garantizar que las tecnologías y los proveedores de IA que se implementen rindan cuentas de un desarrollo responsable.

Una forma clave de identificar a estos partners es buscar certificaciones como la ISO/IEC 42001, la primera norma mundial sobre sistemas de gestión de IA.

¿Qué es la norma ISO/IEC 42001?

Este marco específico ayuda a las organizaciones a establecer, implementar, mantener y mejorar un sistema de gestión de la IA. Garantiza que las organizaciones se comprometan a ofrecer un desarrollo, diseño y uso de la IA responsables y conformes con la normativa, lo que incluye:

• Establecer un sistema de gestión de la IA (AIMS), un marco estructurado para gobernar los proyectos, modelos y herramientas de IA integradas.

• La gestión de riesgos de la IA para identificar, evaluar y mitigar los riesgos relacionados, incluidos los sesgos y la protección de datos.

• Principios éticos de la IA para fomentar la transparencia y la equidad.

• Supervisar y mejorar el rendimiento de la IA y perfeccionar las estrategias.

• Promover una IA responsable mediante la participación de equipos de cumplimiento y partes interesadas que puedan educar a toda la organización sobre cómo desarrollar y utilizar de forma continua y segura las tecnologías de IA.

La obtención de esta certificación valida el compromiso de una organización con el desarrollo, el diseño y el uso responsables y conformes de la IA. Esto demuestra que estas organizaciones están tomando medidas de forma proactiva para garantizar el cumplimiento normativo y la mitigación de riesgos, asegurándose de que pueden fomentar la confianza, prepararse para los requisitos legales futuros y, en última instancia, obtener una ventaja competitiva en materia de IA.

Cómo se aprovecha la IA de forma responsable y segura en Liferay

Para ayudar a las empresas a crear experiencias digitales, Liferay ha incorporado la IA en su plataforma para impulsar la innovación y crear un mayor valor para los clientes. Sin embargo, Liferay reconoce que los clientes quieren una IA fiable teniendo los proveedores que abordar las cuestiones éticas, posibles riesgos de seguridad y el cumplimiento legal.

Actualmente la plataforma de Liferay ayuda a integrar la IA responsable como parte de un modelo “Bring Your Own AI (BYO-AI)”, en lugar de proporcionar sistemas de IA como parte de su oferta, tal y como se explica con más detalle en esta documentación. No obstante, Liferay se compromete a defender los principios de IA responsable en nuestro propio sistema de gestión de IA (AIMS), tal y como lo valida nuestra certificación ISO/IEC 42001, que proporciona una base sólida para ampliar nuestros esfuerzos en materia de IA de forma responsable y navegar por el panorama en rápida evolución de la gobernanza y la regulación de la IA.

Nuestro AIMS está diseñado y certificado de manera integral para cubrir las capacidades de IA que podríamos incorporar a nuestras ofertas en el futuro, incluidas las obtenidas a través de integraciones. El equipo supervisará continuamente y realizará auditorías frecuentes para garantizar que nuestros sistemas de IA sigan siendo justos, transparentes y seguros, y nuestros empleados recibirán formación periódica para garantizar que comprenden las prácticas responsables de IA.

Obtén más información sobre el AIMS de Liferay y su compromiso con la IA responsable aquí.