La transformación de la IA es un problema de gobernanza: cómo ampliar el uso de la IA de forma responsable

Introducción

Aunque los equipos empresariales están invirtiendo miles de millones en proyectos piloto de inteligencia artificial y superando el entusiasmo inicial por la IA, ir más allá de los éxitos aislados sigue siendo un gran obstáculo. Incluso con tecnología avanzada de IA, datos de calidad y sólidas competencias técnicas, la mayoría de las organizaciones se dan cuenta rápidamente de que la transformación hacia la IA es un problema de gobernanza. Sin una responsabilidad clara, controles operativos coherentes y una supervisión activa de la IA, las iniciativas de IA aisladas rara vez se traducen en resultados empresariales duraderos.

Este artículo explica por qué la transformación hacia la IA es un reto de gobernanza y cómo las organizaciones pueden establecer la responsabilidad, gestionar el riesgo, reforzar la supervisión y medir los resultados.

Por qué la transformación hacia la IA es un problema de gobernanza

Poner en marcha un proyecto de IA dentro de un único equipo es relativamente sencillo, pero lograr una transformación de la IA satisfactoria en toda una empresa es un reto completamente diferente. Las iniciativas de IA aisladas pueden tener éxito en entornos controlados, pero ampliar la adopción de la IA obliga a los líderes empresariales a enfrentarse a riesgos estratégicos, exposición a la normativa y fricciones operativas que el software por sí solo no puede resolver. De hecho, una investigación realizada por Boston Consulting Group muestra que casi el 70 % de los retos de la transformación de la IA tienen su origen en problemas relacionados con las personas y los procesos, más que en limitaciones tecnológicas.

Piensa en la gobernanza de la IA como el marco general que define las estructuras de responsabilidad, las facultades de decisión, las políticas y los límites de riesgo aceptables para tu organización. La gestión de la IA, por su parte, pone en práctica esas normas en el día a día mediante pruebas continuas, controles operativos, flujos de trabajo de revisión y marcos internacionales como la norma ISO/IEC 42001, el estándar reconocido para los sistemas de gestión de la IA.

Sin una gobernanza sólida, la expansión obliga a los directivos a responder a preguntas operativas fundamentales:

• Responsabilidad y estrategia. ¿Quién es el responsable de cada sistema y cómo contribuye este a su estrategia empresarial general?
• Acceso y autonomía. ¿A qué datos de los clientes puede acceder el sistema y qué decisiones de IA puede tomar de forma autónoma?
• Supervisión y riesgo. ¿Cuándo debe intervenir una persona, cómo se supervisan los riesgos relacionados con la IA y qué nivel de riesgo es aceptable?

Este reto de gobernanza se vuelve más urgente a medida que las empresas avanzan hacia el uso de herramientas autónomas. Según el informe de Deloitte «El estado de la IA en la empresa en 2026», el 74 % de los líderes empresariales tiene previsto implementar IA agentiva en un plazo de dos años. Sin embargo, solo una minoría —apenas el 21 %— afirma contar con una madurez real en materia de gobernanza y con sistemas de gobernanza estructurados capaces de gestionar la IA «agente» de forma segura. Cerrar esta brecha de gobernanza es esencial para ampliar los sistemas de IA con confianza.

Puntos débiles habituales en la gobernanza de la IA empresarial

Al hablar de los fallos de la IA, los equipos suelen achacarlos a problemas técnicos, pero muchas organizaciones descubren que sus mayores obstáculos se deben a la falta de una supervisión formal. El problema subyacente de la gobernanza suele manifestarse en cinco áreas fundamentales:

Responsabilidad poco clara

El desarrollo de modelos multifuncionales requiere la participación de responsables de TI, del departamento jurídico, de seguridad, de marketing y de las unidades de negocio. Sin una rendición de cuentas clara, la responsabilidad sobre la deriva de los modelos, la privacidad de los datos y el rendimiento financiero queda dispersa. Los proyectos se estancan cuando ningún ejecutivo en concreto tiene la autoridad explícita para financiar, aprobar, ampliar, pausar o retirar un proyecto de IA.

Herramientas y experimentos de IA fragmentados

Cuando los departamentos adquieren de forma independiente aplicaciones SaaS, API de terceros y funciones de IA generativa, se extiende rápidamente la «IA en la sombra», es decir, el uso no autorizado de la IA al margen de la supervisión formal. Esta fragmentación hace que resulte casi imposible para los equipos de TI y de gestión de riesgos mantener el cumplimiento normativo, aplicar las normas de seguridad, gestionar las dependencias de los proveedores o auditar la calidad de los resultados en todas las herramientas de IA.

Datos mal gestionados

Ya sea al ejecutar análisis predictivos o herramientas generativas con recuperación aumentada, los modelos dependen por completo de la integridad de los datos. Sin una sólida gobernanza de datos, los algoritmos pueden extraer datos confidenciales de los clientes, procesar contenido interno obsoleto o infringir las normativas de gobernanza y residencia de datos, lo que compromete la integridad que los sistemas de IA necesitan para seguir siendo fiables.

Supervisión humana inconsistente

Los flujos de trabajo automatizados suelen carecer de puntos de control de revisión significativos. Cuando los empleados carecen del contexto, la autoridad o el tiempo necesarios para evaluar los resultados automatizados, las decisiones críticas pueden ponerse en práctica sin la validación adecuada. Esto genera un riesgo normativo significativo en marcos estrictos como la Ley de IA de la UE, especialmente al implementar sistemas de IA de alto riesgo.

Visibilidad limitada del rendimiento

Muchas organizaciones realizan un seguimiento de métricas básicas de adopción sin medir la precisión de los resultados, los costes operativos o el valor empresarial real y cuantificable. Sin métricas coherentes ni registros de auditoría claros, los responsables no pueden determinar qué casos de uso aportan un verdadero valor empresarial y cuáles plantean riesgos graves.

Lo que debe lograr una gobernanza eficaz de la IA

En lugar de generar retrasos burocráticos, un marco eficaz de gobernanza de la IA permite a sus equipos implementar la IA más rápidamente y con mayor confianza.

Un marco de gobernanza eficaz ayuda a su organización a:

• Mantener un inventario completo de los modelos de IA activos, los agentes, las herramientas y las conexiones con los proveedores a lo largo de todo el ciclo de vida de la IA.
• Alinear cada implementación de IA directamente con los objetivos empresariales fundamentales.
• Asignar responsables específicos de los aspectos empresariales, técnicos y de riesgos a todas las iniciativas de IA activas.
• Clasificar los sistemas por nivel de riesgo para aplicar una supervisión y unas pruebas de IA proporcionadas.
• Aplicar controles de acceso estrictos sobre los datos sensibles y los repositorios de contenido internos.
• Establecer límites operativos claros, flujos de trabajo de aprobación y vías de escalado.
• Incorporar una supervisión humana significativa en los procesos de toma de decisiones de gran impacto.
• Realizar un seguimiento de la calidad de las respuestas, los costes de los recursos y las métricas de gestión de riesgos en relación con los umbrales establecidos.
• Mantener registros de auditoría exhaustivos para respaldar los controles de cumplimiento y las revisiones internas.
• Poner en pausa, ajustar o retirar de forma segura las herramientas que no cumplan las normas de gobernanza.

Un marco que prioriza la gobernanza para la transformación de la IA

Para construir una ventaja competitiva duradera durante la próxima década, las organizaciones necesitan un marco pragmático y gradual que integre la gobernanza directamente en las operaciones cotidianas.

1. Realiza un inventario de los sistemas de IA y los casos de uso existentes

Empieza por obtener una visión completa de toda la adopción formal e informal de la IA en tu organización. Documenta los modelos de IA activos, las aplicaciones generativas, los experimentos con agentes, las API, las fuentes de datos y los responsables departamentales. Analiza detenidamente el origen de los datos de entrada, si las fuentes son fiables y cómo gestionan los proveedores tus datos para salvaguardar la integridad de la que dependen los sistemas de IA.

2. Asignar responsabilidades y derechos de decisión

Establezca una responsabilidad clara para su estrategia global de IA y para los casos de uso individuales. En lugar de tratar la gobernanza como una tarea pasiva de un comité, designe a un patrocinador ejecutivo junto con responsables de negocio específicos encargados de los resultados y responsables técnicos que gestionen la implementación. Asegúrese de que los equipos jurídicos, de seguridad, de compras y de datos cuenten con una autoridad de revisión clara.

3. Clasifique los casos de uso según el riesgo

Evalúe cada aplicación propuesta en función de su finalidad, la sensibilidad de los datos, el público objetivo, el grado de autonomía y el posible impacto operativo. Distinga las herramientas de productividad de bajo riesgo de las aplicaciones de alto impacto que gestionan transacciones de clientes o decisiones operativas automatizadas. La forma en que se aborde el riesgo de la IA determina el nivel de pruebas y documentación necesario antes del lanzamiento, lo que garantiza que los equipos eviten riesgos graves.

4. Traduce las políticas en controles operativos

Convierte las directrices generales de las políticas en controles técnicos concretos, aprovechando marcos como la norma ISO/IEC 42001 para estructurar tus controles. Aplica controles de acceso estrictos basados en las funciones de los usuarios y la sensibilidad de los datos, e integra pasos de revisión directamente en los flujos de trabajo diarios del software. Proporcione a los empleados orientaciones claras para desarrollar conocimientos sobre IA y revise las condiciones de los proveedores para garantizar que los compromisos de seguridad de los datos se ajusten a los estándares de la empresa antes de implementar la IA.

5. Realice pruebas antes de ampliar la implementación

Valida las capacidades en entornos piloto controlados antes de implementar las herramientas a gran escala. Comprueba la precisión, la coherencia, las vulnerabilidades de seguridad y el cumplimiento de las políticas en los resultados. Ejecuta escenarios de prueba que simulen caídas del sistema, solicitudes de datos no autorizadas y casos extremos para garantizar que los equipos sepan cómo integrar la IA de forma segura en los procesos existentes y en los flujos de trabajo de toma de decisiones.

6. Supervisar, responder y mejorar de forma continua

Establezca una supervisión continua de todas las herramientas activas para realizar un seguimiento de la adopción, la precisión, los costes de recursos y las anomalías operativas. Dado que la tecnología y las necesidades empresariales cambian a medida que evoluciona la IA, establezca umbrales automatizados que señalen problemas o pausen las herramientas si los resultados se desvían. Considere la gobernanza como un ciclo operativo continuo, en lugar de una aprobación puntual.

Incorporar la supervisión humana en los flujos de trabajo de IA

La supervisión humana funciona mejor cuando se integra directamente en los procesos empresariales, en lugar de añadirse a posteriori. Dado que las tareas automatizadas conllevan distintos grados de riesgo operativo, su modelo de gobernanza debe adaptar la intervención humana en función del impacto potencial de un error.

Para tareas administrativas sencillas —como la generación de etiquetas de búsqueda internas—, la automatización total suele funcionar bien. Por otro lado, la publicación de mensajes dirigidos a los clientes, la gestión de comunicaciones reguladas o la ejecución de transacciones financieras exigen puntos de control estructurados de aprobación humana, especialmente cuando se gestionan sistemas de IA de alto riesgo.

Una supervisión significativa de la IA requiere algo más que colocar un botón de aprobación en un panel de control. Los revisores necesitan un contexto útil, directrices claras, formación adecuada y tiempo suficiente para evaluar los resultados. Por encima de todo, los revisores deben tener autoridad explícita para editar, anular, escalar o detener las acciones automatizadas siempre que estén en juego decisiones críticas.

Cómo medir si la IA regulada está aportando valor

Para evaluar el éxito de la IA hay que ir más allá de las simples cifras de registros. Para asegurarte de que tus inversiones generan resultados empresariales tangibles y mejoran el rendimiento financiero, realiza un seguimiento de métricas coherentes en tres áreas distintas:

Métricas operativas

• Tasas de adopción y tiempos de finalización de los flujos de trabajo en todos los equipos.
• Tiempo medio ahorrado por cada proceso empresarial clave.
• Latencia de la API y coste por consulta o tarea.
• Tasas de error o acciones automatizadas fallidas.

Métricas de calidad y riesgo

• Precisión de los resultados y porcentaje de respuestas respaldadas por contenido empresarial verificado.
• Índices de activación de las medidas de seguridad y alertas de incumplimiento de políticas.
• Índices de corrección, anulación y reversión por parte de personas.
• Puntuaciones de comentarios de los usuarios y volumen de escalaciones.

Métricas empresariales

• Impactos cuantificables en la satisfacción y la implicación de los clientes.
• Eficiencia en la producción de contenidos y rapidez de publicación.
• Contribución directa al crecimiento de los ingresos, la retención de clientes o el ahorro de costes que demuestre un valor empresarial cuantificable.

Establecer unas referencias claras y unos objetivos de éxito antes de poner en marcha cualquier proyecto ayuda a los responsables a decidir qué casos de uso merecen una mayor inversión y cuáles necesitan perfeccionarse.

Cómo ayudan las plataformas empresariales a poner en práctica la gobernanza de la IA

Gestionar la supervisión de herramientas de software dispersas, bases de datos aisladas y equipos departamentales independientes genera una gran fricción operativa. Las plataformas empresariales centralizadas resuelven este problema proporcionando una capa operativa unificada que conecta a los usuarios, el contenido, los derechos de acceso y los flujos de trabajo automatizados en sistemas de gobernanza cohesionados.

Aunque una plataforma no puede sustituir a la visión de la dirección ni a la formación del equipo, proporciona la base técnica necesaria para respaldar una gobernanza sólida y fomentar los conocimientos sobre IA en la empresa:

• Acceso controlado. Los permisos basados en roles garantizan que los empleados y los agentes autónomos accedan únicamente a la información que están autorizados a ver.
• Fuentes de información aprobadas. La gestión centralizada de contenidos garantiza que los agentes obtengan datos empresariales precisos y actualizados.
• Controles repetibles. Los motores de flujos de trabajo integrados aplican automáticamente los pasos obligatorios de revisión y aprobación.
• Operaciones conectadas. Las integraciones nativas establecen conexiones seguras entre modelos de IA externos, aplicaciones empresariales clave y registros internos.
• Visibilidad del rendimiento. Los paneles de control de administración centralizada ofrecen un seguimiento en tiempo real del uso del sistema, los costes de las consultas y los eventos operativos.
• Registros de auditoría: la gestión detallada de registros mantiene historiales fiables para respaldar las auditorías internas y los controles de cumplimiento.

Incorporación de la IA regulada a Liferay DXP

Liferay DXP ofrece un entorno flexible diseñado para ayudar a las empresas a integrar la IA directamente en sistemas de gestión de contenidos, portales digitales, intranets y puntos de contacto con los clientes. Al integrar estas capacidades en una arquitectura empresarial contrastada, las empresas pueden implementar una automatización moderna al tiempo que mantienen un control total sobre los requisitos de gobernanza.

Para optimizar la gestión de múltiples agentes, el AI Hub de Liferay DXP ofrece un entorno SaaS complementario para configurar, conectar y supervisar los agentes de IA. En conjunto, estas herramientas permiten a los equipos empresariales:

• Aplicar los permisos de acceso basados en roles existentes en todos los flujos de trabajo de búsqueda y contenido impulsados por la IA.
• Basar los modelos generativos en repositorios de contenido empresarial verificados para mejorar la precisión de los resultados.
• Incorporar agentes de IA directamente en los flujos de trabajo de aprobación establecidos y en los puntos de contacto de la experiencia digital.
• Configurar instrucciones reutilizables para los agentes, medidas de seguridad y reglas operativas.
• Supervisar el uso de recursos, los costes de las API y la calidad de las respuestas desde un único panel de control.
• Permitir a los equipos implementar la IA con agentes de forma segura en portales de clientes, intranets para empleados y entornos de ventas digitales.

Aunque la gobernanza a largo plazo depende en última instancia del liderazgo, de una estrategia clara y de unas prácticas sólidas de gestión de riesgos, Liferay DXP proporciona la base operativa flexible necesaria para convertir unas políticas de gobernanza sólidas en una ejecución diaria fiable.

Pasar de la experimentación con la IA a una transformación gobernada

Lograr una verdadera transformación digital requiere algo más que simplemente ampliar su colección de herramientas. Reconocer por qué la transformación de la IA es un problema de gobernanza permite a las organizaciones construir una ventaja competitiva duradera. Cuando la transformación es un problema de estructura más que de software, corregir el marco de supervisión subyacente es la clave para generar valor a largo plazo.

Las organizaciones que reconocen a tiempo los retos que plantea la escalabilidad de la IA se posicionan para innovar más rápido y con mayor seguridad que la competencia. Al establecer hoy mismo estructuras de gobernanza sólidas, los líderes empresariales pueden guiar a sus equipos hacia una transformación de la IA exitosa que convierta los experimentos aislados en un activo estratégico para toda la empresa.

Preguntas frecuentes

¿Por qué se considera la transformación de la IA un problema de gobernanza?

Aunque la configuración técnica y el rendimiento de los modelos son importantes, la implantación de la IA en toda la empresa suele estancarse debido a un problema fundamental de gobernanza. La falta de claridad en la responsabilidad, la adquisición descoordinada de herramientas, los riesgos relacionados con los datos sensibles y la ausencia de directrices claras sobre riesgos crean barreras que el software por sí solo no puede resolver. De hecho, el 70 % de los retos de la transformación de la IA se derivan de problemas relacionados con las personas y los procesos.

¿Cuál es la diferencia entre la gobernanza de la IA y la gestión de la IA?

La gobernanza de la IA define la estrategia general, las políticas, las competencias decisorias, la rendición de cuentas y los límites de riesgo de una organización. La gestión de la IA se centra en la aplicación de esas normas en las operaciones diarias —a menudo guiadas por estándares como la norma ISO/IEC 42001—, lo que incluye pruebas, aprobaciones de flujos de trabajo, supervisión continua y resolución de incidencias.

¿Frena la gobernanza de la IA la innovación?

Los pasos de aprobación excesivamente complicados pueden provocar retrasos, pero una gobernanza eficaz de la IA, en realidad, acelera la innovación. Proporciona a los desarrolladores y a los equipos empresariales herramientas preaprobadas, límites de riesgo claros, controles reutilizables y la confianza necesaria para sacar adelante los proyectos de forma segura.

¿Cómo pueden las organizaciones empezar a gestionar la IA?

Empieza por realizar un inventario completo de las herramientas de IA activas y las fuentes de datos en toda tu organización. Asigna responsables, define los objetivos empresariales y la tolerancia al riesgo, clasifica los casos de uso por nivel de riesgo, implementa una sólida gobernanza de datos con controles de acceso basados en roles y pon a prueba tus controles en unos pocos casos de uso de alto valor.