Revista Farmespaña Industrial - Julio Agosto 2026

En primer lugar, el alcance se centra en modelos estáticos y deterministas en aplica- ciones GMP críticas, excluyendo el uso demo- delos generativos en decisiones con impacto directo en la calidad del producto, la seguri- dad del paciente o la integridad de los datos. Este enfoque refuerza la necesidad de definir claramente el uso previsto del modelo, docu- mentar su ciclo de vida completo y evaluar sus limitaciones, sesgos y nivel de explicabilidad. No obstante, la gobernanza de modelos no finaliza en estas fases iniciales, sino que debe extenderse a su operación dentro del entorno productivo. En este contexto, el fun- cionamiento del modelo debe entenderse como parte de un proceso dinámico, cuyo rendimiento y comportamiento deben ser supervisados de forma continua. Siguiendo un enfoque de Quality by Design aplicado a sistemas de IA, la integración de los modelos en el PQS se articula en torno a los pilares tradicionales del sistema de ca- lidad definidos en ICH Q10, que resultan es- pecialmente relevantes en la fase operativa: • En primer lugar, la monitorización del rendimiento del proceso permite man- tener el sistema bajo control mediante el seguimiento de indicadores derivados de los datos de entrada, salida y, cuando aplica, de la comparación con los resulta- dos reales ( ground truth ). Estamonitoriza- ción incluye el uso de métricas de desem- peño (KPIs), la evaluación continua de la calidad de los datos y la detección de des- viaciones o fenómenos de deriva ( drift ), constituyendo la base para identificar tendencias y oportunidades de mejora. • En segundo lugar, la gestión de pro- blemas e incidentes debe adaptarse al contexto de estos sistemas, permitiendo detectar, investigar y mitigar anomalías o comportamientos inesperados del mo- delo o de los datos. En este sentido, el uso del audit trail como herramienta ac- tiva de supervisión contribuye a la iden- tificación temprana de desviaciones y al mantenimiento del estado de control. • En tercer lugar, la gestión de cambios constituye un pilar fundamental, dado que los modelos pueden evolucionar mediante reentrenamientos, ajustes o ampliaciones basadas en nuevos datos. Todo cambio debe gestionarse de forma controlada, evaluando su impacto en el contexto GMP y garantizando la trazabi- lidad, de modo que ningún modelo sea modificado en producción sin un proce- so formal de control de cambios. • Por último, la revisión del desempeño por parte de la dirección permite inte- grar la información generada durante la operación —incluyendo monitorización, gestión de riesgos, gobernanza de da- tos y cambios— para facilitar una toma de decisiones basada en datos y pensa- miento crítico, asegurando la coherencia del sistema y su alineación con los obje- tivos del PQS. Este enfoque integrado permite evolucionar desde un modelo reactivo hacia un control predictivo, en el que la detección temprana de anomalías contribuye a mantener el siste- ma en estado de control. En consecuencia, la gobernanza de modelos en entornos GMP no puede considerarse un proceso estático, sino un sistema dinámico que integra diseño, va- lidación, operación y mejora continua dentro del PQS, asegurando la fiabilidad de los siste- mas con capacidades de IA a lo largo de todo su ciclo de vida. Integración en el PQS: organización, supervisión y ecosistema digital La integración de sistemas con capacidades de IA en entornos GMP requiere evolucionar hacia un modelo organizativo multidiscipli- nar que combine QA, IT, ciencia de datos e IA, estableciendo una gobernanza clara den- tro del PQS mediante roles definidos, como Data Owner , Model Owner y System Owner . Asimismo, resulta esencial definir adecuada- mente el uso previsto del sistema, garantizar la trazabilidad y calidad de los datos, refor- zar la transparencia del modelo e integrar el factor humano (Human-in-the-Loop), asegu- rando que los operadores comprenden las limitaciones y riesgos asociados al sistema. Por otro lado, el creciente uso de platafor- mas digitales y proveedores tecnológicos introduce un nuevo paradigma basado en la supervisión del ecosistema completo. El nivel de control debe ajustarse de forma proporcional al riesgo, considerando no solo el software, sino también el tipo de modelo, la infraestructura y el grado de dependen- cia del proveedor. En este contexto, pueden coexistir desde lógicas basadas en reglas hasta modelos de machine learning desarro- llados internamente o pre-entrenados por terceros, cada uno con diferentes necesida- des de gobernanza y supervisión. Además, la evaluación del proveedor debe extenderse al control de sub-proveedores responsables de datos, modelos o infraestructura, incluyendo aspectos como entrenamiento, evolución del modelo, calidad de los datos y cibersegu- ridad. En consecuencia, la integración de IA en el PQS requiere una gobernanza conjunta de modelo, datos, infraestructura y provee- Figura 3: Principales áreas de gobernanza y aseguramiento aplicables a sistemas informáticos con capacidades de IA en entornos GMP. INTELIGENCIA ARTIFICIAL 148 FARMESPAÑA INDUSTRIAL · JUL/AGO 26