Revista Farmespaña Industrial Septiembre - Octubre 2025

to con datos, en lugar de ser programados explícitamente. Abarca tanto modelos individuales como conjuntos de modelos que automatizan pa- sos concretos dentro de procesos GMP. No obstante, el alcance se restringe a modelos estáticos, es decir, aquellos que no modifi- can su comportamiento durante el uso me- diante la incorporación de nuevos datos. Los modelos dinámicos, que se adaptan con- tinuamente durante su aplicación, quedan fuera del ámbito de este documento y no de- ben emplearse en aplicaciones GMP críticas. Asimismo, el anexo solo cubre modelos con salida determinista, es decir, que proporcio- nan siempre el mismo resultado ante entra- das idénticas. Quedan excluidos aquellos con salidas probabilísticas que podrían variar ante iguales condiciones de entrada, al considerar- se no aptos para usos GMP críticos. En este contexto, se aclara que ni la inteli- gencia artificial generativa ni los modelos de lenguaje de gran escala (LLM) están cubier- tos por este anexo. Su utilización en aplica- ciones GMP críticas no está permitida, y su empleo en usos no críticos solo será admisi- ble si se aplica bajo una supervisión humana cualificada y siguiendo, cuando proceda, los principios descritos en el documento. Este enfoque abarca un espectro amplio de aplicaciones, desde el desarrollo preclínico hasta la distribución del producto, incluyen- do ámbitos como la fabricación, el control de calidad, la liberación de lotes o la gestión de datos de farmacovigilancia. No se limita a un tipo específico de sistema o algoritmo, ni a un área funcional concreta, sino que establece una aplicabilidad trans- versal que reconoce la creciente presencia de modelos de IA en múltiples procesos GxP. Esto permite a la industria anticiparse a po- sibles interpretaciones regulatorias futuras y adoptar desde el inicio una postura de cum- plimiento proactivo. En este contexto, el Anexo 22 introduce explícitamente el concepto de “human-in- the-loop” (HITL), subrayando la importan- cia de que siempre exista una supervisión humana cualificada sobre los sistemas de IA, especialmente en aquellos casos donde su aplicación no es crítica pero puede tener implicaciones en la calidad del producto, la integridad de los datos o la toma de decisio- nes operativas. Esta figura refuerza la necesidad de que los resultados generados por modelos de IA sean evaluados, interpretados y validados por pro- fesionales formados, asegurando así que el uso de la tecnología no compromete el juicio experto ni sustituye la responsabilidad huma- na, sino que la complementa desde una base de conocimiento técnico y regulador. Estructura y contenido Su estructura se articula en torno a princi- pios de ciclo de vida, gestión de riesgos y calidad de los datos. • Gobernanza y responsabilidad: Cada sistema IA debe estar bajo supervisión humana, con roles y responsabilidades claramente definidos. Se refuerza la ren- dición de cuentas y la trazabilidad de las decisiones. • Datos de entrenamiento y validación: Se exige evidencia de la calidad, repre- sentatividad y ausencia de sesgo en los datasets usados para entrenar modelos. • Evaluación del rendimiento: Los sis- temas deben demostrar un rendimiento adecuado, medido de forma objetiva y reproducible. • Monitorización continua y reentrena- miento: Se exige un plan de seguimien- to post-implementación, y el reentre- namiento de modelos se considera un cambio regulado. • Gestíon del riesgo y del ciclo de vida: Aplicación explícita de ICH Q9 al modelo algorítmico, incluyendo la identificación y mitigación de riesgos. • Aplicabilidad transversal: Cubre mo- delos de IA usados en desarrollo, fabrica- ción, control de calidad, farmacovigilan- cia y cadena de suministro. En definitiva, el Anexo 22 aporta estructura, lenguaje y criterios a un ámbito tecnológico hasta ahora difícil de alinear con las expec- tativas GxP. Novedades regulatorias e implicaciones para la industria El Anexo 22 introduce un marco normativo pionero que transforma varias prácticas ha- bituales en la industria, clarificando zonas grises y se exigiendo un control continuo, no solo validación inicial, introduciendo el con- cepto “IA GxP-ready”. La primera gran transformación que in- troduce el Anexo 22 es el paso de una vali- dación estática a un enfoque de validación continua. En lugar de considerar la valida- ción como una etapa puntual, se establece la necesidad de un seguimiento permanente del rendimiento de los modelos de IA, con planes explícitos de monitorización. En pa- ralelo, se reconoce que el reentrenamiento de los modelos —una práctica habitual en algoritmos de aprendizaje— debe conside- rarse un cambio regulado, sujeto a control documental, revisión de riesgos y posible revalidación. Otra novedad crucial es la exigencia de trazabilidad algorítmica: cada resultado ge- nerado por un sistema de IA debe ser com- prensible, justificable y auditable, incluso en modelos complejos o de tipo caja negra. Finalmente, la calidad de los datos se erige como nuevo centro de control; se impone la necesidad de garantizar la integridad, repre- sentatividad y ausencia de sesgo en los da- tasets empleados, ya que de ellos depende directamente la fiabilidad del sistema. Implicaciones para las organizaciones La implantación del Anexo 22 exige revisar a fondo el sistema de calidad para integrar de forma estructurada el ciclo de vida de los modelos de inteligencia artificial. Esta trans- formación no puede realizarse de forma aislada: requiere la conformación de equi- pos multidisciplinares que integren conoci- Tabla 1. Anexo 22. Principales novedades Aspecto Antes del Anexo 22 Con Anexo 22 Regulación de IA No específica. Interpretación dentro de Anexo 11 o CSV. Directrices explícitas sobre uso, riesgo y validación de IA. Validación de modelos ML Ambiguo y heterogéneo. Requiere validación estructurada, con separación de datasets. Monitorización y reentrenamiento No regulado específicamente. Debe documentarse, planificarse y controlarse como parte del ciclo de vida. Supervisión humana No exigida de forma explícita. Obligatoria para decisiones críticas. Gobernanza y trazabilidad Delegada al sistema informatizado. Gobernanza de IA independiente y trazabilidad reforzada. normativa y regulación 51 FARMESPAÑA INDUSTRIAL · SEP/OCT 25