Revista Farmespaña Industrial - Especial Calidad 2025

Credibilidad de la IA farmacéutica: claves del borrador de la FDA La FDA pone la credibilidad como uno de los ejes centrales para la aceptación de la inteligencia artificial (IA) en la industria farmacéutica. Este concepto, destacado en el borrador de la guía de la FDA, nos da las herramientas para documentar cómo los modelos de IA han sido desarrollados, entrenados y evaluados, ayudándonos así a determinar su riesgo de implementación y su adecuación al contexto de uso. GUILLEM LÓPEZ CSV & QA MANAGER EN OYTEC L a Administración de Alimentos y Me- dicamentos de los Estados Unidos (FDA) emitió en enero de 2025 el bo- rrador de la guía “Considerations for the Use of Artificial Intelligence to Support Regula- tory Decision-Making for Drug and Biological Products” que introduce un marco basado en riesgos para evaluar la credibilidad de los modelos de IA y ML. Si bien la IA tiene el potencial de revolu- cionar el desarrollo, la evaluación y la pro- ducción farmacéutica al acelerar procesos y reducir costos, es imprescindible garantizar que los modelos que sustentan decisiones regulatorias sean fiables, transparentes y estén rigurosamente validados. Por ello, en este artículo exploraremos las consideracio- nes clave de la FDA sobre la credibilidad de los modelos de IA en el ciclo de vida farma- céutico, como calidad de datos, transparen- cia, validación y mantenimiento. También destacaremos las estrategias prácticas para implementarlas en entor- nos regulados, alineando buenas prácticas (GxP), guías internacionales de referencia (p.ej .: GAMP5, Ed2; de la ISPE) y artículos aca- démicos que abordan el tema. ¿Por qué necesitamos demostrar la credibilidad en los sistemas data-driven? La introducción de modelos basados en da- tos, como la inteligencia artificial (IA) y el ma- chine learning (ML), marca un cambio fun- damental en el aseguramiento de la calidad. A diferencia de los sistemas tradicionales, diseñados con reglas predefinidas (código, scripts, triggers, …), estos modelos apren- den patrones a partir de los datos históricos para generar predicciones, segmentaciones o clasificaciones entre otros. Este enfoque, aunque más potente y flexible, plantea un reto único: su desempeño ya no se basa en reglas claras, sino en patrones probabilísti- cos, lo que los hace más difíciles de auditar y validar. Los modelos data-driven dependen com- pletamente de la calidad de los datos uti- lizados para entrenarlos, lo que introduce riesgos significativos. Sesgos en los datos, falta de representatividad o cambios en las condiciones de operación (data drift) pue- den comprometer su rendimiento. Además, su naturaleza probabilística genera resulta- dos que varían dependiendo del contexto, complicando la reproducibilidad y la con- fianza en sus predicciones. Esto los diferen- cia radicalmente de los sistemas determi- nísticos, donde los resultados son siempre predecibles. Por ello toma relevancia la implementa- ción de un Credibility Assessment Plan cuyo objetivo es garantizar que los modelos de IA utilizados en entornos regulados sean seguros, interpretables, confiables y ali- neados con el contexto de uso. Para ello, el marco de credibilidad establecido en este borrador sienta en siete pilares fundamen- tales, proporcionando una metodología clara para el desarrollo del modelo a través de la descripción de los datos, la estructu- ra, el entrenamiento, y la evaluación de la fiabilidad entre otros, garantizando que sus predicciones sean trazables y justificables dentro de su contexto de uso. Marco de evaluación de credibilidad basado en el riesgo El marco de evaluación de credibilidad basado en el riesgo descrito por la FDA es una metodología estructurada para garan- tizar que los modelos de IA empleados en Diagrama 1. Clasificación del riesgo (FDA) y madurez del modelo (ISPE) Los modelos data-driven dependen completamente de la calidad de los datos utilizados para entrenarlos, lo que introduce riesgos significativos ACTUALIZACIÓN REGULATORIA 42 FARMESPAÑA INDUSTRIAL · ESPECIAL CALIDAD EN LA INDUSTRIA FARMACÉUTICA