Gobernanza de IA en la industria farmacéutica: ¿Se está convirtiendo en el nuevo GMP?

Tabla de contenidos

1. ¿Qué es realmente la gobernanza de la IA?
2. ¿Por qué la BPM se convirtió en el estándar de oro en primer lugar?
3. Los paralelos entre la gobernanza de la IA y la BPM
4. ¿En qué aspectos la gobernanza de la IA aún está poniéndose al día?
5. ¿Qué están haciendo ya los reguladores?
6. Construir un marco de gobernanza de la IA: un punto de partida práctico
7. Un escenario del mundo real: ¿cuándo habría ayudado la gobernanza?
8. ¿Qué significa esto para la perspectiva competitiva de la industria farmacéutica?
9. ¡En resumen!
10. Preguntas frecuentes

Durante décadas, las Buenas Prácticas de Manufactura, o BPM, han sido la columna vertebral de la confianza en la industria farmacéutica. Es la razón por la que un comprimido fabricado en un país funciona exactamente igual que uno fabricado en otro, y la razón por la que reguladores, médicos y pacientes pueden confiar en un fármaco sin verificar personalmente cada lote.

Ahora, a medida que la IA asume silenciosamente decisiones que antes tomaban humanos, surge una nueva pregunta: ¿necesita la IA su propia versión de la BPM? Desglosemos qué significa realmente la gobernanza de la IA, por qué está ganando urgencia y si merece un lugar junto a la BPM como pilar central de la calidad farmacéutica.

¿Qué es realmente la gobernanza de la IA?

La gobernanza de la IA es simplemente el conjunto de reglas, controles y responsabilidades que una empresa establece para asegurarse de que sus sistemas de IA se comporten de manera segura, justa y predecible. Piénselo como el manual que decide cuánto puede ganar la confianza de un algoritmo antes de que un humano deba intervenir.

En la industria farmacéutica, esto se manifiesta en lugares como:

1. Algoritmos de descubrimiento de fármacos que sugieren qué moléculas valen la pena probar.
2. Modelos de ensayos clínicos que predicen resultados de pacientes o señalan señales de seguridad.
3. Sistemas de fabricación que ajustan parámetros de producción en tiempo real.
4. Herramientas para presentaciones regulatorias que ayudan a redactar documentos para las autoridades sanitarias.

Cada uno de estos usos conlleva consecuencias reales si la IA se equivoca, que es precisamente por lo que la gobernanza es tan importante aquí.

¿Por qué la BPM se convirtió en el estándar de oro en primer lugar?

Para entender por qué la gobernanza de la IA se compara con la BPM, ayuda recordar qué resolvió realmente la BPM. Antes de su existencia, la calidad de los medicamentos variaba enormemente entre fabricantes y no había una forma consistente de garantizar la seguridad. La BPM solucionó eso exigiendo:

1. Procesos documentados para cada paso de la fabricación.
2. Controles de calidad consistentes en puntos definidos de la producción.
3. Trazabilidad, de modo que cualquier problema pudiera rastrearse hasta su origen.
4. Responsabilidad, con personas nombradas responsables de cada etapa.

La gobernanza de la IA está comenzando a seguir exactamente la misma lógica, aplicada a los algoritmos en lugar de a las líneas de montaje.

Los paralelos entre la gobernanza de la IA y la BPM

La comparación no es solo un titular llamativo; se sostiene sorprendentemente bien cuando se examina de cerca:

a) Ambos exigen documentación: La BPM requiere registros de lote; la gobernanza de la IA requiere documentación del modelo que muestre cómo se entrenó y validó un sistema.

b) Ambos requieren validación antes del uso: Un proceso de fabricación debe validarse antes de operar a escala, y cada vez más, también debe validarse un modelo de IA antes de que influya en una decisión real.

c) Ambos necesitan monitoreo continuo: La BPM incluye controles de calidad continuos; los sistemas de IA necesitan monitoreo de desempeño continuo para detectar deriva o errores a lo largo del tiempo.

d) Ambos asignan responsabilidad clara: Así como una Persona Calificada firma un lote de medicamento, ahora alguien debe firmar la aprobación de las salidas de un sistema de IA.

e) Ambos existen para proteger a los pacientes: En el fondo, las GMP evitan que lotes defectuosos lleguen a las personas, y la gobernanza de la IA busca evitar que decisiones algorítmicas defectuosas hagan lo mismo.

¿Dónde sigue quedándose atrás la gobernanza de la IA?

A pesar de los paralelismos, la gobernanza de la IA no está tan madura como las GMP, y hay algunas lagunas que vale la pena señalar:

1. Todavía no existe un estándar universal Las GMP tienen décadas de directrices reconocidas a nivel mundial; los marcos de gobernanza de la IA aún se están redactando y varían según la región.
2. Es más difícil auditar porque el proceso de fabricación puede inspeccionarse físicamente, pero la lógica interna de un modelo de IA a menudo es difícil de explicar completamente, incluso para sus propios desarrolladores.
3. Ritmo de cambio más rápido ya que los modelos de IA se actualizan con mucha más frecuencia que el equipo de fabricación, lo que hace que la validación estática y única sea menos útil.
4. Escasez de talento ya que pocos auditores o inspectores actualmente tienen las habilidades técnicas para evaluar sistemas de IA del mismo modo que evalúan líneas de fabricación.

Estas lagunas no son razones para descartar la gobernanza de la IA. Son razones para que madure rápidamente.

La UE no está esperando un estándar universal; el Anexo 22 ya está especificando cómo se ve la AI-GMP para los fabricantes.

Esto es lo que exige.

→ Leer: Anexo 22 de la UE: La guía AI-GMP para fabricantes farmacéuticos

¿Qué están haciendo ya los reguladores?

Los organismos reguladores no han ignorado este cambio. Varios esfuerzos ya están moldeando cómo será la gobernanza de la IA en la industria farmacéutica:

1) Los documentos de orientación de las principales autoridades sanitarias están empezando a abordar el uso de IA y aprendizaje automático en el desarrollo y la fabricación de medicamentos.

2) Se proponen marcos basados en el riesgo, en los que las aplicaciones de IA de mayor riesgo, como las que afectan la seguridad del paciente, enfrentan una supervisión más estricta que las de menor riesgo, como las herramientas de programación.

3) Se están ampliando las expectativas de control de cambios para cubrir los modelos de IA que se vuelven a entrenar o actualizar después de la aprobación inicial.

4) Aumenta la colaboración entre industrias, con reguladores, empresas y proveedores de tecnología trabajando juntos para definir estándares compartidos antes de que los problemas obliguen a normas reactivas.

Esto refleja cómo las propias GMP evolucionaron con el tiempo: a través de una mezcla de práctica industrial y respuesta regulatoria, no de una sola norma redactada de una vez.

Construir un marco de gobernanza de la IA: un punto de partida práctico

Las empresas que quieran adelantarse a este cambio no necesitan esperar una claridad regulatoria perfecta. Un marco razonable puede comenzar con algunos pasos concretos:

1. Inventariar cada sistema de IA que se esté utilizando actualmente, desde herramientas de descubrimiento hasta algoritmos de fabricación, para que nada funcione sin supervisión.
2. Clasificar cada sistema por nivel de riesgo, enfocando el mayor escrutinio en las herramientas que afectan directamente la seguridad del paciente o la calidad del producto.
3. Asignar una responsabilidad clara, de modo que cada sistema de IA tenga una persona nombrada responsable de su rendimiento y resultados.
4. Documentar los datos de entrenamiento y los métodos de validación, creando una pista de auditoría similar a un registro de lote de fabricación.
5. Establecer monitorización continua, verificando la deriva de rendimiento de la misma manera que un equipo de calidad vigila las desviaciones del proceso.

No se trata de frenar la innovación. Se trata de asegurar que la innovación no supere la responsabilidad.

No tiene que construir este marco desde cero.

La guía ISPE GAMP de 290 páginas para IA ya es la hoja de ruta más autorizada de la industria, esto es lo que contiene.

→ Leer: Guía ISPE GAMP para IA en la industria farmacéutica: Guía de liderazgo

Un escenario del mundo real: ¿cuándo hubiera ayudado la gobernanza?

Para ver por qué esto importa más allá de la teoría, imagine una empresa farmacéutica de tamaño medio que utiliza un modelo de IA para señalar posibles señales de seguridad en los datos de un ensayo clínico. El modelo funciona bien durante la validación, por lo que se implementa en varios ensayos en curso. 

Con el tiempo, la población de pacientes en un ensayo cambia ligeramente, y la precisión del modelo deriva silenciosamente sin que nadie lo note, ya que nadie lo está monitorizando como monitorizarían un proceso de fabricación. Una señal de seguridad genuina se pasa por alto durante semanas antes de que un revisor humano detecte la discrepancia durante una auditoría de rutina.

Bajo un marco de gobernanza al estilo GMP, este escenario sería diferente. El modelo tendría un responsable asignado vigilando la deriva de rendimiento. La documentación mostraría exactamente cuándo y cómo se validó por última vez el modelo. 

Existiría un desencadenante para la reevaluación siempre que la población de pacientes subyacente cambiara de forma significativa. Nada de esto elimina el riesgo por completo, pero reduce la ventana en la que un problema puede pasar desapercibido, que es precisamente lo que GMP siempre ha hecho para la fabricación física.

¿Qué significa esto para la perspectiva competitiva de la industria farmacéutica?

Más allá del cumplimiento, una gobernanza sólida de la IA se está convirtiendo en una ventaja comercial genuina, no solo en una medida defensiva. Considere lo que está en juego:

1) Las empresas con una gobernanza de IA madura pueden avanzar más rápido durante la revisión regulatoria, ya que los inspectores confían más en sistemas documentados y auditables que en aquellos opacos.

2) Una gobernanza débil aumenta el riesgo de errores costosos, como un algoritmo defectuoso que apruebe un lote malo o que pase por alto una señal de seguridad en datos de ensayos.

3) Los inversores y socios cada vez integran la madurez de la gobernanza de IA en la debida diligencia, especialmente para acuerdos de licencia y adquisiciones.

4) Los adoptantes tempranos de marcos de gobernanza sólidos tienen más probabilidades de dar forma a las normas regulatorias emergentes, en lugar de apresurarse a cumplir reglas redactadas sin su participación.

5) La confianza pública, ya frágil en torno a la IA en la atención sanitaria, es más fácil de ganar y mantener para las empresas que pueden explicar claramente cómo se controlan y verifican sus algoritmos.

En una industria donde la confianza es el producto real que se vende junto con el medicamento, la gobernanza no es un sobrecoste. Es parte de lo que hace creíble al medicamento.

¡Resumiendo! 

La gobernanza de la IA en la industria farmacéutica sigue un camino que se parece notablemente al que recorrió GMP hace décadas: empezando como prácticas dispersas, endureciéndose gradualmente hasta convertirse en expectativas formales y, finalmente, volviéndose inseparable de lo que significa operar de forma responsable. 

Aún no está completamente establecida. Las normas siguen formándose, las auditorías siguen siendo difíciles y el talento para supervisarlo todo sigue siendo escaso. Pero la dirección es lo suficientemente clara como para que tratar la gobernanza de la IA como opcional sería un error. 

Así como ninguna empresa omitiría GMP y esperaría seguir en el negocio, las compañías que se toman en serio la gobernanza de la IA ahora, construyendo documentación, responsabilidades y monitorización en sus sistemas de IA desde el inicio, son las que tienen más probabilidades de ser confiables y exitosas cuando esto se convierta en el próximo estándar innegociable de la industria.

Preguntas frecuentes

1) ¿Qué es la gobernanza de la IA en la industria farmacéutica?

La gobernanza de la IA es un marco de políticas, procesos y controles que garantiza que los sistemas de inteligencia artificial operen de forma segura, ética y fiable a lo largo de su ciclo de vida. Ayuda a las organizaciones a validar modelos de IA, monitorizar su rendimiento y mantener la responsabilidad sobre las decisiones impulsadas por IA. Esto respalda el cumplimiento regulatorio a la vez que protege la calidad del producto y la seguridad del paciente.

2) ¿Por qué se compara la gobernanza de la IA con GMP?

La gobernanza de la IA y las Buenas Prácticas de Fabricación (GMP) comparten el objetivo común de garantizar coherencia, transparencia y confianza en las operaciones farmacéuticas. Mientras que GMP se centra en los procesos de fabricación, la gobernanza de la IA aplica principios similares al desarrollo, validación y monitorización de sistemas de inteligencia artificial. Juntas, ayudan a reducir riesgos y a asegurar una toma de decisiones fiable en toda la industria.

3) ¿Por qué es importante la gobernanza de la IA para el futuro de la industria farmacéutica?

A medida que la IA se utilice más en descubrimiento de fármacos, fabricación y desarrollo clínico, una gobernanza eficaz es esencial para gestionar riesgos y mantener la confianza regulatoria. Un marco sólido de gobernanza de la IA ayuda a las organizaciones a mejorar la responsabilidad, minimizar errores y generar confianza en los procesos habilitados por IA. También prepara a las empresas para las expectativas regulatorias evolutivas y futuros estándares de la industria.