Enfoque pragmático de la IA en farmacovigilancia

Inteligencia artificial (IA) ha sido integrada rápidamente en diversos aspectos del sector farmacéutico, desde el descubrimiento de fármacos hasta la farmacovigilancia. En esta última, IA generativa (GenAI) tiene un potencial excepcional. Sin embargo, a medida que los sistemas de IA se desarrollan y se utilizan ampliamente en farmacovigilancia, es necesario evaluar sus implicaciones y su despliegue.

Es preciso establecer una comprensión común de los sistemas de IA y sus implicaciones para crear un entorno de IA confiable. Esto incluye identificar y evaluar sus ventajas, desventajas y riesgos potenciales. Establecer esta comprensión común permitirá que todas las partes interesadas colaboren eficazmente y desarrollen sistemas de IA que se alineen con los valores y expectativas sociales. La rápida adopción de la IA exige el desarrollo de un enfoque minucioso, confiable y centrado en el ser humano para garantizar que los sistemas de IA mantengan la privacidad, la equidad, la transparencia y el cumplimiento durante las actividades de farmacovigilancia.

El Unión Europea (UE) AI Act desempeña un papel crucial en el establecimiento de normas globales para el desarrollo responsable de los sistemas de IA. Establecer regulaciones similares y normas/prácticas recomendadas internacionales es igualmente esencial para garantizar el desarrollo e implementación responsables de los sistemas de IA. Sin embargo, esto probablemente enfrentará varios desafíos.

Desafíos en la integración de la IA en farmacovigilancia

Las empresas de ciencias de la vida enfrentan varios desafíos en la integración de la IA en farmacovigilancia, como los siguientes:

• Expectativas de la dirección: La dirección está sometida a una inmensa presión por parte de las partes interesadas para modernizar los procesos actuales con tecnologías de IA. Sin embargo, esto es complicado ya que todos los sistemas de seguridad en farmacovigilancia contienen información esencial. La integración adecuada es crucial para garantizar que la empresa mantenga el cumplimiento normativo y proteja todos los datos.
• Preocupaciones de la fuerza laboral: La fuerza laboral en el ámbito de la farmacovigilancia suele incluir enfermeras, médicos, farmacéuticos y científicos que tienen preocupaciones sobre la seguridad laboral debido a la automatización. Por tanto, la mejora de competencias y la formación son esenciales para asegurar que la plantilla actual acepte y adopte las nuevas tecnologías de IA.
• Demandas de los proveedores: Los proveedores que ofrecen sistemas/servicios de seguridad están bajo presión para integrar herramientas de IA en sus soluciones cumpliendo al mismo tiempo con complejos requisitos legales y regulatorios globales. Sin embargo, satisfacer esta expectativa es un desafío.

Marco legal

El desarrollo de productos farmacéuticos está altamente regulado porque garantiza que el producto final desarrollado y aprobado sea seguro y eficaz. A medida que las empresas intentan integrar la IA, deben navegar por los marcos regulatorios existentes. Cada marco plantea desafíos únicos.

Unión Europea

La UE encabeza todos los marcos regulatorios en la integración de la IA mediante el EU AI Act. Esta Ley clasifica los sistemas de IA en función de los riesgos potenciales y establece requisitos de implementación. Generalmente, se dividen en tres:

• Aplicaciones de alto riesgo: Estas aplicaciones están sujetas a una supervisión estricta.
• Aplicaciones prohibidas: Ciertas aplicaciones de sistemas de IA, como las tecnologías de reconocimiento facial y de emociones, están totalmente prohibidas.
• Aplicaciones permitidas/exenciones: Algunas aplicaciones de IA, como IA en medicina en investigación y desarrollo, están permitidas pero deben adherirse a principios de gobernanza y responsabilidad.

El incumplimiento del EU AI Act puede conllevar varias sanciones económicas, es decir, entre el 3% y el 7% de los ingresos globales de la empresa. Si bien la mayoría de los sistemas de IA para el desarrollo de fármacos probablemente no se clasifiquen como “high-risk, " una orientación adicional sobre la aplicación del AI Act aportará claridad y certeza.

Estados Unidos

Estados Unidos no tiene regulaciones integrales para la implementación de sistemas de IA. En su lugar, las regulaciones de IA se están implementando a través de diversas acciones a nivel federal y estatal. Algunas acciones clave incluyen:

• Orden Ejecutiva 14110: Emitida en octubre de 2023, la Orden Ejecutiva 14110 fomenta la colaboración de todas las agencias federales para desarrollar directrices sobre el uso seguro de la IA en industrias y tecnologías específicas.
• NIST RMF: Esto fue desarrollado por más de 240 miembros de la industria privada, la academia y el gobierno. Proporciona un marco para el desarrollo confiable de sistemas de IA. Tiene como objetivo ayudar a las organizaciones a abordar y gestionar los riesgos de la IA.

Existen diversas legislaciones de privacidad emergentes, como la American Privacy Rights Act de 2024, que pretende influir en las leyes de IA centrándose en el impacto de la evaluación para el procesamiento y la transferencia de datos. Sin embargo, estas legislaciones aún están en una fase incipiente y pueden seguir siendo influenciadas por varios factores socioeconómicos y políticos (por ejemplo, las elecciones presidenciales en diciembre de 2024).

Tendencias globales

A nivel mundial, la regulación de la IA también está cobrando reconocimiento, y muchos países están adoptando enfoques distintos para regular la IA. Dado que la IA tiene un impacto similar en distintas regiones y países, muchos sectores del público y numerosos Estados han fomentado la cooperación internacional con organismos como las Naciones Unidas (UN) y la Organization for Economic Co-operation and Development (OECD) para establecer normas globales para el desarrollo e implementación éticos de la IA.

Muchos países, como Rwanda, Nigeria y South Africa, están usando la EU AI Act como modelo para desarrollar sus propias regulaciones sobre IA. Otros países como China no están adoptando un enfoque unificado sobre la IA, sino que están implementando reglas específicas para diferentes sistemas de IA.

Por lo tanto, en el ámbito global, cada país está navegando de forma individual las regulaciones de IA según sus estándares éticos y comerciales. Sin embargo, una legislación o regulación global podría beneficiar a todos los países y guiar el uso y desarrollo seguro de los sistemas de IA.

Casos de uso actuales de la IA en farmacovigilancia

Las empresas están integrando rápidamente sistemas de IA para automatizar tareas y reducir labores humanas —y, por extensión, errores humanos. Existen muchas aplicaciones de la IA en farmacovigilancia. A continuación se presentan algunas de las aplicaciones más destacadas:

• Informes individuales de seguridad de casos (ICSR): Los bots basados en reglas y las técnicas de procesamiento de lenguaje natural pueden automatizar el procesamiento e ingreso de casos.
• Control de calidad y supervisión de cumplimiento: Los sistemas automatizados, incluidos los que incorporan IA, pueden automatizar la validación de datos, la auditoría y la detección de anomalías para garantizar la calidad de los datos y el cumplimiento.
• Detección y gestión de señales: Las herramientas automatizadas pueden transferir información de seguridad desde sistemas fuente, reduciendo el esfuerzo manual. A continuación, los algoritmos de machine learning pueden realizar minería de datos y reconocimiento de patrones.

Casos de uso emergentes de GenAI en farmacovigilancia

GenAI mejora la eficiencia de los procesos, proporciona conocimientos y facilita la toma de decisiones. Por ello, puede implementarse ampliamente en farmacovigilancia. A continuación, algunas de las aplicaciones más destacadas:

• Creación de ICSR: La IA puede generar ICSR a partir de fuentes de datos estructuradas y no estructuradas.
• Evaluación médica: La IA puede automatizar las valoraciones de gravedad y causalidad.
• Generación de narrativas y documentos: Los modelos de lenguaje grandes (LLMs) pueden generar narrativas detalladas de casos sin errores manuales, mejorando la eficiencia operativa. Los LLMs también pueden redactar informes regulatorios exhaustivos.
• Notificación de eventos adversos: Los chatbots con IA pueden mejorar la puntualidad y precisión de la recogida de datos. Por ejemplo, la comunicación de seguimiento con pacientes también puede automatizarse con IA, garantizando la recolección de datos a tiempo.
• Identificación y caracterización de señales: Los LLMs pueden analizar datos de diferentes fuentes para detectar señales de seguridad de forma temprana, reduciendo el tiempo de retraso y los falsos positivos.
• Consultas de datos en tiempo real: Los LLMs pueden mejorar la interacción con repositorios de datos, proporcionando conocimientos en tiempo real para una validación de señales más rápida.

Futuros modelos operativos y transformación de la plantilla

A medida que las empresas adopten IA o GenAI, deben adaptar estos sistemas a sus requisitos específicos de farmacovigilancia manteniendo la supervisión de cómo se desarrollan y despliegan los sistemas de IA. Las empresas deben fomentar la colaboración y el compromiso con las partes interesadas internas y externas para compartir buenas prácticas y abordar desafíos.

Al integrar nuevos modelos operativos, las organizaciones deben adoptar un enfoque a medida. A continuación se presentan algunas mejores prácticas organizativas al implementar IA en farmacovigilancia:

1. Responsabilidad y gobernanza: Las organizaciones deben establecer un comité de gobernanza de IA para supervisar la estrategia de IA y el cumplimiento. Debe desarrollarse y actualizarse regularmente un marco de gobernanza de IA. También deberán nombrar a un representante para vigilar todas las implicaciones éticas y garantizar el cumplimiento.
2. Transparencia y explicabilidad: Durante el desarrollo y despliegue de la IA, las empresas deben priorizar la transparencia. Se debe mantener documentación exhaustiva sobre el desarrollo, las pruebas y el rendimiento de los sistemas de IA.
3. Supervisión y control humano: La supervisión humana es necesaria en los casos de uso de IA de alto riesgo. Con este fin, pueden implementarse enfoques human-in/on-the-loop para mantener el juicio humano en la toma de decisiones liderada por IA.
4. Equidad y no discriminación: Las empresas deben priorizar la equidad y la no discriminación durante el desarrollo y despliegue de la IA. Se deben realizar evaluaciones periódicas de sesgos y utilizar conjuntos de entrenamiento diversos para evitar la discriminación.
5. Privacidad y gobernanza de datos: Establezca prácticas sólidas de gobierno de datos y principios de privacidad desde el diseño. Debe verificarse la titularidad de todo el contenido y los datos generados por IA para asegurar que no infringen derechos de propiedad intelectual.

Además, existen varias consideraciones de proceso al implementar sistemas de IA:

1. Evaluación de riesgos: Las organizaciones deben evaluar el riesgo de todos los sistemas de IA implementados en farmacovigilancia y desarrollar análisis de riesgo y medidas de mitigación apropiadas.
2. Gestión de proveedores: Al utilizar proveedores de IA, se deben establecer los roles de todas las personas. Además, la titularidad de los datos y el consentimiento para su uso deben quedar claros. Se debe evaluar periódicamente el cumplimiento de los proveedores con los requisitos regulatorios y la estructura de gobierno interna de la empresa. Deben establecerse las consecuencias por incumplimiento y las consecuencias de la terminación del contrato.
3. Validación: Las técnicas de validación deben integrarse con los sistemas de IA para asegurar la trazabilidad de las fuentes de datos.
4. Monitoreo continuo: Monitoreo y comprobaciones continuas deben asegurar que el sistema opere de forma segura. Las empresas deben definir métricas razonables de éxito para determinar el éxito del proyecto. Son necesarias evaluaciones de calidad frecuentes para mantener el cumplimiento.

Conclusión

La integración de la IA en farmacovigilancia presenta diversas oportunidades. Sin embargo, debe establecerse una estrategia colaborativa para asegurar que los sistemas de IA desarrollados y desplegados cumplan con las expectativas. Aunque este desarrollo es beneficioso, probablemente será un desafío dado que las regulaciones sobre IA aún están en evolución. A medida que las empresas navegan individualmente por los ámbitos legislativos y regulatorios y tratan de desarrollar su propio marco regulatorio para la IA, pueden mantener el cumplimiento desarrollando marcos internos de gobernanza. A medida que aumenten los casos de uso de la IA en farmacovigilancia, las empresas deben crear sus estrategias de IA y adaptarlas a la nueva legislación y a los desarrollos.