La inteligencia artificial generativa está transformando el campo de la salud, revolucionando procesos desde la gestión del cuidado hasta el compromiso con el paciente. Los avances en esta tecnología permiten que los profesionales médicos mejoren la atención a través de sistemas automatizados y herramientas de apoyo diagnóstico, ofreciendo sugerencias personalizadas y oportunas. Un estudio reciente demuestra que los estudiantes de medicina que utilizaron retroalimentación proporcionada por modelos de lenguaje grandes (LLM) mostraron mejoría significativa en su toma de decisiones clínicas.
Los modelos de lenguaje grande, esenciales para la mayoría de los sistemas de IA generativa, promueven la creación de productos en áreas como facturación, diagnóstico, tratamiento e investigación, operando de modo independiente pero bajo supervisión humana. La implementación de estos sistemas requiere una cuidadosa planificación y ejecución para minimizar riesgos y efectos sobre el servicio de salud. En el diseño de aplicaciones de IA generativa, es crucial establecer políticas que determinen insumos y resultados, guiando así un desarrollo responsable y seguro.
Los riesgos potenciales, como la confabulación y el sesgo, deben ser reconocidos, ya que pueden generar respuestas incorrectas o exacerbar desigualdades. Por ello, la transparencia y la responsabilidad a lo largo del ciclo de vida de la IA son esenciales. Documentar fuentes de datos, decisiones de diseño y limitaciones a través de herramientas como las “fichas de modelo” facilita la evaluación del sistema y permite a los usuarios tomar decisiones informadas.
Para proteger la privacidad de los pacientes y la seguridad de los datos, las mejores prácticas de seguridad deben ser integradas en cada capa de las aplicaciones de IA. Estas aplicaciones son susceptibles a ataques adversariales; por ello, se recomienda realizar evaluaciones de riesgo y establecer salvaguardias que controlen las entradas y salidas del sistema.
La IA generativa tiene el potencial de mejorar drásticamente el cuidado de la salud al elevar la calidad del servicio, la experiencia del paciente y la seguridad clínica. Sin embargo, es fundamental que el diseño y operación de estas aplicaciones consideren sistemáticamente sus limitaciones, estableciendo un marco de gobernanza que asegure la confianza y seguridad esperadas por los usuarios.
