La Organización Mundial de la Salud (OMS) publicó una nueva guía sobre la ética y la gobernanza de grandes modelos multimodales (LMM en inglés), un tipo de tecnología de inteligencia artificial (IA) generativa de rápido crecimiento con aplicaciones en toda la atención sanitaria.
La OMS dijo al presentar la guía que “las tecnologías de IA generativa tienen el potencial de mejorar la atención sanitaria, pero solo si quienes las desarrollan, regulan, utilizan, identifican y tienen plenamente en cuenta los riesgos asociados”.
La guía describe más de 40 recomendaciones para que las consideren gobiernos, empresas de tecnología y proveedores de atención médica, para garantizar el uso apropiado de LMM al promover y proteger la salud de las poblaciones.
Los LMM (con plataformas como ChatGPT, Bard y Bert) pueden aceptar uno o más tipos de entradas de datos, como texto, videos e imágenes, y generar resultados que no se limitan al tipo de datos introducidos.
Únicos en su imitación de la comunicación humana y en su capacidad para realizar tareas para las que no fueron programados explícitamente, los LMM se han adoptado más rápido que cualquier aplicación de consumo en la historia.
La nueva guía de la OMS describe cinco aplicaciones amplias de los LMM para la salud, la primera de las cuales está en el diagnóstico y atención clínica, por ejemplo, responder a las consultas escritas de los pacientes.
Otro beneficio es el uso guiado por el paciente, por ejemplo, para investigar síntomas y tratamientos.
Luego, en tareas administrativas y de oficina, como documentar y resumir las visitas de pacientes dentro de registros médicos electrónicos, y la educación médica y de enfermería, que incluye proporcionar a los alumnos encuentros simulados con pacientes.
Pero la guía advierte que si bien los LMM comienzan a utilizarse para fines específicos relacionados con la salud, también existen riesgos documentados de producir declaraciones falsas, inexactas, sesgadas o incompletas, que podrían perjudicar a quienes utilizan dicha información para tomar decisiones de salud.
Además, los LMM pueden estar entrenados con datos de mala calidad o sesgados, ya sea por raza, etnia, ascendencia, sexo, identidad de género o edad.
Los LMM también pueden fomentar un “sesgo de automatización” por parte de los profesionales de la salud y los pacientes, mediante el cual pueden pasar por alto errores que de otro modo se habrían identificado o se delegan incorrectamente decisiones difíciles a un LMM.
Esos modelos, al igual que otras formas de IA, también son vulnerables a riesgos de ciberseguridad, que podrían poner en peligro la información del paciente o la confiabilidad de sus algoritmos, y la prestación de atención médica en general.
Para crear LMM seguros y eficaces, la OMS subraya la necesidad de la participación de diversas partes interesadas: gobiernos, empresas de tecnología, proveedores de atención médica, pacientes y sociedad civil, en todas las etapas del desarrollo y despliegue de dichas tecnologías, incluida su supervisión y regulación.
La guía incluye recomendaciones para los gobiernos, que tienen la responsabilidad principal de establecer estándares para el desarrollo y despliegue de LMM y su integración y uso con fines médicos y de salud pública.
Según la OMS, los gobiernos deberían invertir o proporcionar infraestructura pública o sin fines de lucro, incluida potencia informática y conjuntos de datos públicos accesibles, para los desarrolladores de los sectores público, privado y sin fines de lucro, requiriendo que los usuarios se adhieran a principios y valores éticos.
LA MEJOR OPCIÓN PARA VER NUESTROS CONTENIDOS
Suscribite a El Diario de la República y tendrás acceso primero y mejor para leer online el PDF de cada edición papel del diario, a nuestros suplementos y a los clasificados web sin moverte de tu casaMás Noticias
