Agencias federales como la FDA y HHS han establecido programas de seguridad para garantizar el uso seguro y confiable de la inteligencia artificial en diversos sectores, incluida la atención médica.
Los ejecutivos de salud digital transmitieron sus recomendaciones, consejos y sugerencias a los reguladores que configuran reglas sobre el uso de la IA en la atención médica para MobiSaludNoticiasincluida la señalización del contenido generado por IA y la construcción de marcos regulatorios existentes.
Ann Bilyew, vicepresidenta sénior, directora general de salud y grupo, WebMD Encender
“No se exceda. Muchas de las protecciones que necesitamos ya están contenidas en regulaciones preexistentes como HIPAA en los EE. UU. y GDPR en Europa. Es posible que sea necesario modificar o revisar algunas regulaciones específicas, pero los marcos están ahí.
Sam Glassenberg, director ejecutivo y fundador de Nivel Ex
“El contenido generado por IA debe cumplir con los mismos estándares que cualquier otro contenido en el ámbito de la atención sanitaria (revisión por pares, datos/citas transparentes, etc.), con una salvedad importante. El contenido generado por IA siempre debe marcarse como tal. Es crucial que en cualquier proceso de revisión de contenido, si el contenido es generado por IA, debe marcarse como generado por IA para todos los revisores.
Los escritores humanos pueden cometer errores de copia o malinterpretar un concepto, etc., pero si no comprenden un concepto, probablemente evitarán escribir con demasiada profundidad o detalle. GenAI es todo lo contrario: producirá información médica completamente incorrecta con un detalle increíble. Si no existen referencias o datos, los inventará, ampliando información incorrecta que hace que su contenido sea más creíble a expensas de la precisión. Es crucial que en cualquier proceso de revisión de contenido, si el contenido se genera mediante IA, debe marcarse como generado por IA para todos los revisores”.
Kevin McRaith, presidente y director ejecutivo de biendoc
“En primer lugar, los reguladores deberán acordar los controles necesarios para integrar de forma segura y eficaz la IA en las múltiples facetas de la atención sanitaria, teniendo en cuenta los riesgos y las buenas prácticas de fabricación.
En segundo lugar, los reguladores deben ir más allá de los controles para proporcionar a la industria directrices que hagan viable y factible que las empresas prueben e implementen en entornos del mundo real. Esto ayudará a apoyar la innovación, el descubrimiento y la necesaria evolución de la IA”.
Amit Khanna, vicepresidente senior y director general de salud de Fuerza de ventas
“Necesitamos que los reguladores definan y establezcan límites claros para los datos y la privacidad y, al mismo tiempo, permitan que la tecnología transforme la industria. Los reguladores deben garantizar que las regulaciones no creen jardines amurallados/silos en la atención médica, sino que minimicen el riesgo y permitan que la IA reducir el costo de la detección, la prestación de atención y la investigación y el desarrollo”.
Dr. Peter Bonis, director médico de Wolters Kluwer Salud
“La orden ejecutiva sobre el desarrollo y uso seguro y confiable de la inteligencia artificial ha superpuesto un conjunto de directivas a varias agencias federales para establecer regulaciones de IA. Estas directivas deben considerarse en el contexto de un marco regulatorio existente que afecta una variedad de aplicaciones de atención médica. La claridad y la navegabilidad serán cruciales para lograr un equilibrio que cree un conjunto constructivo de orientación regulatoria que no sofoque la innovación. Las agencias federales que desarrollan tales políticas deben hacerlo de manera transparente, con la participación del público y otras partes interesadas y, fundamentalmente, con rica colaboración interinstitucional”.
Eran Orr, director ejecutivo de XRSalud
“Los pacientes necesitan saber desde el principio cuándo algo está basado en IA y no en un médico real. Es necesario que haya una divulgación completa a los pacientes cuando ese sea el caso. La industria necesita cerrar la brecha desde donde nos encontramos hoy en términos de IA. herramientas; sin embargo, la asistencia sanitaria no tiene margen de error: debe ser totalmente fiable desde el principio”.