Menos de dos meses desde que la Administración Biden publicó su amplia orden ejecutiva sobre inteligencia artificialla Casa Blanca anunció el jueves nuevos compromisos con la transparencia, la gestión de riesgos y la responsabilidad de la IA por parte de más de dos docenas de organizaciones sanitarias líderes.
POR QUÉ IMPORTA
La EO de la Casa Blanca, que fue publicado el 30 de octubre, y tiene una amplia gama de disposiciones centradas en una IA “segura y confiable” en muchos sectores de la economía, contiene varias disposiciones específicas de atención médica en sus casi 20,000 palabras. En particular, ordena al Departamento de Salud y Servicios Humanos de EE. UU. que establezca un mecanismo para recopilar informes de “daños o prácticas sanitarias inseguras”.
El 14 de diciembre, coincidiendo con el día inaugural del Foro HIMSS AI in Healthcare Forum en San Diego, la Administración Biden anunció nuevos compromisos voluntarios en torno a la seguridad de la IA en el sector sanitario por parte del sector privado.
Específicamente, un grupo de 28 proveedores y pagadores han anunciado hoy compromisos voluntarios hacia un uso y compra más transparentes y confiables de herramientas basadas en IA, y esfuerzos para desarrollar sus modelos de máquinas de manera más responsable. Ellos son:
-
Salud Allina
-
Red de atención médica Bassett
-
Hospital de niños de Boston
-
Salud Curai
-
Salud CVS
-
Salud Dedicada
-
Salud del Duque
-
Emory Salud
-
Endeavour Salud
-
Sistemas de salud Fairview
-
Geisinger
-
Meridiano de Hackensack
-
SaludPrimero (Florida)
-
Metodista de Houston
-
Salud de John Muir
-
Medicina Keck
-
Salud de la línea principal
-
General de masa Brigham
-
Universidad Médica de Carolina del Sur
-
Óscar Salud
-
OSF Cuidado de la Salud
-
Cruz Azul Premera
-
Sistema Universitario Rush para la Salud
-
Salud Sanford
-
Medicina de mechones
-
Salud de la Universidad de California en San Diego
-
Salud de la Universidad de California en Davis
-
Salud WellSpan
“Los compromisos recibidos hoy servirán para alinear la acción de la industria sobre la IA en torno a los principios “FAVES”: que la IA debe conducir a resultados de atención médica que sean justos, apropiados, válidos, eficaces y seguros”, dijo la asesora económica nacional, Lael Brainard, Política Nacional. La asesora Neera Tanden y la directora de la Oficina de Política Científica y Tecnológica, Arati Prabhakar, en anunciando el nuevo compromiso de estas organizaciones líderes.
Como parte del acuerdo, las organizaciones sanitarias han prometido:
-
Informar a los pacientes y clientes cuando se les muestra contenido sustancialmente generado por IA y no revisado ni editado por personas.
-
Adoptar y adherirse a un marco de gestión de riesgos para el uso de aplicaciones impulsadas por IA, uno que les ayude a monitorear y mitigar daños potenciales.
-
Investigar y desarrollar nuevos enfoques para la IA que “promuevan la equidad en salud, amplíen el acceso a la atención, hagan que la atención sea asequible, coordinen la atención para mejorar los resultados, reduzcan el agotamiento de los médicos y mejoren la experiencia de los pacientes”.
LA TENDENCIA MÁS GRANDE
Los nuevos compromisos llegan durante una semana ocupada de noticias sobre la IA sanitaria. El miércoles, la Oficina del Coordinador Nacional de TI en Salud publicado su norma final sobre datos de salud, tecnología e interoperabilidad: actualizaciones del programa de certificación, transparencia de algoritmos e intercambio de información, o HTI-1.
Entre otras disposiciones centradas en la interoperabilidad y el bloqueo de información, las tan esperadas regulaciones tener un enfoque especial en la transparencia del algoritmo de IA. Incluyen requisitos de que los algoritmos predictivos incluidos en la TI de salud certificada “hagan posible que los usuarios clínicos accedan a un conjunto de información básica y consistente sobre los algoritmos que utilizan para respaldar su toma de decisiones y evaluar dichos algoritmos en cuanto a imparcialidad, idoneidad, validez y eficacia”. y seguridad”, según la ONC.
Mientras tanto, en San Diego, cientos de líderes clínicos y tecnológicos se encuentran actualmente reunidos en el Foro de IA de HIMSS en el sector sanitario explorar las promesas y los riesgos de la inteligencia artificial en todas sus manifestaciones, centrándose en los desafíos y oportunidades en torno a la regulación, la seguridad del paciente, la privacidad y la protección, la explicabilidad y muchos más imperativos. Vuelve a consultar Noticias de TI para el cuidado de la salud en los próximos días y semanas para obtener más cobertura y videos del programa.
EN EL REGISTRO
“Debemos permanecer atentos para hacer realidad la promesa de la IA de mejorar los resultados de salud”, dijeron funcionarios de la Casa Blanca al promocionar las nuevas promesas de las organizaciones de atención médica. “Sin las pruebas adecuadas, la mitigación de riesgos y la supervisión humana, las herramientas basadas en IA utilizadas para las decisiones clínicas pueden cometer errores que, en el mejor de los casos, son costosos y, en el peor, peligrosos.
“Los compromisos del sector privado anunciados hoy son un paso crítico en nuestro esfuerzo de toda la sociedad para promover la IA para la salud y el bienestar de los estadounidenses”, agregaron. “Estos 28 proveedores y pagadores han dado un paso adelante y esperamos que más se unan a estos compromisos en las próximas semanas”.
Mike Miliard es editor ejecutivo de Healthcare IT News
Envíe un correo electrónico al escritor: mike.miliard@himssmedia.com
Healthcare IT News es una publicación de HIMSS.