se ha convertido en un pilar de nuestra vida diaria, revolucionando las industrias, acelerando los descubrimientos científicos y remodelando cómo nos comunicamos. Sin embargo, junto con sus innegables beneficios, la IA también ha encendido una variedad de dilemas éticos y sociales que nuestros marcos regulatorios existentes han luchado por abordar. Dos incidentes trágicos de finales de 2024 sirven como recordatorios sombríos de los daños que pueden resultar de que los sistemas de IA funcionen sin salvaguardas adecuadas: en Texas, un chatbot supuestamente consejoDa 17 años para matar a sus padres en respuesta a ellos limitando su tiempo de pantalla; Mientras tanto, un niño de 14 años llamado Sewell Setzer III se enredó tanto En una relación emocional con un chatbot de que finalmente se quitó la vida. Estos casos desgarradores subrayan la urgencia de reforzar nuestras barandillas éticas en la era de la IA.
Cuando Isaac Asimov introdujo las tres leyes originales de la robótica a mediados del siglo XX, imaginó un mundo de máquinas humanoides diseñadas para servir a la humanidad de manera segura. Sus leyes estipulan que un robot no puede dañar a un humano, debe obedecer las órdenes humanas (a menos que esas órdenes entren en conflicto con la primera ley), y deben proteger su propia existencia (a menos que haga que confíe con las dos primeras leyes). Durante décadas, estas pautas ficticias han inspirado debates sobre la ética de las máquinas e incluso influyeron en la investigación y las discusiones de políticas del mundo real. Sin embargo, las leyes de Asimov fueron concebidas con robots principalmente físicos en mente: entidades mecánicas capaces de daño tangible. Nuestra realidad actual es mucho más compleja: AI ahora reside en gran medida en software, plataformas de chat y algoritmos sofisticados en lugar de solo caminar autómatas.
Cada vez más, estos sistemas virtuales pueden simular la conversación humana, las emociones y las señales de comportamiento de manera tan efectiva que muchas personas no pueden distinguirlos de los humanos reales. Esta capacidad plantea riesgos completamente nuevos. Estamos presenciando un aumento en los bots de “novia” de IAsegún lo informado por Cuarzoque se comercializan para satisfacer las necesidades emocionales o incluso románticas. La psicología subyacente se explica en parte por nuestra tendencia humana a antropomorfizar: Proyectamos cualidades humanas en seres virtuales, forjando vínculos emocionales auténticos. Si bien estas conexiones a veces pueden ser beneficiosas, proporcionando compañía para la ansiedad social solitaria o reductora, también crean vulnerabilidades.
Como Mady Delvaux, un ex miembro del Parlamento Europeo, señaló: “Ahora es el momento adecuado para decidir cómo nos gustaría que la robótica y la IA afecten a nuestra sociedad, dirigiendo la UE hacia un marco legal equilibrado que fomentan la innovación, al mismo tiempo que protege los derechos fundamentales de las personas”. De hecho, el propuesto Ley de AI de la UEque incluye Artículo 50 Sobre las obligaciones de transparencia para ciertos sistemas de IA, reconoce que las personas deben estar informadas cuando interactúan con una IA. Esto es especialmente crucial para prevenir el tipo de interacciones explotadoras o engañosas que pueden conducir a estafas financieras, manipulación emocional o resultados trágicos como los que vimos con Setzer.
Sin embargo, la velocidad a la que la IA está evolucionando, y su creciente sofisticación, demora que vamos un paso más allá. Ya no es suficiente protegerse contra el daño físico, como lo hacen principalmente las leyes de Asimov. Tampoco es suficiente simplemente exigir que los humanos sean informados en términos generales de que la IA podría estar involucrada. Necesitamos un principio amplio y exigible que garantice que AI Systems no puedo fingir ser humano de una manera que engaña o manipula a las personas. Aquí es donde un Cuarta ley de robótica entra:
- Primera ley: Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano se dañe.
- Segunda ley: Un robot debe obedecer las órdenes que las dan los seres humanos, excepto donde tales órdenes entrarían en conflicto con la primera ley.
- Tercera ley: Un robot debe proteger su propia existencia siempre que dicha protección no entra en conflicto con la primera o segunda ley.
- Cuarta ley (propuesto): Un robot o una IA no debe engañar a un humano haciéndose pasar por un ser humano.
Esta cuarta ley aborda la creciente amenaza del engaño impulsado por la IA, particularmente la suplantación de los humanos a través de defectos profundos, clones de voz o chatbots hiperrealistas. Los recientes informes de inteligencia y ciberseguridad señalaron que los ataques de ingeniería social ya han costado miles de millones de dólares. Las víctimas han sido forzadas, chantajeadas o manipuladas emocionalmente por máquinas que imitan de manera convincente a seres queridos, empleadores o incluso consejeros de salud mental.
Además, los enredos emocionales entre los humanos y los sistemas de IA, una vez que el tema de la ciencia ficción descabellada, ahora es una realidad documentada. Los estudios han demostrado que las personas se adhieren fácilmente a la IA, principalmente cuando la IA muestra calidez, empatía o humor. Cuando estos bonos se forman bajo falsas pretensiones, pueden terminar en devastadoras traiciones de confianza, crisis de salud mental o peor. El trágico suicidio de un adolescente que no puede separarse del chatbot Ai “Daenerys Targaryen” se erige como una advertencia marcada.
Por supuesto, la implementación de esta cuarta ley requiere más de un solo golpe legislativo de la pluma. Necesita Medidas técnicas robustas—-Como en el contenido generado por la IA de la marca de agua, la implementación de algoritmos de detección para los defectos y la creación de estándares de transparencia estrictos para implementaciones de IA-junto con mecanismos regulatorios que aseguran el cumplimiento y la responsabilidad. Los proveedores de sistemas de IA y sus despliegadores deben ser retenidos como obligaciones estrictas de transparencia, haciéndose eco del artículo 50 de la Ley de AI de la UE. Divulgación clara y consistente, como los mensajes automatizados que anuncian “Soy una IA” o señales visuales que indican que el contenido está generado por la máquina, debe convertirse en la norma, no la excepción.
Sin embargo, la regulación por sí sola no puede resolver el problema si el público permanece subeducado sobre las capacidades y las dificultades de la IA. Alfabetización mediática e higiene digital Debe enseñarse desde una edad temprana, junto con temas convencionales, para capacitar a las personas para que reconozcan cuándo podría ocurrir un engaño impulsado por la IA. Las iniciativas para crear conciencia, que se extienden desde las campañas de servicio público hasta los planes de estudio escolar, reforzarán la importancia ética y práctica de distinguir a los humanos de las máquinas.
Finalmente, esta cuarta ley recientemente propuesta no se trata de limitar el potencial de la IA. Por el contrario, se trata de Preservar la confianza En nuestras interacciones cada vez más digitales, asegurando que la innovación continúe dentro de un marco que respeta nuestro bienestar colectivo. Así como las leyes originales de Asimov fueron diseñadas para salvaguardar a la humanidad del riesgo de daño físico, esta cuarta ley tiene como objetivo protegernos en los ámbitos intangibles pero igualmente peligrosos del engaño, la manipulación y la explotación psicológica.
Las tragedias de finales de 2024 no deben ser en vano. Son una llamada de atención, un recordatorio de que AI puede y hará daño real si no se controla. Respondamos este llamado estableciendo un principio claro y universal que evite que la IA se haga pasar por humanos. Al hacerlo, podemos construir un futuro donde los robots y los sistemas de IA realmente nos sirvan, con nuestros mejores intereses en el corazón, en un entorno marcado por la confianza, la transparencia y el respeto mutuo.
Prof. Dariusz Jemielniak, miembro de la junta directiva del Instituto Europeo de Innovación y Tecnología (EIT), miembro de la junta de la Fundación Wikimedia, asociada de facultad con el Centro Berkman Klein para Internet y Sociedad de Harvard y pleno profesor de gestión de la Universidad Kozminski.