Felices asesinas de la cárcel del condado de Cook subió al escenario en el musical de Chicago, estaban alineados en el mensaje:
Lo tenían viniendo, lo tuvieron viniendo todo el tiempo.
No lo hice.
Pero si lo hubiera hecho, ¿cómo podrías decirme que estaba equivocado?
Y la parte de la canción que encontré interesante fue el replanteamiento de sus acciones violentas a través de su lente moral: “Fue un asesinato, pero no un crimen.“
En resumen, el musical cuenta una historia de codicia, asesinato, injusticiay Culpable tramas Eso se desarrolla en un mundo donde la verdad es manipulada por los medios de comunicación, los abogados inteligentes y la fascinación pública con el escándalo.
Al ser solo un observador en la audiencia, es fácil enamorarse de sus historias retratadas a través de los ojos de la víctima, que simplemente respondía a situaciones intolerables.
Lógicamente, hay una explicación científica de por qué el cambio de culpa se siente satisfactorio. Atribuir eventos negativos a causas externas (otras personas o situaciones) Activa las regiones cerebrales asociadas con el procesamiento de recompensas. Si se siente bien, refuerza el comportamiento y lo hace más automático.
Esta interesante obra de culpabilidad está en el Teatro de la Vida ahora, donde los humanos también pueden comenzar a llamar al Herramientas alimentadas por LLMS por malas decisiones y resultados de la vida. Probablemente sacando el argumento de …
Diferencias artísticas
Sabiendo cómo las diferencias (artísticas o no) nos llevan a justificar nuestros malos actos y culpar a los demás, es solo sentido común asumir que haremos lo mismo con la IA y los modelos detrás de él.
Al buscar una parte responsable de las fallas relacionadas con la IA, un artículo “,”Es culpa de la IA, no la mía,“Revela un patrón de cómo los humanos atribuyen la culpa dependiendo de quién está involucrado y cómo están involucrados.
La investigación exploró dos preguntas clave:
- (1) ¿Culparíamos más a la IA si lo vimos como cualidades humanas?
- (2) ¿Y esto reduciría convenientemente la culpa de los interesados humanos (programadores, equipos, compañía, gobiernos)?
A través de tres estudios realizados a principios de 2022, antes del inicio “oficial” de la era generativa de la IA a través de la interfaz de usuario, la investigación examinó cómo los humanos distribuyen la culpa cuando los sistemas de IA cometen transgresiones morales, como mostrar sesgos raciales, exponer a los niños a contenido inapropiado o distribuir injustamente recursos médicos y encontrar lo siguiente:
Cuando la IA fue retratada con más capacidades mentales humanas, los participantes estaban más dispuestos a señalar los dedos al sistema de IA por fallas morales.
Otros hallazgos fueron que no todos los agentes humanos se bajaron por igual:
- Empresas Se benefició más de este juego de cambio de culpa, recibiendo menos culpa cuando la IA parecía más humana.
- Mientras tanto, Programadores de IA, equipos y reguladores gubernamentales No experimenté una culpa reducida independientemente de cuán mental pareciera la IA.
Y probablemente el descubrimiento más importante:
En todos los escenarios, AI recibió constantemente un porcentaje menor de culpa en comparación con los agentes humanos, y el Programador de IA o el equipo de IA cargado la más culpa carga.
¿Cómo se explicaron estos hallazgos?
La investigación sugirió que se trata de roles percibidos y claridad estructural:
- Empresas Con sus “estructuras complejas y a menudo opacas” se benefician de la culpa reducida cuando la IA parece más humana. Pueden distanciarse más fácilmente de los percances de IA y cambiar la culpa al sistema de IA aparentemente autónomo.
- Programadores Con su participación técnica directa en la creación de las características de IA se mantuvo firmemente responsable independientemente de la antropomorfización de IA. Sus “huellas digitales” en la arquitectura de toma de decisiones del sistema les hacen casi imposible reclamar “la IA actuó de forma independiente”.
- Entidades gubernamentales Con sus roles de supervisión regulatoria mantuvieron los niveles de culpa constantes (aunque más bajos en general), ya que sus responsabilidades para monitorear los sistemas de IA permanecieron claros, independientemente de cómo pareciera la IA humana.
Este “chivo expiatorio moral“Sugiere que la responsabilidad corporativa podría disolverse cada vez más a medida que los sistemas de IA parecen más autónomos y humanos.
Ahora dirías que esto es …
Todas esas tonterías
Los chivos expiatorios y culpando a otros ocurren cuando las apuestas son altas, y a los medios generalmente les gusta colocar un gran titular, con el villano:
De todos estos títulos, puede culpar instantáneamente al usuario final o desarrollador debido a la falta de conocimiento de cómo las nuevas herramientas (sí, herramientas!) se construyen y cómo deben usarse, implementarse o probarse, pero nada de esto ayuda cuando el daño ya está hecho, y alguien debe ser responsable de él.
Hablando de responsabilidad, no puedo omitir el Ley de AI de la UE Ahora, y su marco regulatorio que se coloca en el gancho AI proveedores, despliegue y importadoresdeclarando cómo:
“Los usuarios (implementadores) de sistemas de IA de alto riesgo tienen algunas obligaciones, aunque menos que los proveedores (desarrolladores)”.
Entonces, entre otros, la Ley explica diferentes clases de sistemas de IA y categorías sistemas de IA de alto riesgo como los utilizados en áreas críticas como la contratación, los servicios esenciales, la aplicación de la ley, la migración, la administración de justicia y los procesos democráticos.
Para estos sistemas, proveedores debe implementar un sistema de gestión de riesgos Eso identifica, analiza y mitiga los riesgos en todo el ciclo de vida del sistema AI.
Esto se extiende a un obligatorio sistema de gestión de calidad Cubriendo el cumplimiento regulatorio, los procesos de diseño, las prácticas de desarrollo, los procedimientos de prueba, la gestión de datos y el monitoreo posterior al mercado. Debe incluir “Un marco de responsabilidad que establece las responsabilidades de la gerencia y otro personal.“
Allende, despliegue de sistemas de IA de alto riesgo Es necesario implementar medidas técnicas apropiadas, garantizar la supervisión humana, monitorear el rendimiento del sistema y, en ciertos casos, conducir FEvaluaciones de impacto de los derechos indamentales.
Para endulzar esto sanciones por incumplimiento puede resultar en una multa de hasta 35 millones de euros o 7% de la facturación anual global.
Quizás ahora pienses, “Estoy fuera del gancho … soy solo el usuario final, y todo esto no es de mi preocupación“, Pero déjame recordarte los titulares ya existentes anteriores, donde ningún legislador podría Razzle Dazzle Un juez para creer inocente por aprovechar la IA en una situación laboral que afectó seriamente a otras partes.
Ahora que hemos aclarado esto, discutamos cómo todos pueden contribuir al círculo de responsabilidad de la IA.
Cuando eres bueno con AI, AI es bueno contigo
La verdadera responsabilidad en la tubería de IA requiere un compromiso personal de todos los involucrados, y con esto, lo mejor que puede hacer es:
- Educarte en AI: En lugar de confiar ciegamente en las herramientas de IA, aprenda primero cómo se construyen y qué tareas pueden resolver. Usted también puede clasificar sus tareas en diferentes críticas y comprender dónde es crucial que los humanos las entreguen, y dónde puede intervenir la IA humanoo independientemente.
- Construir un sistema de prueba: Cree listas de verificación personales para verificar las salidas de IA contra otras fuentes antes de actuar sobre ellas. Vale la pena mencionar aquí cómo un buen enfoque es tener más de una técnica de prueba y más de un probador humano. (¿Qué puedo decir, culpar al Buenas prácticas de desarrollo.)
- Cuestione las salidas (siempre, incluso con el sistema de prueba): Antes de aceptar las recomendaciones de IA, pregunte “¿Qué tan seguro estoy en esta salida?” y “¿Qué es lo peor que podría pasar si esto está mal y quién se verá afectado?”
- Documente su proceso: Mantenga registros de cómo usó las herramientas de IA, qué entradas proporcionó y qué decisiones tomó en función de las salidas. Si hizo todo por el libro y siguió los procesos, la documentación en el proceso de toma de decisiones respaldado por la IA será una evidencia crítica.
- Hablar sobre preocupaciones: Si nota los patrones problemáticos en las herramientas de IA que usa, infórmalos a los agentes humanos relevantes. Estar en silencio sobre los sistemas de IA que no funcionan el mal funcionamiento no es una buena estrategia, incluso si causó parte de este problema. Sin embargo, reaccionar a tiempo y asumir la responsabilidad es el camino a largo plazo hacia el éxito.
Finalmente, lo recomiendo Familiarizándose con las regulaciones para comprender sus derechos junto con las responsabilidades. Ningún marco puede cambiar el hecho de que las decisiones de IA transportan huellas digitales humanas y que los humanos considerarán a otros humanos, no las herramientas, responsables de los errores de IA.
A diferencia de los asesinos ficticios del musical de Chicago que bailaron en la culpa, en fallas de IA reales, el sendero de evidencia no desaparecerá con un abogado inteligente y una historia superficial.
¡Gracias por leer!
Si encontró esta publicación valiosa, no dude en compartirla con su red. 👏
Mantente conectado para más historias en Medio ✍️ y LinkedIn 🖇️.