A medida que la tecnología de inteligencia artificial (IA) continúa avanzando y permeando diversos aspectos de la sociedad, plantea desafíos importantes a los marcos legales existentes. Una cuestión recurrente es cómo la ley debe regular a las entidades que carecen de intenciones. Los principios legales tradicionales a menudo se basan en el concepto de mens rea, o el estado mental del actor, para determinar la responsabilidad en áreas como la libertad de expresión, los derechos de autor y el derecho penal. Sin embargo, los agentes de IA, tal como existen actualmente, no poseen intenciones de la misma manera que los humanos. Esto presenta una posible laguna legal por la cual el uso de IA podría quedar inmune a la responsabilidad simplemente porque estos sistemas carecen del estado mental requerido.
Un nuevo artículo de la Facultad de Derecho de Yale, ‘La ley de la IA es la ley del riesgo.En su artículo “Agentes sin intenciones”, se aborda este problema crítico proponiendo el uso de estándares objetivos para regular la IA. Estos estándares se extraen de varias partes de la ley que atribuyen intención a los actores o los someten a estándares objetivos de conducta. El argumento central es que los programas de IA deben considerarse herramientas utilizadas por seres humanos y organizaciones, lo que hace que estos sean responsables de las acciones de la IA. Debemos entender que el marco legal tradicional depende del estado mental del actor para determinar la responsabilidad, lo que no es aplicable a los agentes de IA que carecen de intenciones. Por lo tanto, el documento sugiere cambiar a estándares objetivos para cerrar esta brecha. El autor sostiene que los humanos y las organizaciones que utilizan IA deben asumir la responsabilidad por cualquier daño causado, de manera similar a cómo los principales son responsables de sus agentes. Además, enfatiza la imposición de deberes de cuidado razonable y reducción de riesgos a quienes diseñan, implementan y despliegan tecnologías de IA. Es necesario establecer estándares y reglas legales claras para garantizar que las empresas que se dedican a la IA internalicen los costos asociados con los riesgos que sus tecnologías imponen a la sociedad.
El artículo presenta una comparación interesante entre los agentes de IA y la relación principal-agente en el Derecho de responsabilidad civil, que ofrece un marco valioso para comprender cómo se debe asignar la responsabilidad en el contexto de las tecnologías de IA. En el derecho de responsabilidad civil, los principales son considerados responsables de las acciones de sus agentes cuando esas acciones se realizan en nombre del principal. responder superior es una aplicación específica de este principio, según la cual los empleadores son responsables de los agravios cometidos por sus empleados en el curso de su empleo. Cuando las personas u organizaciones utilizan sistemas de IA, estos sistemas pueden considerarse agentes que actúan en su nombre. La idea central es que la responsabilidad legal por las acciones de los agentes de IA debe atribuirse a los principales humanos que los emplean. Esto garantiza que las personas y las empresas no puedan eludir la responsabilidad simplemente utilizando la IA para realizar tareas que, de otro modo, realizarían agentes humanos.
Por lo tanto, dado que los agentes de IA carecen de intenciones, la ley debería obligarlos a ellos y a sus directores humanos a cumplir estándares objetivos que incluyan:
- Negligencia: los sistemas de IA deben diseñarse con un cuidado razonable.
- Responsabilidad estricta: en determinadas aplicaciones de alto riesgo, como deberes fiduciarios, es posible que se requiera el más alto nivel de cuidado.
- No se reduce el deber de cuidado: sustituir un agente humano por un agente de IA no debería dar lugar a una reducción del deber de cuidado. Por ejemplo, si una IA celebra un contrato en nombre de un mandante, este sigue siendo plenamente responsable de los términos y las consecuencias del contrato.
El documento también analiza y aborda el desafío de regular los programas de IA, que inherentemente carecen de intenciones, dentro de los marcos legales existentes que a menudo se basan en el concepto de mens rea (el estado mental del actor) para asignar responsabilidad. Dice que en contextos legales tradicionales, la ley a veces atribuye intenciones a entidades que carecen de intenciones humanas claras, como corporaciones o asociaciones, y obliga a los actores a cumplir estándares externos de comportamiento, independientemente de sus intenciones reales. Por lo tanto, el documento sugiere que la ley debería tratar los programas de IA como si tuvieran intenciones, presumiendo que pretenden la consecuencia razonable y previsible de sus acciones. Este enfoque haría responsables a los sistemas de IA de los resultados de una manera similar a cómo se trata a los actores humanos en ciertos contextos legales. El documento también analiza la cuestión de la aplicación de estándares subjetivos, que normalmente se utilizan para proteger la libertad humana, a los programas de IA. Dice que el argumento principal es que los programas de IA carecen de la autonomía individual y la libertad política que justifican el uso de estándares subjetivos para los actores humanos. Da el ejemplo de la protección de la Primera Enmienda, que equilibra los derechos de los hablantes y los oyentes. Sin embargo, la protección del discurso de la IA basada en los derechos del oyente no justifica la aplicación de estándares subjetivos, ya que la IA carece de intenciones subjetivas. Por lo tanto, dado que la IA carece de intenciones subjetivas, la ley debería atribuir intenciones a los programas de IA presumiendo que pretenden las consecuencias razonables y previsibles de sus acciones. La ley debe aplicar estándares objetivos de comportamiento a los programas de IA basados en lo que haría una persona razonable en circunstancias similares, lo que incluye el uso de estándares de razonabilidad.
El artículo/informe presenta dos aplicaciones prácticas de la regulación de los programas de IA mediante estándares objetivos: la difamación y la infracción de los derechos de autor. Explora cómo los estándares objetivos y la regulación razonable pueden abordar las cuestiones de responsabilidad derivadas de las tecnologías de IA. El problema que aborda aquí es cómo determinar la responsabilidad de las tecnologías de IA, centrándose específicamente en los grandes modelos de lenguaje (LLM) que pueden producir contenido dañino o infractor.
Los componentes clave de las aplicaciones que analiza son:
- Alucinaciones difamatorias:
Los LLM pueden generar contenido falso y difamatorio cuando se les pide, pero a diferencia de los humanos, carecen de intenciones, lo que hace que las normas tradicionales de difamación no sean aplicables. Deben ser tratados de manera análoga a los productos con un diseño defectuoso. Se debe esperar que los diseñadores del producto implementen salvaguardas para reducir el riesgo de contenido difamatorio. Además, si un agente de IA actúa como promotor, se aplica un enfoque de responsabilidad del producto. Los promotores humanos son responsables si publican material difamatorio generado por LLM, y las leyes de difamación estándar se modifican para tener en cuenta la naturaleza de la IA. Los usuarios deben ejercer un cuidado razonable al diseñar los mensajes y verificar la precisión del contenido generado por la IA, absteniéndose de difundir material falso y difamatorio conocido o razonablemente sospechoso.
Las preocupaciones sobre la infracción de derechos de autor han dado lugar a múltiples demandas contra empresas de inteligencia artificial. Los LLM pueden generar contenido que infrinja material protegido por derechos de autor, lo que genera dudas sobre el uso legítimo y la responsabilidad. Por lo tanto, para hacer frente a esta IA, las empresas pueden obtener licencias de los titulares de derechos de autor para utilizar sus obras en la capacitación y generación de nuevos contenidos y establecer una organización de derechos colectivos podría facilitar licencias generales, pero este enfoque tiene limitaciones debido a la naturaleza diversa y dispersa de los titulares de derechos de autor. . Además, se debería exigir a las empresas de IA que adopten medidas razonables para reducir el riesgo de infracción de derechos de autor como condición para una defensa por uso legítimo.
Conclusión:
Este artículo de investigación explora la responsabilidad legal de las tecnologías de IA utilizando principios de la ley de agencias, intenciones atribuidas y estándares objetivos. Al tratar las acciones de IA de manera similar a las de los agentes humanos según la ley de agencias, enfatizamos que los mandantes deben asumir la responsabilidad por las acciones de sus agentes de IA, asegurando que no se reduzca el deber de cuidado.
Aabis Islam es estudiante de la Universidad Nacional de Derecho de Delhi. Abi tiene un gran interés en el derecho de la inteligencia artificial y le apasiona explorar la intersección de la inteligencia artificial y los marcos legales. Abis se dedica a comprender las implicaciones de la inteligencia artificial en diversos contextos legales y está interesada en investigar los avances en las tecnologías de inteligencia artificial y sus aplicaciones prácticas en el ámbito legal.