Este mes, la Asamblea del Estado de California votará si aprobar o no Proyecto de ley 1047 del Senadola Ley de Innovación Segura para Modelos de Inteligencia Artificial de Frontera. Si bien los proponentes revendedor Las enmiendas se hicieron “en respuesta directa a” las preocupaciones expresadas por “la comunidad de código abierto” y los críticos del proyecto de ley. argumentar que aplastaría el desarrollo de modelos de IA de código abierto.
Tal como está redactada, la SB 1047 desincentivaría a los desarrolladores a publicar sus modelos en código abierto al imponer protocolos de seguridad complejos y responsabilizar a los desarrolladores de modificaciones perjudiciales y usos indebidos por parte de actores malintencionados. El proyecto de ley no ofrece ninguna orientación concreta sobre los tipos de características o barreras de protección que los desarrolladores podrían crear para evitar la responsabilidad. Como resultado, los desarrolladores probablemente mantendrían sus modelos cerrados en lugar de correr el riesgo de ser demandados, lo que perjudicaría a las empresas emergentes y frenaría el desarrollo de la inteligencia artificial a nivel nacional.
SB 1047 define las herramientas de IA de código abierto como “modelo de inteligencia artificial”.[s] eso [are] “puestos a disposición libremente y que pueden ser modificados y redistribuidos libremente”. El proyecto de ley ordena a los desarrolladores que ponen modelos a disposición del público (en otras palabras, de código abierto) que implementen salvaguardas para gestionar los riesgos que plantea “causar o permitir la creación de derivados de modelos cubiertos”.
El proyecto de ley de California responsabilizaría a los desarrolladores por los daños causados por los “derivados” de sus modelos, incluidas las copias no modificadas, las copias “sometidas a modificaciones posteriores al entrenamiento” y las copias “combinadas con otro software”. En otras palabras, el proyecto de ley exigiría a los desarrolladores que demostraran una previsión sobrehumana para predecir y evitar que actores maliciosos alteren o utilicen sus modelos para infligir una amplia gama de daños.
El proyecto de ley es más específico en sus exigencias. Requeriría que los desarrolladores de modelos de código abierto implementen salvaguardas razonables para prevenir la “creación o uso de un arma química, biológica, radiológica o nuclear”, “víctimas masivas o daños por al menos quinientos millones de dólares (500.000.000 dólares) como resultado de ciberataques” y “daños comparables a la seguridad pública”.
El proyecto de ley también exige que los desarrolladores tomen medidas para prevenir “daños críticos”, una vaga definición que los tribunales podrían interpretar ampliamente para responsabilizar a los desarrolladores a menos que incorporen innumerables e indefinidas barreras de protección en sus modelos.
Además, la SB 1047 impondría amplios requisitos de informes y auditoría a los desarrolladores de código abierto. Los desarrolladores tendrían que identificar las “pruebas específicas y los resultados de las pruebas” que se utilizan para prevenir daños críticos. El proyecto de ley también exigiría a los desarrolladores que presentaran una “certificación anual bajo pena de perjurio de cumplimiento” y que informaran por sí mismos “de cada incidente de seguridad de inteligencia artificial” en un plazo de 72 horas. A partir de 2028, los desarrolladores de modelos de código abierto tendrían que “contratar anualmente a un auditor externo” para confirmar el cumplimiento. A continuación, los desarrolladores tendrían que reevaluar los “procedimientos, políticas, protecciones, capacidades y salvaguardas” implementados en virtud del proyecto de ley de forma anual.
En las últimas semanas, políticos y Tecnólogos han denunciado públicamente la SB 1047 por amenazar los modelos de código abierto. La representante Zoe Lofgren (demócrata por California), miembro de mayor rango del Comité de Ciencia, Espacio y Tecnología de la Cámara de Representantes, explicado:”El SB 1047 tendría consecuencias no deseadas por su tratamiento de los modelos de código abierto… Este proyecto de ley reduciría esta práctica al responsabilizar al desarrollador original de un modelo por el mal uso que una parte haga de su tecnología posteriormente. La respuesta natural de los desarrolladores será dejar de publicar modelos de código abierto”.
Fei-Fei Lee, una científica informática ampliamente reconocida como la “madrina de la IA”, dicho“SB-1047 limitará el desarrollo de código abierto” al hacer que los desarrolladores de IA “sean mucho más reacios a escribir código y colaborar” y “paralizará”[ing] “El sector público y la investigación académica sobre IA”. Un grupo de estudiantes y profesores de la Universidad de California, junto con investigadores de más de 20 instituciones, ampliaron este punto, dicho que el SB 1047 frenaría “los lanzamientos de modelos de código abierto, en detrimento de nuestra investigación” porque las “onerosas restricciones” del proyecto de ley llevarían a los desarrolladores de IA a “publicar sus modelos bajo licencias”.
Mientras tanto, el gobierno federal sigue promocionando el valor de la inteligencia artificial de código abierto. El 30 de julio, la Administración Nacional de Telecomunicaciones e Información del Departamento de Comercio liberado Un informe que aconseja al gobierno “abstenerse de restringir inmediatamente la amplia disponibilidad de pesos de modelos abiertos en los sistemas de IA más grandes” y enfatiza que “la apertura de los sistemas de IA más grandes y poderosos afectará la competencia, la innovación y los riesgos en estas herramientas revolucionarias”. En una publicación reciente en un blog, la Comisión Federal de Comercio Concluido que “los modelos de ponderaciones abiertas tienen el potencial de impulsar la innovación, reducir costos, aumentar la elección del consumidor y, en general, beneficiar al público, como se ha visto con el software de código abierto”.
Las disposiciones de la SB 1047 son extensas, ambiguas y crean un laberinto de regulaciones que exigen a los desarrolladores anticipar y mitigar daños futuros que no tenían intención de causar ni provocar. Los desarrolladores tendrían que presentar informes detallados al gobierno de California explicando y certificando sus esfuerzos. Incluso los desarrolladores que intenten cumplir de buena fe pueden enfrentar responsabilidades debido a la impreciso naturaleza y alcance amplio del proyecto de ley.
Este proyecto de ley se presenta como una panacea para los daños causados por los modelos avanzados de IA, pero en realidad sería una sentencia de muerte para el desarrollo de la IA de código abierto.