Este mes, la Asamblea del Estado de California tiene previsto votar el Proyecto de Ley Senatorial 1047, una legislación que podría afectar significativamente la investigación sobre IA. historia Como guía, California podría arrastrar una vez más a todo el país hacia una regulación tecnológica impopular. Sin embargo, los patrocinadores del proyecto de ley se han visto sorprendidos por la reacción negativa de los académicos y la industria de la inteligencia artificial. “No me di cuenta de lo tóxica que es la división”, aceptado El senador estatal Scott Wiener (D–San Francisco), quien presentó el proyecto de ley.
Los académicos, los desarrolladores de código abierto y las empresas de todos los tamaños se están dando cuenta de la amenaza que este proyecto de ley representa para su futuro. La SB 1047, conocida como la Ley de Innovación Segura y Protegida para Modelos de Inteligencia Artificial de Frontera, exige amplios protocolos de seguridad e impone Pasivos severos a los desarrolladores por el posible mal uso de sus modelos de IA.
Fei-Fei Li, a menudo aclamado como el “Madrina de la IA” advirtió que “la SB 1047 paralizará la investigación en IA del sector público y académico. El desarrollo de código abierto es importante en el sector privado, pero vital para la academia, que no puede avanzar sin colaboración y acceso a datos de modelos”. Haciéndose eco de sus preocupaciones, Ion Stoica, director de la Facultad de Ciencias de la Computación de la Universidad de California en Berkeley, Laboratorio de computación del cieloargumentó que el proyecto de ley “dañará la innovación en California y resultará en un mundo más peligroso y menos seguro”.
Emprendedor tecnológico Andrés Ng Señaló que “esta ley propuesta comete un error fundamental al regular la tecnología de IA en lugar de las aplicaciones de IA y, por lo tanto, no lograría hacer que la IA sea significativamente más segura”.
La reacción no se limita a los académicos y las grandes instituciones. Cientos de “Un poco de tecnología“Las startups también están expresando sus preocupaciones. Liderando la resistencia, la incubadora de startups Combinador Y y empresa de capital de riesgo Andreessen Horowitz han reunido cartas de oposición firmadas por más de cien startups.
Incluso los legisladores, incluidos Representante Ro Khanna (D–California), Representante Zoe Lofgren (D–Calif.) y ex alcalde interino de San Francisco Marco Farrell se han opuesto públicamente al proyecto de ley de Wiener.
Ante una reacción tan generalizada, surge la pregunta: ¿Cómo fue que Wiener fue tomado tan desprevenido?
A los seis meses de que Wiener presentara la SB 1047, una ola de legisladores y reguladores cambiaron de opinión al conocer la evidencia disponible. Los legisladores de diferentes partidos, facciones y países comenzaron a adoptar un tono más optimista.
El nuevo Plataforma republicana instó al partido a “apoyar el desarrollo de la IA basado en la libertad de expresión y el florecimiento humano”. Al demostrar los beneficios reales de la IA, la representante Jennifer Wexton (demócrata por Virginia) usado Tecnología de Eleven Labs para recuperar su voz después de perderla por una enfermedad neurológica. Incluso la Comisión Federal de Comercio expresado Apoyo a la IA de código abierto.
Este cambio de sentimiento fue una fuerte refutación al movimiento de seguridad de la IA, que ha sido fuertemente criticado. respaldado por A los multimillonarios les gusta Sam Bankman-Fried y Dustin Moskovitzasí como multimillonario Jaan TallinCon cientos de millones de dólares detrás, el movimiento ha presionado para… pausa Investigación sobre IA, impulsada por la predicción apocalíptica de que una IA suficientemente avanzada podría conducir a la extinción humana.
Mientras los expertos convencionales se concentraban en su trabajo, los legisladores se dejaban influenciar por las narrativas unilaterales del grupo financiado por Open Philanthropy. Centro para la seguridad de la IA (CAIS), que sostiene que “mitigar el riesgo de extinción de la IA debería ser una prioridad mundial”. Hasta hace poco, los responsables de las políticas no eran conscientes de lo desconectadas que estaban estas narrativas de la comunidad de IA en general.
A medida que los legisladores federales desarrollan una comprensión más sólida de la IA, se inclinan por una regulación basada en evidencia. Este cambio llevó al economista Tyler Cowen a declarar que “la seguridad de la IA está muerta” en un Bloomberg editorial tras la presentación del líder de la mayoría del Senado, Chuck Schumer, de un Hoja de ruta bipartidista para el Senado que pretende invertir en IA y al mismo tiempo abordar el uso indebido de la misma. “El proyecto de Schumer sugiere que el gobierno federal está más interesado en acelerar la IA que en obstaculizarla”, escribió Cowen.
El movimiento de seguridad de la IA ganó fuerza inicialmente al explotar un vacío político. Los académicos y la industria dominante tenían pocos motivos para involucrarse en actividades legislativas antes de la introducción de la SB 1047. Muchos se sorprendieron de que los legisladores consideraran seriamente las afirmaciones hechas por CAIS y Wiener. “Me sorprende ver [S.B. 1047] “Se está discutiendo seriamente en la legislatura de California”, comentó Ethan Fast de VCrearuna empresa que utiliza el aprendizaje automático para tratar enfermedades. Investigador de IA Kenneth O. Stanley Ofreció una crítica más aguda: “Parece casi ciencia ficción ver un proyecto de ley como éste. Un proyecto de ley más útil tendría un alcance más limitado y se centraría en abordar daños específicos a corto plazo”.
Los legisladores de todo el país están recurriendo ahora a un marco basado en la evidencia para la regulación de la IA, centrándose en los actores maliciosos que hacen un mal uso de la IA en lugar de los propios investigadores. Como Ng señalaLa SB 1047 “ignora la realidad de que la cantidad de usos beneficiosos de los modelos de IA es, como los motores eléctricos, mucho mayor que la cantidad de usos dañinos”. Incluso cuando la mayor parte del país dejó atrás la narrativa de la seguridad de la IA, la posibilidad de que los radicales de California puedan dictar el futuro de la nación sigue siendo una perspectiva inquietante.