Uno de los avances más alentadores en la inteligencia artificial es que algunas de las personas que la construyen han comenzado a actuar como si pudiera ser peligroso. No en el sentido de Skynet o HAL 9000 o incluso en el sentido de “ups, borró todos mis correos electrónicos”, aunque la IA también podría ser peligrosa en todos esos sentidos. La pregunta es si los últimos modelos son peligrosos para la infraestructura, peligrosos para la privacidad, peligrosos para la seguridad y peligrosos para la línea borrosa entre lo público y lo privado. Durante años, las grandes empresas tecnológicas han aplicado mucho el acelerador y poco los frenos, y todos nos hemos beneficiado enormemente, incluso cuando se han desatado furiosos debates sobre las desventajas. Pero con la IA, al menos en algunos casos notables, las propias empresas han comenzado a hacer algo inusual. Han empezado a decir que no.
Anthropic ha anunciado que no lanzará Claude Mythos Preview, un modelo de vanguardia que, según afirma, ya ha encontrado “miles de vulnerabilidades de alta gravedad”, incluso en todos los principales sistemas operativos y navegadores web. En cambio, está limitando el acceso a un consorcio que incluye Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks y algunas otras organizaciones que construyen o mantienen infraestructura de software crítica. Anthropic dice que el punto es defensivo: usar el modelo para encontrar y reparar fallas catastróficas antes de que actores menos escrupulosos pongan sus manos en capacidades similares.
No falta interés propio en la decisión de lanzar el Proyecto Glasswing. Estas empresas preferirían ser vistas como administradores que como visigodos. Esperar el lanzamiento general frenará el ciclo de imitación por parte de los rivales. Pero en una industria que pasó años insistiendo en que cada nueva capacidad debía enviarse inmediatamente porque el progreso era inevitable, es realmente notable ver a un actor importante concluir que un modelo suficientemente poderoso no debería simplemente arrojarse a la plaza pública.
***
El mismo instinto se manifestó, de manera más dramática, en la reciente pelea de Anthropic con el Pentágono. La compañía dijo públicamente que sólo tenía dos “excepciones limitadas” al uso militar de sus modelos: vigilancia doméstica masiva y armas totalmente autónomas. En cuanto a la vigilancia, el director ejecutivo de Anthropic, Dario Amodei, argumentó que la IA hace posible convertir los datos disponibles comercialmente en “una imagen completa de la vida de cualquier persona, de forma automática y a escala masiva”. En cuanto a las armas autónomas, dijo que los sistemas fronterizos actuales “no son lo suficientemente confiables” como para “sacar completamente a los humanos del circuito y automatizar la selección y el ataque a objetivos” por sí solos.
Como casi todas las demás empresas tecnológicas importantes, Anthropic sigue feliz de ayudar al gobierno con la mayor parte de sus asesinatos y destrucción habituales. Pero es notable y digno de elogio que la empresa quisiera insistir en algunos límites contractuales sobre cómo se utiliza su producto.
La respuesta reflejó la nueva normalidad caótica y vengativa del Pentágono. El ejército insistió en que contrataría sólo con empresas de IA que estuvieran dispuestas a aceptar “cualquier uso legal” y eliminar esas salvaguardas. Cuando Anthropic se negó, el secretario de Defensa, Pete Hegseth, designó a la empresa como un riesgo para la seguridad nacional, una etiqueta que bloquea los contratos del Pentágono y que potencialmente podría ampliarse hasta convertirse en una lista negra más amplia. Anthropic presentó una demanda, argumentando que la medida era una represalia. La situación a mediados de abril es confusa: un juez federal de California bloqueó un conjunto de acciones punitivas y obligó al gobierno a eliminar las etiquetas estigmatizantes, mientras que el 8 de abril el Circuito de DC se negó, por ahora, a suspender la designación separada de riesgo de la cadena de suministro del Pentágono mientras continúa el litigio.
La jueza de California, Rita Lin, tenía razón cuando escribió: “Nada en el estatuto que lo rige respalda la noción orwelliana de que una empresa estadounidense puede ser tildada de adversario potencial y saboteador de Estados Unidos por expresar desacuerdo con el gobierno”.
***
Un gran número de personas, tanto de derecha como de izquierda, han pasado los últimos dos años exigiendo que alguien, en algún lugar, ponga límites significativos a la IA. Ahora una gran empresa ha hecho exactamente eso, y resulta que muchas de las mismas personas se sienten incómodas con cómo se ven realmente los límites en la práctica.
Después de todo, el Proyecto Glasswing es un cártel. Hay muchas maneras en que un acuerdo de este tipo podría salir mal. Hay muchos motivos para preocuparse de que los principales actores de la IA puedan utilizar el lenguaje de “seguridad” como una forma de consolidar su propio poder y congelar a los competidores más pequeños. Los reguladores antimonopolio deben estar salivando ante la perspectiva. Pero también se puede imaginar una alternativa mucho peor, en la que esperemos que actúe alguna combinación del Congreso, la Comisión Federal de Comercio, el Departamento de Comercio, la Unión Europea y 17 fiscales generales de los estados demócratas.
La coordinación informal de los principales actores puede ser, por un tiempo, la mejor opción. Es más flexible, más reversible y más estrechamente conectado con las personas que realmente entienden la tecnología.
Esta nueva fase en la historia de la IA llega en un momento extraño. Al momento de imprimir este número, Estados Unidos e Irán acordaron un alto el fuego de dos semanas después de una guerra de seis semanas que mató a miles de personas y trastornó el comercio mundial y los mercados energéticos. Todo es incierto, y esa es una de las razones por las que la lucha contra la IA del Pentágono es tan importante: está ocurriendo en medio de una guerra real, con riesgos reales, a medida que la IA se enreda cada vez más con la planificación militar, la inteligencia, las operaciones cibernéticas y el poder estatal. Una pregunta se cierne sobre todo esto: ¿Fue ésta la primera guerra de IA o la última guerra de una época anterior?
Este artículo apareció originalmente impreso bajo el título “Las empresas de inteligencia artificial aprenden la palabra no”.