El modelo de IA que asusta a la Reserva Federal y a Wall Street

Respuesta rápida El secretario del Tesoro, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, convocaron una reunión de emergencia con los directores ejecutivos de los bancos de Wall Street el martes para advertir sobre los posibles riesgos de ciberseguridad que plantea el nuevo modelo de inteligencia artificial de Anthropic, Mythos. El modelo es capaz de identificar y explotar vulnerabilidades en todos los principales sistemas operativos y navegadores web. Anthropic ha restringido su lanzamiento a un pequeño grupo de importantes empresas tecnológicas y financieras bajo un programa llamado Proyecto Glasswing.

Opinión exclusiva de EBM No se puede subestimar la importancia de esta reunión. Cuando el Secretario del Tesoro y el presidente de la Reserva Federal convocan conjuntamente a los directores ejecutivos de instituciones financieras de importancia sistémica para una sesión informativa no programada sobre un único modelo de IA, el mensaje a los mercados es inequívoco: no se trata de un riesgo teórico que se gestiona en condiciones de plena competencia: es una amenaza viva que se gestiona al más alto nivel del sistema financiero estadounidense en tiempo real. Para los bancos y reguladores europeos, las implicaciones son inmediatas. Si Mythos representa una nueva categoría de capacidad cibernética ofensiva, la superficie de ataque no se limita a las instituciones estadounidenses. La infraestructura financiera europea funciona con los mismos sistemas operativos y navegadores que Mythos ya ha demostrado que puede comprometer.

Bessent y Powell reunieron al grupo en la sede del Tesoro en Washington el martes para garantizar que los bancos estuvieran conscientes de los posibles riesgos futuros planteados por Mythos de Anthropic y posibles modelos similares, y que estuvieran tomando precauciones para defender sus sistemas. Bloomberg La reunión, organizada con poca antelación y no anunciada públicamente con antelación, está siendo interpretada en los mercados financieros como una de las intervenciones regulatorias más importantes en el sector de la IA hasta la fecha, y sus implicaciones se extienden mucho más allá de Wall Street. A medida que los bancos europeos han señalado cada vez más las amenazas cibernéticas impulsadas por la IA como su principal preocupación de riesgo sistémico, la convocatoria de emergencia en Washington acelerará la presión sobre los reguladores en Frankfurt y París para que respondan de la misma manera.

Entre los participantes se encontraban directores ejecutivos de Citigroup, Morgan Stanley, Bank of America, Wells Fargo y Goldman Sachs, todos designados como instituciones de importancia sistémica, lo que significa que las interrupciones en sus operaciones podrían tener repercusiones globales. CoinDesk El catalizador es el propio Mythos. Mythos de Anthropic se describe como un sistema más poderoso capaz de identificar y luego explotar vulnerabilidades en todos los principales sistemas operativos y navegadores web cuando un usuario así lo indica. Ley Bloomberg – una capacidad que equivale a un arma cibernética universal impulsada por IA que se puede operar con instrucciones y que ha provocado un nivel de alarma regulatoria rara vez visto en el sector tecnológico. La carrera entre las capacidades ofensivas y defensivas de la IA se ha ido gestando durante varios años, pero Mythos parece representar el punto en el que esa carrera se convirtió en una emergencia política inmediata en lugar de una preocupación de planificación a largo plazo.

Al principio, Anthropic ha limitado el lanzamiento de Mythos a sólo unas pocas empresas importantes de tecnología y finanzas. Esas empresas, que incluyen a Amazon, Apple y JPMorgan Chase, son parte del Proyecto Glasswing, que trabajará para proteger los sistemas más importantes antes de que otros modelos de IA similares estén disponibles. Ley Bloomberg La iniciativa está respaldada por un compromiso de ciberseguridad de 100 millones de dólares y se basa en un modelo que identificó miles de fallas de seguridad críticas en todos los principales sistemas operativos y navegadores. tecnología La estructura de liberación controlada refleja un cálculo de que debe existir una infraestructura defensiva antes de que un despliegue más amplio sea viable, una secuencia que los reguladores parecen haber respaldado, si no exigido.

Según Bloomberg, Anthropic ha dicho que ha estado en conversaciones antes del reciente lanzamiento de Mythos con funcionarios estadounidenses sobre sus capacidades cibernéticas ofensivas y defensivas. Ley Bloomberg Es evidente que esas conversaciones no resolvieron por completo la preocupación regulatoria: la reunión de emergencia de los más altos ejecutivos de Wall Street sugiere que el modelo de amenaza se ha agudizado considerablemente desde esas reuniones informativas iniciales. El actual marco de riesgo digital del BCE no se diseñó teniendo en cuenta una capacidad de esta naturaleza, y la cuestión de si la infraestructura de supervisión europea es adecuada para evaluar (y mucho menos contener) un sistema de inteligencia artificial del poder de Mythos es una cuestión que el regulador con sede en Frankfurt aún no se ha visto obligado a responder públicamente.

Las acciones de ciberseguridad subieron tras la noticia del Proyecto Glasswing rangos de puntay los mercados interpretan la iniciativa como una validación del panorama de amenazas y como una importante oportunidad de ingresos a corto plazo para las empresas posicionadas para proporcionar la infraestructura defensiva que requiere el programa. Esa reacción del mercado de valores refleja el patrón observado después de eventos críticos de seguridad de infraestructura anteriores: un breve aumento en las valoraciones de valores especializados seguido de una reevaluación más amplia de la exposición sistémica en todo el sector financiero.

Para las instituciones financieras europeas, la ausencia de una coordinación regulatoria equivalente sigue siendo notoria. Si eso refleja una evaluación genuina de que la exposición europea es menor –o simplemente un retraso en la conciencia regulatoria– es una pregunta que los supervisores pronto se verán obligados a responder públicamente. Un empleado de Anthropic ofreció el resumen más directo de la situación: Mythos, dijeron, “debería resultar aterrador”.

Análisis relacionado