El mercado de seguridad cibernética de defensa global valía $ 16 mil millones en 2023 y se espera que aumente a $ 63 mil millones para 2032. América del Norte mantuvo la mayor participación de mercado con un 45% en 2023 en 2023
Por Steve Durbin, Director Ejecutivo, Foro de Seguridad de la Información
AI tiene el poder de transformar a las sociedades y la vida de las personas. Desde la atención médica hasta la educación, desde las finanzas hasta la energía, desde el transporte hasta la fabricación, desde la defensa hasta la gestión de desastres … No hay una sola industria en la que la IA no desbloquee nuevas vías para el crecimiento, la innovación y la eficiencia.
Sin embargo, una serie de desventajas para la IA son evidentes. Por ejemplo, la IA en manos de las naciones hostiles o los ciberdelincuentes patrocinados por el estado pueden conducir a consecuencias peligrosas o inimaginables. A medida que las naciones militarizan la IA, los riesgos de una escalada impredecible y consecuencias no intencionadas son grandes, lo que subraya la necesidad crucial de regulaciones para manejar este campo de batalla en evolución.
Las implicaciones de la IA en la guerra cibernética
Se cree que varias naciones han integrado la IA en las operaciones militares. Rusia tiene misiles guiados por IA que pueden cambiar sus objetivos a mitad de vuelo; Tiene drones que pueden enjambre de forma autónoma. Pero, ¿qué pasa si estas máquinas letales se dirigen accidentalmente a los no combatientes, se comportan de manera impredecible o causan una escalada injustificada?
La militarización de la IA exige una necesidad urgente de ética, reglas y gobernanza en cibernético, no solo para disuadir a los adversarios, sino a responsabilizar a los perpetradores si lo impensable sucede. Actualmente, no se imponen regulaciones sobre la guerra cibernética, solo las regulaciones en ciernes sobre la IA y no hay regulación aparente para los sistemas de armas autónomos.
¿Por qué es tan difícil lograr el gobierno de IA en la guerra cibernética?
La gobernanza de la IA y la guerra cibernética es difícil de lograr por dos razones principales. En primer lugar, la gobernanza efectiva requiere que todas las partes en conflicto sigan un conjunto común de reglas y principios. En el ciberespacio, el cumplimiento de tales reglas es un desafío, ya que el alto nivel de anonimato que proporciona permite a las personas operar sin temor a las consecuencias o la responsabilidad, lo que lleva a un incumplimiento con las normas establecidas.
En segundo lugar, el uso de la fuerza se usa tradicionalmente para gobernar la guerra, no existe en el ciberespacio. La guerra tradicional regulada por la ley humanitaria internacional dicta el uso de la fuerza, las reglas para el compromiso, etc., en contraste, los conflictos cibernéticos carecen de intrusiones físicas, daños corporales o destrucción tangible cuando la infraestructura y los sistemas críticos son atacados por naciones hostiles. En estos casos, el objetivo está en el robo de inteligencia e interrupción de sistemas y tecnologías.
La guerra cibernética de IA necesita un cambio conceptual, ético y de gobernanza
Durante la Guerra Fría, la amenaza nuclear se mitigó a través del principio de disuasión, o destrucción mutuamente asegurada. En ciber, no es posible paralelo a recursos o experiencia. Se debe hacer un análisis filosófico o conceptual: ¿qué es bueno, qué es malo? ¿Quién es responsable? ¿Cómo pueden los oponentes evaluar las capacidades cibernéticas de los demás?
Además de un análisis conceptual, también se necesita una evaluación ética. AI no es tecnología ordinaria; En realidad es bastante humano. Con la capacidad de interactuar con el entorno que lo rodea, la IA puede pensar de forma independiente y actuar de forma autónoma. Por lo tanto, la ética de la humanidad también debe aplicarse a la IA. Debe ser transparente: una vez que tengamos una salida, deberíamos poder regresar y cuestionarlo. No debe perpetuar sesgos o discriminación. Debe ser sostenible en su consumo de energía. Los humanos deben tener el control, capaces de intervenir donde los riesgos o resultados son inciertos.
En resumen, los riesgos de la IA, como la escalada del conflicto, la dificultad en la atribución y las preocupaciones éticas que rodean la responsabilidad y el uso de armas impulsadas por la IA en la guerra cibernética son profundas y multifacéticas. Los esfuerzos coordinados para regular tecnologías como la IA están en marcha con los principales gobiernos ya activos en este proceso. Nunca debemos dejar de cuestionar los riesgos que la IA impone, promulgamos modelos éticos y principios que alienten a los oponentes a actuar de manera responsable.
Más información
linkedin.com/in/stevedurbin