De aliada a enemiga: ¿estamos preparados para la IA ofensiva?

La IA desempeña un papel cada vez más importante en la ciberseguridad y está desatando ventajas significativas —y, en algunos aspectos, sin precedentes— en varios ámbitos. Por ejemplo:

• Gestión de vulnerabilidades: la IA y el aprendizaje automático emplean técnicas avanzadas para analizar patrones inusuales y detectar vulnerabilidades.
• Gestión de datos: la IA supervisa los datos transaccionales de la red para protegerlos frente a posibles amenazas.
• Detección de amenazas: la IA utiliza el análisis del comportamiento para identificar actividades maliciosas en tiempo real y responder de inmediato ante las amenazas.
• Supervisión y seguridad de la red: la IA establece un punto de referencia del tráfico de red y utiliza esa línea base para evaluar y proteger la red.
• Mayor seguridad con el tiempo: la IA se vuelve más inteligente y mejora sus medidas de seguridad de forma continua.

Está claro que la IA se ha convertido en una pieza fundamental del rompecabezas general de la ciberseguridad, y esto no es más que el principio. Téngase en cuenta que, para 2030, se prevé que el tamaño del mercado mundial de seguridad basada en IA alcance los 133.800 millones de dólares, frente a los 14.900 millones de dólares de 2021 (todas las cifras en USD).

El auge de la IA ofensiva

A pesar de esta evolución positiva, también existe una creciente conciencia de que los adversarios están actualizando su manual de estrategias para explotar la IA. Este fenómeno se ha bautizado como «IA ofensiva» (también conocida como IA armada). Una encuesta a responsables de seguridad, encargada por Darktrace y realizada por Forrester, reveló lo siguiente:

• El 88 % cree que la IA ofensiva es inevitable.
• El 77 % espera que la IA ofensiva provoque un aumento de la escala y la velocidad de los ataques.
• El 75 % cita la interrupción de sistemas o del negocio como su principal preocupación respecto a la IA ofensiva.
• El 66 % cree que la IA ofensiva desencadenará ataques que ningún ser humano puede imaginar ni anticipar.

Otra encuesta independiente de Deloitte reveló que el 43 % de los directores de sistemas de información tiene «preocupaciones importantes o extremas sobre los posibles riesgos de la IA», y el 49 % afirma que las vulnerabilidades de ciberseguridad relacionadas con la IA se encuentran entre sus mayores temores.

Cómo explotan la IA los adversarios

Según Hubsecurity.com, estas son algunas de las formas en que los adversarios explotan las vulnerabilidades de los sistemas de IA y aprendizaje automático:

• proporcionar a los sistemas entradas maliciosas, que provocan que los algoritmos de gran volumen realicen predicciones falsas; como resultado, las máquinas se ven obligadas a tomar decisiones basadas en datos no verificados;
• corromper (también conocido como «envenenar») la integridad y fiabilidad de los conjuntos de datos;
• engañar a los modelos de aprendizaje automático específicos para cada tarea, diseñados para alcanzar objetivos concretos mediante un entrenamiento especializado;
• proporcionar a los sistemas en línea entradas falsas o un reentrenamiento gradual, de modo que generen salidas erróneas;
• lanzar ataques de extracción de datos discretos dirigidos al propio modelo de aprendizaje automático; los adversarios también llevan a cabo ataques de extracción subsimbólica de menor escala, relativamente menos complejos, más rápidos y que requieren menos recursos.

Además, los adversarios utilizan la IA para llevar a cabo campañas de desinformación («noticias falsas»); algunas de ellas parecen tan auténticas y creíbles que llegan a engañar a profesionales de la ciberseguridad experimentados. Comenta Fast Company:

«Los transformadores, como BERT de Google y GPT de OpenAI, utilizan el procesamiento del lenguaje natural para comprender textos y generar traducciones, resúmenes e interpretaciones. Estos transformadores también se utilizan para difundir información falsa sobre amenazas, y lo hacen con tal precisión que llegan a desconcertar a auténticos cazadores de ciberamenazas. Cuando se propaga esta desinformación sobre ciberamenazas, puede obligar al equipo de seguridad a centrar su atención en riesgos ficticios, lo que deja los sistemas expuestos a ataques reales y perjudiciales que podrían tener consecuencias trágicas».

Cómo proteger los sistemas de IA

¿Qué pueden hacer las empresas para proteger sus sistemas de IA? Los expertos señalan tres pilares fundamentales:

• Mantener protocolos de seguridad extremadamente estrictos en todo el entorno de datos. Esto incluye (entre otras cosas) el principio de mínimo privilegio, la confianza cero, la segregación de funciones, la defensa en profundidad y el principio de doble verificación.

• Registrar y crear un rastro de auditoría que capture todas las operaciones realizadas por la IA. Es necesaria visibilidad para garantizar que se cumplan los requisitos de transparencia, sin llegar a excederlos. Para mitigar el riesgo, puede ser necesario o conveniente limitar o descartar determinados modelos demasiado complejos u opacos.

• Implementar un control de acceso y una autenticación sólidos. Esto incluye la MFA, una gestión de contraseñas robusta y una formación integral de los usuarios finales. En la mayoría de las empresas, esto también incluye la gestión de sesiones privilegiadas o la gestión de accesos privilegiados para dar soporte a funciones como la inyección segura de credenciales, la rotación automática de contraseñas, el descubrimiento de cuentas, las alertas/notificaciones y la gestión de solicitudes de retirada.

Contraatacar con IA defensiva

También estamos siendo testigos del desarrollo y la aparición de la «IA defensiva», que consiste en el uso de métodos de IA y aprendizaje automático para analizar grandes volúmenes de datos y descubrir los patrones de comportamiento normales y anómalos de un sistema, con el fin último de identificar nuevos tipos de ataques mientras se mejora continuamente la precisión. Comenta el Foro Económico Mundial:

«La IA defensiva no es solo una ventaja tecnológica en la lucha contra los ciberataques, sino una aliada fundamental en este nuevo campo de batalla. En lugar de depender de que el personal de seguridad responda manualmente a los incidentes, las organizaciones utilizarán la IA para contrarrestar un problema en desarrollo a corto plazo, mientras que los equipos humanos supervisarán la toma de decisiones de la IA y llevarán a cabo el trabajo de corrección que mejore la resiliencia general a largo plazo».

De hecho, no debe pasarse por alto el papel fundamental que desempeñan los seres humanos —y, más concretamente, los especialistas en ciberseguridad altamente cualificados— en este nuevo mundo de la IA defensiva. Idealmente, la IA se encargará de examinar enormes volúmenes de datos, realizar tareas rutinarias y adaptarse a los ataques. Y mientras las máquinas se ocupan de eso, los seres humanos pueden supervisar la integridad, la precisión y la competencia de la toma de decisiones, al tiempo que ayudan a la IA a volverse más inteligente.

ITPro.com señala lo siguiente:

«Al igual que muchas otras implementaciones de la IA, la IA defensiva ayuda a los seres humanos asumiendo gran parte del trabajo pesado, realizando algunas acciones de forma autónoma, aprendiendo sobre la marcha, informando a los humanos y ayudando tanto a las personas como a las organizaciones a alcanzar sus objetivos».

Y Victor Fredung, colaborador del Forbes Business Council, añade:

«Lo esencial es construir un enfoque holístico, en el que tanto los analistas humanos como el software de IA se complementen entre sí. Delegar en el software las actividades que consumen mucho tiempo derivadas de riesgos de seguridad de bajo nivel permite que el personal cualificado se centre en los aspectos de la seguridad que requieren un toque humano. Una relación exitosa entre la IA y el personal cualificado puede marcar una gran diferencia a la hora de protegerse frente al cibercrimen».

La conclusión final

Aunque a veces pueda parecer algo sobrenatural, la IA no es en absoluto una varita mágica. Sin embargo, puede —y, sinceramente, debe— desempeñar un papel importante en el fortalecimiento de la ciberseguridad, ya que los adversarios ya han demostrado su afán por llevar a cabo ciberataques impulsados por IA: desde el envío interminable de spam hasta el fuzzing con IA.

Como sociedad, hemos cruzado el umbral de la IA y ya no hay vuelta atrás. Que los pilares fundamentales de la ciberseguridad y la IA defensiva unan fuerzas para vencer a la IA ofensiva será determinante a la hora de decidir si este capítulo de la historia de nuestra especie será una historia de éxito triunfal o una advertencia escalofriante.