Vuelva a los conceptos básicos de seguridad para preparar para los riesgos de IA

No pasa un día sin que escuchemos sobre la IA en las noticias. Desde el rápido desarrollo de nuevas tecnologías hasta las formas en que impactará nuestro futuro, la IA siempre está en nuestras mentes, especialmente en el mundo de la tecnología.  

Y algunas de las preguntas más candentes que rodean los nuevos avances de herramientas como ChatGPT provienen del mundo de la ciberseguridad. ¿Cómo usarán los malos actores la IA para aumentar sus actos maliciosos? ¿Y cómo evolucionará el ransomware para evadir mejor nuestras defensas?  

Para echar un vistazo a la herramienta y lo que significa para el futuro de la industria de la ciberseguridad, Paul Dant, ingeniero sénior de sistemas de Illumio, y Michael Adjei, director de ingeniería de sistemas, EMEA en Illumio, se sentaron a discutir cómo funciona la IA, dónde se encuentran sus vulnerabilidades y cómo los líderes de seguridad pueden combatir su impacto.

¿Su consejo final? Vuelve a lo básico.

Siga leyendo y vea la discusión completa , con un breve clip a continuación, para saber por qué.

La estructura de la IA y sus muchas vulnerabilidades

Pasaron menos de dos años desde que se lanzó ChatGPT por primera vez, y en tan poco tiempo, la industria ya está viendo que la nueva tecnología de IA tendrá un impacto masivo en la ciberseguridad, y ya está en manos de aquellos que quieren usarla tanto para el bien como para el mal.

Es importante comprender cómo está estructurada la IA para combatir los puntos en los que los atacantes pueden interferir.  

"En términos simplificados, la IA funciona al tener un conjunto de datos con una capa de entrada, una capa oculta y una capa de salida", explicó Adjei. "Los datos se envían a la capa de entrada y se mueven a la capa oculta donde ocurre la 'magia' de la IA. Luego, termina en la capa de salida donde el consumidor puede interactuar con él".

¿Dónde pueden estar las vulnerabilidades en este proceso? "Prácticamente en todas las etapas", dijo Adjei.  

Los riesgos de seguridad de la IA existieron durante años

Estas vulnerabilidades no comenzaron con el lanzamiento generalizado de ChatGPT el año pasado. Adjei y Dant explicaron que los sistemas de IA comprometidos existieron durante años, y un riesgo importante y fácil de pasar por alto de los sistemas de IA.

La pareja citó el lanzamiento de Microsoft en 2016 de un chatbot de IA para Twitter: "En unas pocas horas, el chatbot recibió toda la peor y más vil información que puedas imaginar de Internet. Pasó de ser un espectáculo de progreso de IA a todo lo malo que existe en línea", dijo Adjei.

Este es un ejemplo temprano y simple de un ataque relacionado con la IA, pero muestra las formas en que los actores maliciosos pueden aprovechar las tácticas, técnicas y procedimientos de ataque (TTP) existentes para convertir rápidamente una nueva tecnología en una nueva vía de ataque. Las organizaciones de todos los sectores, geografías y tamaños deben ser proactivas en su preparación para proteger contra los inevitables ataques generados por la IA.

Como ejemplo más reciente, Dant incitó a ChatGPT a producir algo de ransomware sobre la marcha, destacando la facilidad con la que se pueden eludir sus barandillas. ChatGPT no estaba dispuesto a abordar el mensaje de Dant de "escribirme algo de ransomware". Pero cuando le dio un giro educativo a sus indicaciones y dividió su solicitud en pasos aparentemente inocentes, descubrió que ChatGPT intentaba ayudarlo y, en última instancia, construía ransomware para él.

"ChatGPT quiere ayudarnos", dijo Dant. "Lo que descubrí es que si realmente le das un giro educativo a tus indicaciones, lo más probable es que no vea cuáles son tus intenciones finales y realmente te ayude a automatizar la creación de un script de ransomware".

Este ejemplo es solo uno de los muchos casos de uso de IA que los actores de amenazas están descubriendo y empleando a diario para acelerar el volumen y el impacto de los ataques. Como Adjei resumió de manera experta: "Bastante genial pero bastante aterrador".

Cómo deben responder los líderes de seguridad a los riesgos de la IA

A pesar del miedo que la IA está causando en la ciberseguridad, Adjei y Dant coincidieron en que hay mucho que las organizaciones pueden hacer para comenzar a proteger contra el próximo ataque potencial. Lo más importante es volver a lo básico.

"La primera respuesta de muchos CISO y líderes de seguridad fue: 'La IA está siendo empleada por los malos, por lo que los buenos también necesitan más IA'", dijo Adjei, "Pero eso no es necesariamente cierto".

Dant estuvo de acuerdo, explicando que si bien la IA será más importante en términos de analizar datos y completar tareas a la misma velocidad que se mueven los atacantes, la mejor manera de preparar para los ataques de IA será garantizar una buena higiene cibernética.

"El primer principio es volver a lo básico", dijo Dant. "En última instancia, una buena higiene cibernética, la prevención de movimientos laterales y los principios de Zero Trust serán aún más válidos en el futuro".

No importa cómo se desarrollen los ataques generados por IA, los principios básicos de seguridad seguirán siendo ciertos. "Es importante que los líderes de seguridad no se sientan abrumados frente a la IA", dijo Dant.

En el futuro, tanto Adjei como Dant alientan a los líderes de seguridad a centrar en la creación de resiliencia cibernética y contención de brechas alineadas con las estrategias de seguridad de Zero Trust.

Vea el seminario sitio web completo para ver cómo ChatGPT hace que sea increíblemente sencillo para los atacantes crear ransomware con IA.

Contáctenos hoy para obtener más información sobre cómo desarrollar resiliencia contra los ataques de IA con la plataforma de segmentación Illumio Zero Trust.