Los peligros de las campañas de phishing por chat GPT basadas en IA y cómo evitarlas

El ciberdelincuente moderno es muy ingenioso a la hora de perturbar las operaciones de una empresa. Tienen acceso a diversos recursos que les ayudan a ejecutar ciberataques, y esa lista crece cada día a medida que evoluciona la tecnología. Ya lograron estafar al 92% de las organizaciones de todo el mundo en 2022 utilizando técnicas sofisticadas como correos electrónicos de phishing creativos, suplantación de identidad y sitios web fraudulentos. Algunos incluso fueron víctimas de phishing y fraude en redes sociales. Ahora los malos actores tienen una nueva adición a su arsenal: El phishing ChatGPT basado en inteligencia artificial (IA).

• La IA también es revolucionaria para la ciberdelincuencia:

Recientemente, la tecnología basada en IA ha ganado mucha tracción. Las herramientas y tecnologías basadas en IA pueden reducir la carga de trabajo y eliminar tareas mundanas, lo que las hace muy deseables para todos. ChatGPT, por ejemplo, es un gran modelo de lenguaje (LLM) que ha ayudado a millones de personas a maximizar la eficiencia y alcanzar rápidamente sus objetivos. Por desgracia, también ha ayudado a los ciberdelincuentes a lanzar ataques utilizando nuevas técnicas como el phishing ChatGPT.

Por otro lado, como ocurre con muchas innovaciones creadas para mejorar el modo de vida de la humanidad, algunos descubren cómo algo intrínsecamente diseñado para el bien puede aprovecharse para fines personales o maliciosos. A los ciberdelincuentes también les resultan muy útiles las herramientas basadas en IA, y las están utilizando para lanzar ciberataques aún más sofisticados y difíciles de detectar. Este cambio añade una nueva arista a la protección de una empresa frente a los ciberataques.

• Cómo ayuda la IA a los ciberdelincuentes:

Los ciberdelincuentes ya han comenzado a emplear metodologías basadas en IA para lanzar ciberataques y, por desgracia, han sido eficaces en sus intentos de explotar organizaciones. Incluso aquellos delincuentes que no son excepcionalmente hábiles en labores técnicas como el desarrollo de ransomware pueden lanzar ciberataques utilizando herramientas de IA como ChatGPT como referencia o apoyo. Los investigadores han descubierto que los equipos clandestinos de piratas informáticos utilizan con frecuencia OpenAI por su rápida generación de código y su capacidad para escribir correos electrónicos. Las investigaciones han demostrado que los correos electrónicos de phishing de ChatGPT están tan bien orquestados que a los empleados les resulta difícil discernirlos del contenido escrito por un humano.

La tecnología de IA como Chat GPT o GPT-3 ha cambiado las reglas del juego para los delincuentes, especialmente los especializados en phishing. La IA generativa está reduciendo la barrera de entrada a la ciberdelincuencia al permitir a los actores de amenazas lanzar de forma rápida y eficaz sofisticados mensajes de phishing y realizar fácilmente el trabajo necesario para facilitar un ataque de ransomware. Esta tecnología, unida a las herramientas disponibles en la economía del cibercrimen como servicio (CaaS) y a la información, como las contraseñas, fácilmente disponible en los intermediarios de acceso inicial (IAB), facilita la ciberdelincuencia, y eso son malas noticias para las empresas.

• ¿Cómo beneficia la IA a los ciberdelincuentes?

La IA permite a los ciberdelincuentes lanzar ataques con rapidez, utilizar técnicas más sofisticadas y mejorar su eficacia. Estas características hacen de la IA una tecnología magnífica para cualquier organización de ciberdelincuentes.

1. Flexible y adaptable para una mayor precisión:

Los actores de amenazas utilizan técnicas de IA nuevas y en continua evolución para escalar y automatizar procesos, como la generación de código, mejor para planificar un ataque con la mayor probabilidad de éxito. También pueden mejorar los ciberataques existentes o crear otros nuevos. El poder de la automatización les permite llevar a cabo ciberataques a gran escala sin dedicar tiempo a la creación manual de algoritmos. Agiliza la detección de vulnerabilidades o el aprendizaje de qué empleados son más susceptibles de ser manipulados.

2. La IA potencia la evasión:

No dejarse atrapar es una habilidad esencial que no todos los ciberdelincuentes poseen. Y teniendo en cuenta los avances de los profesionales de la seguridad de la información en el desarrollo de medidas de ciberseguridad, los hackers necesitan ser más evasivos. Tecnologías como el aprendizaje automático permiten a los ciberdelincuentes entrenar sistemas de IA para reconocer y adaptarse a las soluciones y prácticas de seguridad de las empresas, lo que supone un problema para los equipos de TI de todo el mundo. Los ataques impulsados por IA pueden aprender y evolucionar a partir de sus interacciones con los sistemas defensivos, adaptando constantemente sus estrategias para evitar la detección y mejorar la tasa de éxito de un ciberdelincuente.

3. Mejorar la capacidad de un grupo de ciberdelincuentes:

Esta actualización particular que cualquier ciberdelincuente puede lograr puede resultar increíblemente ingeniosa. La IA les hace más organizados o sistemáticos a la hora de determinar o evaluar objetivos. Los actores de la amenaza pueden llegar a ser muy eficientes en la vigilancia y la selección de objetivos. Pueden desarrollar y utilizar rápidamente sofisticados algoritmos de IA para analizar grandes cantidades de datos, como perfiles de redes sociales e información de identificación personal (PII), para identificar con precisión a posibles víctimas. La IA también se puede utilizar para deconstruir los patrones de comunicación entre colegas y directivos en una red de toda la empresa, alimentando la creación de phishing altamente personalizado y persuasivo y otros ataques dirigidos similares. En este escenario, el phishing Chat GPT es una opción atractiva porque si un malhechor dispone de muchos datos para alimentar el algoritmo, le resultará fácil obtener un mensaje malicioso tentador.

• Los ciberdelincuentes utilizan la IA para comprometer a las empresas a través del phishing:

El phishing GPT-3 y otros ciberataques basados en el correo electrónico se han convertido en algo habitual con altas tasas de éxito, y la IA solo hará que tengan más éxito. Es lógico suponer que los ciberdelincuentes tratarán de sacar provecho de una estrategia de ataque que funciona. Y potenciar sus ataques de ingeniería social con IA ha aumentado su eficacia.

Correos electrónicos de phishing:

Los ciberdelincuentes están constantemente innovando nuevas formas de potenciar sus campañas de phishing, creando toda una biblioteca de correos electrónicos más engañosos e indistinguibles que pueden engañar al mejor de nosotros. Por ejemplo, un empleado de FT Labs del Financial Times, que posee importantes conocimientos técnicos, fue presa de un correo electrónico de phishing bien elaborado, que provocó una violación de los datos de la organización. Este caso muestra cómo incluso quienes mantienen una higiene cibernética saludable pueden convertirse en víctimas de un ciberdelincuente creativo.

Debido a la intervención de la IA, el desarrollo de contramedidas y de software pertinente para reducir los efectos adversos de los correos electrónicos de phishing se ha convertido en toda una tarea. Numerosas organizaciones han sufrido pérdidas financieras significativas después de un ataque de phishing exitoso, ya que los clientes perdieron la fe en su capacidad para implementar prácticas sólidas de seguridad de correo electrónico.

Sitios web de phishing:

Otra forma práctica en que los ciberdelincuentes aprovechan las herramientas basadas en IA gira en torno a la automatización del proceso de creación de sitios web de phishing. Pueden:

• Automatizar la creación y personalización de sitios web de phishing
• Hacer que parezcan auténticos
• Aumentar sus posibilidades de engañar con éxito a las víctimas

Los actores de amenazas pueden llevar sus habilidades de réplica de sitios web al siguiente nivel utilizando técnicas basadas en IA. Pueden imitar los elementos visuales, el diseño y el contenido de los sitios web auténticos, lo que aumenta las posibilidades de estafar con éxito a las personas. Los profesionales de la ciberseguridad tienen las manos llenas, ya que la atención al detalle en la creación de cada uno de estos sitios web de phishing es excepcionalmente intrincada.

Adoptando el concepto de “combatir el fuego con fuego”, los profesionales de la seguridad de la información también utilizan la tecnología de IA para desarrollar estrategias y soluciones para defenderse de los ciberdelincuentes. La IA generativa ayuda a analizar y detectar patrones en los correos electrónicos de phishing, identificando indicadores sutiles de actividad fraudulenta que los ojos humanos pueden pasar por alto fácilmente. Cuando se utiliza en una solución de seguridad del correo electrónico, la IA/ML ayuda a esa herramienta a establecer una clara distinción entre la comunicación legítima y la maliciosa. Con la rápida evolución de la tecnología de la ciberdelincuencia, las empresas necesitan tener un plan para mejorar la seguridad de su correo electrónico con IA para detener el phishing ChatGPT.

Combate todo tipo de phishing, incluido el phishing Chat GPT con IA, con un intenso programa de formación para garantizar que todos los empleados conocen las últimas técnicas de phishing y están alerta ante el peligro. También es imprescindible una sólida seguridad del correo electrónico que utilice IA para detectar y detener los mensajes maliciosos.

Fuente: ID Agent