Trend Micro predice la aparición de gemelos digitales maliciosos basados en deepfake

Madrid, 16 de diciembre de 2024 - Trend Micro Incorporated (TYO: 4704; TSE: 4704), líder global en ciberseguridad, advierte de la creciente amenaza de ataques altamente personalizados impulsados por IA que podrían sobrealimentar las estafas, el phishing y las operaciones de influencia de manera significativa a partir de 2025.

Para leer las predicciones de Trend Micro de ciberseguridad para 2025, The Easy Way In/Out: Securing The Artificial Future, visita:  https://www.trendmicro.com/vinfo/es/security/research-and-analysis/predictions/the-artificial-future-trend-micro-security-predictions-for-2025

Según Jon Clay, VP de Inteligencia sobre Amenazas de Trend Micro: “A medida que la IA generativa se integra cada vez más en las empresas y las sociedades a las que sirven, debemos estar alerta ante las amenazas emergentes. Los ataques hiperpersonalizados y la subversión de agentes impulsados por IA requerirán un esfuerzo conjunto de todo el sector para erradicarlos y atajarlos. Los líderes empresariales deben recordar que hoy en día no existe el ciberriesgo aislado. Todo riesgo de seguridad es, en última instancia, un riesgo de negocio, con el potencial de afectar profundamente a la estrategia futura”.

El informe de predicciones 2025 de Trend advierte del potencial de los “gemelos digitales” maliciosos, donde la información personal (PII) comprometida o filtrada se utiliza para entrenar a un LLM para imitar el conocimiento, la personalidad y el estilo de escritura de una víctima o empleado. Si se combinan con tecnologías de deepfake de vídeo/audio y datos biométricos comprometidos, podrían utilizarse para llevar a cabo un fraude de identidad o para “engañar” y “manipular” a amigos, colegas o familiares.

Los deepfakes y la IA también podrían aprovecharse en ataques hiperpersonalizados a gran escala para:

• Mejorar el compromiso empresarial (BEC/BPC) y las estafas de “falsos empleados” a escala.
• Identificar víctimas de “pig butchering”, donde los atacantes desarrollan una relación de confianza con las víctimas para estafarlas.
• Atraer y enamorar a estas víctimas antes de entregarlas a un operador humano, que puede chatear a través del “filtro de personalidad” de un LLM. 
• Mejorar la recopilación de inteligencia de fuentes abiertas por parte de los adversarios.
• Capacidades de desarrollo en la preparación previa al ataque que mejorarán el éxito del mismo. 
• Crear perfiles en redes sociales aparentemente auténticos a gran escala para difundir desinformación, información errónea y estafas.

Por otra parte, las empresas que adopten la IA en mayor número en 2025 tendrán que estar atentas a amenazas como:

• Explotación de vulnerabilidades y secuestro de agentes de IA para manipularlos para que realicen acciones dañinas o no autorizadas
• Fuga involuntaria de información (derivadas del uso de GenAI)
• El consumo de recursos del sistema, ya sea de forma benigna o maliciosa, por parte de agentes de IA, lo que podría derivar en denegaciones de servicio

Fuera del mundo de las amenazas relacionadas con la IA

El informe destaca áreas adicionales de preocupación en 2025, incluyendo:

Vulnerabilidades

• Errores de gestión de memoria y corrupción de memoria, cadenas de vulnerabilidades y exploits dirigidos a APIs
• Más escapes de contenedores
• Vulnerabilidades más antiguas y sencillas, como las secuencias de comandos entre sitios (XSS) y las inyecciones SQL
• La posibilidad de que una sola vulnerabilidad en un sistema ampliamente adoptado se extienda a varios modelos y fabricantes, como la ECU de un vehículo conectado.

Ransomware

Los actores de amenazas responderán a los avances en las herramientas de detección y respuesta de endpoints (EDR):

• Creando cadenas letales que utilizan ubicaciones en las que la mayoría de las herramientas EDR no están instaladas (por ejemplo, sistemas en la nube o dispositivos móviles, edge e IoT)
• Desactivación total de AV y EDR
• Utilización de técnicas de “bring your own vulnerable driver” (traiga su propio controlador vulnerable” (BYOVD)
• Ocultar shellcodes dentro de cargadores aparentemente inofensivos
• Redirigir la ejecución del subsistema de Windows para comprometer la detección de EDR/AV.

El resultado serán ataques más rápidos con menos pasos en la cadena de ataque y más difíciles de detectar.

Hora de actuar

En respuesta a estas amenazas crecientes y a una superficie de ataque corporativa en expansión, Trend recomienda:

• Implementar un enfoque de la ciberseguridad basado en el riesgo, que permita la identificación centralizada de diversos activos y la evaluación/priorización/mitigación eficaz de los riesgos
• Aprovechar la IA para ayudar con la inteligencia de amenazas, la gestión de perfiles de activos, la predicción de rutas de ataque y la orientación para la corrección, idealmente desde una única plataforma
• Actualizar la formación y concienciación de los usuarios online con los recientes avances de la IA y la forma en que permiten la ciberdelincuencia
• Supervisar y proteger la tecnología de IA contra abusos, incluida la seguridad en la validación de entradas y respuestas o acciones generadas por la IA
• Para la seguridad LLM: reforzar los entornos sandbox, implementar una validación estricta de los datos y desplegar defensas multicapa contra la inyección de prompts
• Comprender la posición de la organización dentro de la cadena de suministro, abordar las vulnerabilidades de los servidores de cara al público e implantar defensas multicapa en las redes internas.
• Facilitar la visibilidad de extremo a extremo de los agentes de IA
• Implementar la predicción de rutas de ataque para mitigar las amenazas en la nube

Acerca de Trend Micro

Trend Micro, líder mundial en ciberseguridad, contribuye a que el mundo sea seguro en el intercambio de información digital. Impulsada por décadas de experiencia en seguridad, investigación de amenazas globales e innovación continua, nuestra plataforma de ciberseguridad protege a cientos de miles de organizaciones y millones de personas en la nube, redes, dispositivos y endpoints. Como líder en ciberseguridad empresarial y en la nube, la plataforma ofrece una potente variedad de técnicas de defensa contra amenazas avanzadas optimizadas para entornos como AWS, Microsoft y Google, y una visibilidad central para una detección y respuesta mejores y más rápidas. Con 7.000 empleados en 65 países, Trend Micro permite a las organizaciones simplificar y proteger su mundo conectado. TrendMicro.com.