Trend Micro deelt zijn voorspellingen van 2025 en waarschuwt voor opkomst van AI-gestuurde deepfake-aanvallen

Amsterdam, 18 december 2024 - Trend Micro, leider op het gebied van cybersecurity, waarschuwt dat sterk gepersonaliseerde, AI-gestuurde aanvallen vanaf 2025 kunnen leiden tot meer phishing, scams en beïnvloedingscampagnes.

Jon Clay, VP of Threat Intelligence bij Trend Micro: “Nu generatieve AI een steeds grotere rol speelt in ons leven, moeten we ook waakzaam blijven voor de dreigingen die ontstaan door het gebruik van deze technologie. Hypergepersonaliseerde aanvallen en agent AI-ondermijning vragen om gezamenlijke inspanningen van de sector. Bedrijfsleiders moeten zich realiseren dat cyberrisico’s altijd bedrijfsrisico’s zijn die een grote impact kunnen hebben op toekomstige strategieën.”

Trend Micro waarschuwt in zijn rapport over opkomende dreigingen in 2025 onder meer voor de opkomst van kwaadaardige ‘digital twins’, waarbij gestolen persoonlijke gegevens worden gebruikt om een AI-systeem (LLM) te trainen, zodat het de kennis, persoonlijkheid en schrijfstijl van een slachtoffer nabootst. Deze digital twins, gecombineerd met deepfake video's en gecompromitteerde biometrische gegevens, kunnen identiteitsfraude vergemakkelijken of slachtoffers misleiden door een nepaccount te laten lijken op een vriend, collega of familielid.

Deepfakes en AI kunnen verder worden ingezet voor grootschalige, hypergepersonaliseerde aanvallen om:

• Bedrijfscompromittering (BEC/BPC) en ‘nepmedewerker’-fraude te versterken.
• Slachtoffers te identificeren en te misleiden, waarna ze aan een menselijke operator worden doorgegeven die met hen chat met behulp van een ‘persoonlijkheidsfilter’ of een LLM.
• Open-source informatievergaring te verbeteren.
• Effectiever aanvalspaden voor te bereiden.
• Neppe social media-profielen te creëren voor desinformatie en oplichting.

Daarnaast moeten bedrijven die in 2025 massaal AI gaan gebruiken, rekening houden met dreigingen zoals:

• Exploitaties van kwetsbaarheden en het kapen van AI-agents om ongeautoriseerde acties te verrichten.
• Onbedoeld lekken van informatie door Generative AI (GenAI).
• Misbruik van systeembronnen door AI-agents, wat kan leiden tot denial-of-service-aanvallen.

Buiten de wereld van AI-dreigingen

Het rapport belicht ook andere risico's voor 2025, zoals:

• Kwetsbaarheden in geheugenbeheer, API-exploits en bugs die leiden tot geheugencorruptie.
• Meer kwetsbaarheden in containers.
• Traditionele beveiligingsproblemen zoals cross-site scripting (XSS) en SQL-injecties.
• De mogelijkheid dat één enkele kwetsbaarheid in een breed toegepast systeem zich verspreidt naar meerdere modellen en fabrikanten, zoals bij de ECU van een verbonden voertuig.

Ransomware

Cybercriminelen zullen zich aanpassen aan verbeteringen in Endpoint Detection and Response (EDR) door:

• Te zorgen voor kill chains die gebruik maken van plekken waar de meeste EDR-tools niet geïnstalleerd zijn (bijvoorbeeld cloud- en IoT-apparaten).
• AV en EDR volledig uit te schakelen.
• Gebruik te maken van kwetsbare drivers (BYOVD-technieken) en verborgen shellcodes.
• Het omleiden van Windows-subsystemen om EDR/AV-detectie te omzeilen.

Het resultaat is dat aanvallen sneller en moeilijker te detecteren worden doordat er minder stappen zijn in de kill chain.

Tijd voor actie

Om deze toenemende dreigingen en het groeiende aanvalsoppervlak aan te pakken, raadt Trend Micro bedrijven aan om:

• Een risicogebaseerde benadering van cyberbeveiliging te hanteren, waarbij bedrijfsmiddelen effectief worden geïdentificeerd en risico’s actief worden beheerd.
• AI in te zetten voor dreigingsinformatie, activabeheer, voorspelling van aanvalspaden en herstelbegeleiding, bij voorkeur vanuit één platform.
• Gebruikerstraining en bewustzijn onder medewerkers te onderhouden, rekening houdend met de impact van recente AI-ontwikkelingen.
• Het gebruik van AI-technologie binnen de organisatie te monitoren en te beveiligen tegen misbruik, inclusief validatie van invoer- en uitvoergegevens die door AI worden gegenereerd.
• Voor de beveiliging van LLM’s: het versterken van sandboxomgevingen, het implementeren van strikte gegevensvalidatie en het inzetten van gelaagde verdedigingen tegen promptinjecties.
• Inzicht te krijgen in de positie van de organisatie binnen de toeleveringsketen en kwetsbaarheden in public servers aan te pakken, met gelaagde verdediging binnen interne netwerken.
• Zichtbaarheid van AI-agents van begin tot eind mogelijk te maken
• Aanvalspadvoorspellingen (Attack Path Prediction) in te zetten om clouddreigingen te beperken.

Bezoek deze pagina voor de voorspellingen van Trend Micro voor 2025.