Amsterdam, 13 december 2023 - Trend Micro, leider op het gebied van cyberbeveiliging, waarschuwt voor de transformerende rol van generatieve AI (GenAI) in het cyberbeveiligingslandschap en de toename van geavanceerde social engineering-aanvallen en identiteitsdiefstal als gevolg van de brede beschikbaarheid van GenAI-tools.

Pieter Molen, Technical Director Benelux bij Trend Micro: “Geavanceerde large language models (LLM’s) vormen een aanzienlijke dreiging omdat ze ervoor zorgen dat traditionele indicatoren van phishing, zoals een vreemde opmaak of grammaticale fouten, niet langer zichtbaar zijn. Hierdoor wordt het buitengewoon lastig om phishing-e-mails te identificeren. Organisaties moeten verder gaan dan conventionele phishing-maatregelen en -trainingen en prioriteit geven aan de invoering van moderne beveiligingsmaatregelen. Deze moderne verdedigingsmechanismen zijn niet alleen beter in het identificeren van kwaadaardige e-mails dan mensen, maar zorgen ook voor meer veerkracht tegen deze tactieken.”

De brede beschikbaarheid en verbeterde kwaliteit van GenAI, in combinatie met het gebruik van Generative Adversarial Networks (GAN’s), zullen naar verwachting de phishing-markt in 2024 verder ontwrichten. Door deze transformatie is het mogelijk om hyperrealistische audio- en video-content op een kosteneffectieve manier te maken, waardoor business email compromise (BEC), virtuele ontvoering en andere vormen van oplichting zullen toenemen.

De potentieel lucratieve winsten* die cybercriminelen kunnen behalen, zullen hen stimuleren om GenAI-tools verder te ontwikkelen voor criminele campagnes. Daarnaast zullen we vaker zien dat cybercriminelen legitieme tools met gestolen inloggegevens of VPN’s gebruiken om hun identiteit te verbergen.

AI/ML-modellen worden zelf ook doelwit

Hoewel GenAI- en LLM-datasets moeilijk te beïnvloeden zijn, zijn gespecialiseerde cloudgebaseerde machine learning-modellen makkelijker te compromitteren. De gerichte datasets waarop deze ML-modellen zijn getraind, zullen vaker doelwit worden van datavergiftigingsaanvallen, met als doel het stelen van gevoelige data of het verstoren van fraudefilters of zelfs verbonden voertuigen. Het kost tegenwoordig minder dan 100 dollar om dergelijke aanvallen uit te voeren.

Deze trends kunnen echter ook leiden tot meer toezicht door toezichthouders en een impuls geven aan de cyberbeveiligingssector om het heft in eigen handen te nemen. “Het komende jaar zal de cyberindustrie de overheid voorbijstreven wat betreft de ontwikkeling van cyberbeveiliging-specifiek AI-beleid of regelgeving”, aldus Greg Young, VP cybersecurity bij Trend. “De sector gaat snel over op zelfregulering op basis van opt-in.”

Andere opvallende voorspellingen voor 2024 zijn:

• Er is een toename van cloud-native wormaanvallen op komst, gericht op kwetsbaarheden en verkeerde configuraties. Door een hoge mate van automatisering kunnen aanvallers met minimale inspanning meerdere containers, accounts of services beïnvloeden.
• Cloudbeveiliging is cruciaal voor organisaties om hiaten in de beveiliging van cloudomgevingen aan te pakken. Omdat cloud-native applicaties kwetsbaarder zijn voor geautomatiseerde aanvallen, zijn proactieve maatregelen waaronder robuuste verdedigingsmechanismen en grondige beveiligingsaudits noodzakelijk om risico’s te beperken.
• Aanvallen op de supply chain zullen zich niet langer alleen richten op upstream open-source softwarecomponenten, maar ook op tools voor inventaris-identiteitsbeheer. Verder gaan we vaker zien dat cybercriminelen de software supply chain van leveranciers exploiteren via CI/CD-systemen, met een specifieke focus op componenten van derden.
• Aanvallen op private blockchains zullen toenemen als gevolg van kwetsbaarheden in de implementatie hiervan. Kwaadwillenden kunnen adminrechten misbruiken om vermeldingen te wijzigen, te negeren of te wissen en vervolgens losgeld te eisen. Ook zullen ze proberen de hele blockchain te versleutelen wanneer ze controle hebben over voldoende nodes.

Bezoek de website voor meer cyberbeveiligingsvoorspellingen van Trend Micro voor 2024.

*BEC-aanvallen kostte slachtoffers meer dan $2.7bn in 2022, volgens een rapport van de FBI