AI veroorzaakt een revolutie in de wereld van informatiebeveiliging met capaciteiten om aanvallen te identificeren en automatische responsacties uit te voeren. Maar tegelijkertijd wordt AI ook gebruikt om fraude te plegen en cyberaanvallen te creëren. Ben Gelman, senior data scientist bij Sophos, waarschuwt voor nieuwe, geavanceerde technieken.
Informatiebeveiliging is aan een flinke transformatie bezig onder invloed van ontwikkelingen rond AI. Nieuwe AI-oplossingen bieden een breed scala aan opties om systemen en gegevens te beschermen tegen geavanceerde bedreigingen. “We integreren kunstmatige intelligentie in alles wat we doen,” vertelt Ben Selman. “Van Sophos X-Ops dreigingsinformatie tot de nieuwste cyberoplossingen, de bedoeling is om kritieke waarschuwingen en incidenten zo snel mogelijk te isoleren en erop te reageren.”
Ben Gelman
LLM’s
Selman legt uit dat zijn bedrijf werkt aan het toevoegen van Large Language Modellen (LLM’s) in zijn oplossingen. “Daarmee verwachten we verdere verbeteringen in al onze AI-capaciteiten. We passen de LLM’s toe om de detectiemodellen te verbeteren.” Maar AI heeft helaas ook een donkere kant, constateert Selman. “AI wordt volop gebruikt door criminelen voor het creëren van geavanceerde manieren om fraude te plegen.” Selman verwijst naar het recente rapport ‘The Dark Side of AI: Large-Scale Scam Campaigns Made Possible by Generative AI’, waarin het bedrijf laat zien hoe in de nabije toekomst AI kan worden gebruikt voor oplichting. “Met een eenvoudig e-commerce sjabloon en GPT-4 kon ons Sophos X-Ops-team een complete website bouwen met AI-gegenereerde afbeeldingen en productbeschrijvingen. Ook werden automatisch een valse Facebook-inlogpagina en een valse betaalpagina gegenereerd, voor het buitmaken van wachtwoorden en creditcardgegevens. Het opzetten en bedienen van de site vereiste minimale technische kennis, en het onderzoeksteam kon honderden soortgelijke sites binnen enkele minuten creëren.”
Stap voorblijven
Met dit ‘proof of concept’ wil Sophos criminelen vooral een stap voorblijven. “Door dit systeem te creëren, dat nu nog geavanceerder is dan de tools die criminelen gebruiken, hebben we een unieke kans om een bedreiging te analyseren en ons voor te bereiden voordat deze escaleert.” Naarmate cyberaanvallen complexer en effectiever worden, ontkomen organisaties er niet aan om over te schakelen naar managed services voor cyberbescherming. De kosten voor het implementeren van interne beveiliging zullen anders bijzonder hoog oplopen, omdat de vereisten alsmaar toenemen. “As a service-oplossingen voor cyberbeveiliging kunnen deze kosten binnen de perken houden door menselijke expertise samen te brengen met een gedegen infrastructuur, aangevuld met kunstmatige intelligentie. Een geïntegreerde oplossing met AI verlaagt de kosten en stelt organisaties in staat groeiende uitdagingen het hoofd te bieden.” De enige weg voorwaarts is dan ook kunstmatige intelligentie in beveiliging te integreren, zegt Selman. “AI verbetert het vermogen om verdachte patronen en gedragingen te identificeren die niet mogelijk zijn met handmatige systemen. De statistische aard van AI helpt om complexe beslissingen te nemen over verdacht gedrag, waar je dit niet door menselijke inspanningen kunt laten doen.”
