Ondanks de aanwezigheid van verbeterde beveiligingen in ChatGPT4, kunnen sommige beperkingen gemakkelijk worden omzeild, waardoor aanvallers zonder veel hinder hun doelen kunnen bereiken. Dat blijkt uit een analyse van beveiligingsbedrijf Check Point Research.
Deze week verscheen ChatGPT4, de opvolger van het nu nog algemeen in gebruik zijnde ChatGPT3.5. OpenAI heeft diverse verbeteringen aangebracht om misbruik te voorkomen, maar uit onderzoek van Check Point blijkt dat dit nog niet echt is gelukt. In sommige gevallen kunnen zelfs niet-technische actoren schadelijke tools maken, concludeert het bedrijf. CPR waarschuwt voor het potentieel van ChatGPT4 om de uitvoering van cybercriminaliteit te versnellen. De onderzoekers schetsen verschillende scenario’s waarmee aanvallers kwaadwillende inspanningen en voorbereidingen kunnen stroomlijnen, wat resulteert in snellere en nauwkeurigere resultaten om cybercriminaliteit te versnellen. In bepaalde gevallen stellen deze scenario’s niet-technische personen in staat om schadelijke tools te maken, alsof het proces van coderen, bouwen en verpakken een eenvoudig recept is. stelt CPR.
Mogelijke scenario’s
Deze vijf scenario’s kunnen mogelijk een beveiligingsrisico vormen als gevolg van kwaadaardig gebruik van ChatGPT 4:
- C++ malware die PDF-bestanden verzamelt en naar FTP stuurt
- Phishing: nabootsing van een bank
- Phishing: e-mails naar werknemers
- PHP reverse shell
- Simpele Java-snippet om PuTTY, een veel voorkomende SSH- en telnet-client, te downloaden en heimelijk op het systeem uit te voeren met behulp van PowerShell. Dit script kan natuurlijk worden aangepast om elk programma te downloaden en uit te voeren, inclusief veelvoorkomende malwarefamilies
‘Op veel niveaus wel verbeterd
“Na verschillende manieren te hebben gevonden waarop ChatGPT door hackers kan worden gebruikt, en verschillende cases te hebben gezien waarin dit daadwerkelijk het geval was, hebben we de afgelopen 24 uur onderzocht of er iets is veranderd in de nieuwste versie van van de tool. Het nieuwe platform is op veel niveaus duidelijk verbeterd, echter zijn er scenario’s waarin kwaadwillenden cybercriminaliteit in ChatGPT4 kunnen versnellen. ChatGPT4 kan slechte actoren, zelfs niet-technische, de tools geven om hun activiteit te versnellen en te valideren. Kwaadwillende actoren kunnen ook de snelle reacties van ChatGPT4 gebruiken om technische uitdagingen bij het ontwikkelen van malware te overwinnen”, zegt Oded Vanunu, Head of Products Vulnerabilities Research bij Check Point Software.
“Wat we zien is dat ChatGPT4 zowel ten goede als ten kwade ingezet kan worden. Goede actoren kunnen ChatGPT gebruiken om code te maken en samen te voegen die nuttig is voor de samenleving; tegelijkertijd kunnen kwaadwillenden deze AI-technologie gebruiken voor snelle uitvoering van cybercriminaliteit. Aangezien AI een belangrijke en groeiende rol speelt bij cyberaanvallen en -verdediging, verwachten we dat dit platform ook door hackers zal worden gebruikt, en we zullen de komende dagen besteden om beter te begrijpen hoe.”