ChatGPT: Zorgen over macht en misbruik

Wordt het risico dit uw organisatie loopt om slachtoffer te worden van cybercrimes door misbruik van kunstmatige intelligentie groter? En wat kunt u hier tegen doen? Neem contact met ons op voor beantwoordingen van deze vragen en meer.

Kunstmatige intelligentie (AI) heeft ons veel voordelen gebracht, maar er zijn ook twijfels gerezen. Wordt het fenomeen niet te machtig? Bovendien zijn er andere problemen die moeten worden aangepakt, zoals het misbruik van AI door kwaadwillenden, bijvoorbeeld voor het hacken van mensen. Het antwoord op deze vraag is helaas minder rooskleurig dan de grappen die mensen graag maken met ChatGPT.

Zeer realistische phishingmails
Als je ooit een phishing-training hebt gevolgd op je werk, weet je dat er wordt benadrukt om te letten op signalen die aangeven dat een e-mail niet echt is, waarbij spelfouten een van de belangrijkste waarschuwingssignalen zijn. Helaas wordt het met behulp van onder andere ChatGPT moeilijker om dit te herkennen, omdat ChatGPT zeer realistische phishingmails kan schrijven, vooral in het Engels. Het maakt niet zomaar vreemde spelfouten die hackers wel maken, waardoor het moeilijker wordt om kwaadaardige e-mails te onderscheppen.

Programmeren met behulp van ChatGPT
Je kunt ChatGPT niet alleen vragen om een e-mail voor je te typen, maar je kunt het ook vragen om te helpen bij het reverse-engineeren van code om zo zero-day-exploits te vinden. Je kunt die informatie natuurlijk aan een bedrijf doorgeven en mogelijk een beloning ontvangen via een bug bounty-programma. Helaas wordt ChatGPT soms ook misbruikt om schade aan te richten, zelfs met de ingebouwde beperkingen die OpenAI heeft toegevoegd om dit soort misbruik tegen te gaan. Soms is het voor ChatGPT niet helemaal duidelijk dat het wordt ingezet voor kwaadaardige doeleinden. Als voorbeeld heeft beveiligingsexpert Aaron Mulgrew ChatGPT gebruikt om malware te maken.

Wachtwoorden raden
Hoewel het onderstaande voorbeeld niet gebruikmaakt van ChatGPT, is er wel degelijk kunstmatige intelligentie gebruikt om iemands wachtwoord te achterhalen. Onderzoekers hebben bijvoorbeeld met behulp van PassGAN een lijst van 15 miljoen wachtwoorden geanalyseerd. Wat blijkt? De helft van veelgebruikte wachtwoorden kan in minder dan een minuut worden gekraakt. 71 procent kan binnen een dag worden ontcijferd en 81 procent in minder dan een maand. Daarom is het belangrijk om langere wachtwoorden te gebruiken. Een wachtwoord van 6 letters en cijfers kan binnen enkele minuten worden gekraakt, terwijl wachtwoorden van 18 of meer karakters vaak maanden in beslag nemen vanwege de vele mogelijke combinaties.