DNB waarschuwt: AI-modellen verhogen cyberrisico’s

De Nederlandsche Bank (DNB) heeft een waarschuwing afgegeven dat de toegenomen kracht van AI-modellen nieuwe keuzes en uitdagingen op het gebied van cyberrisico's met zich meebrengt. DNB benadrukt dat de ontwikkeling van geavanceerdere algoritmen het voor cybercriminelen eenvoudiger maakt om aanvallen uit te voeren, waarbij ze snel en goedkoop kunnen opereren. Dit heeft gevolgen voor Nederlandse banken, verzekeraars en andere financiële instellingen die hun cyberweerbaarheid en beleid moeten heroverwegen in het kader van de Digital Operational Resilience Act (DORA) en de Europese AI-verordening (AI Act).

Krachtige generatieve AI maakt het mogelijk om realistische phishing-aanvallen, deepfakes en schadelijke code te genereren, waardoor het aanvallers makkelijker wordt gemaakt om kwetsbare instellingen te misleiden. DNB wijst erop dat hoewel veel commerciële AI-modellen veiligheidsmaatregelen hebben, deze vaak te omzeilen zijn via technieken zoals 'jailbreaks' en prompt-injecties. Hierdoor neemt de waarschijnlijkheid van gerichte cyberaanvallen toe, en wordt het onderhouden van datakwaliteit en het beheren van leveringsketens steeds crucialer. Instellingen moeten daarom hun systemen continu monitoren en updaten.

DNB roept de financiële sector op om de cyberrisico's te herzien in het licht van de nieuwe capaciteiten van AI. Dit omvat het formuleren van duidelijke richtlijnen voor het gebruik van AI-toepassingen, het uitvoeren van scenario-oefeningen om incidenten te simuleren, en het implementeren van uitgebreide monitoring en logging. Daarnaast benadrukt DNB de noodzaak van samenwerking binnen de sector om informatie over dreigingen te delen en gezamenlijk de weerstand tegen cyberaanvallen te versterken.

De regulering rondom AI, waaronder DORA en de AI Act, vereist dat financiële instellingen strengere middelen implementeren voor risicobeheer, rapportage en toezicht op de inzet van AI-technologieën. Organisaties dienen goed na te denken over de keuze tussen gesloten en open AI-modellen, waarbij veiligheid en controle voorop moeten staan. Het is van belang dat instellingen zich voorbereiden op deze veranderingen door beleid en processen te herzien, zodat zij het hoofd kunnen bieden aan de toegenomen cyberdreigingen.

Lees het volledige artikel van AI Insider.