Fra allieret til fjende: Er vi klar til offensiv AI?

AI spiller en stadig vigtigere rolle i cybersikkerhed og udløser markante — og på nogle punkter hidtil usete — fordele på flere områder. For eksempel:

• Sårbarhedshåndtering: AI og maskinlæring bruger avancerede teknikker til at analysere usædvanlige mønstre og sårbarheder.
• Datahåndtering: AI overvåger transaktionsdata på netværket for at beskytte dem mod potentielle trusler.
• Trusselsregistrering: AI bruger adfærdsanalyse til at identificere ondsindede aktiviteter i realtid og reagerer med det samme på trusler.
• Netværksovervågning og sikkerhed: AI etablerer et referencepunkt for netværkstrafik og bruger den basislinje til at vurdere og beskytte netværket.
• Højere sikkerhed over tid: AI bliver klogere og forbedrer løbende sine sikkerhedstiltag over tid.

AI er tydeligvis blevet en afgørende brik i det samlede cybersikkerhedspuslespil — og vi er kun lige begyndt. Tænk på, at det globale marked for AI-baseret sikkerhed i 2030 forventes at nå 133,8 milliarder dollars, op fra 14,9 milliarder dollars i 2021 (alle beløb i USD).

Fremkomsten af offensiv AI

Trods den positive udvikling er der også en voksende erkendelse af, at modstandere opdaterer deres drejebog for at udnytte AI. Fænomenet er blevet døbt „offensiv AI“ (også kendt som våbengjort AI). En undersøgelse blandt sikkerhedsledere, bestilt af Darktrace og gennemført af Forrester, viste:

• 88 procent mener, at offensiv AI er uundgåelig.
• 77 procent forventer, at offensiv AI fører til angreb i større skala og med højere hastighed.
• 75 procent nævner forstyrrelse af systemer og forretning som deres største bekymring ved offensiv AI.
• 66 procent mener, at offensiv AI vil udløse angreb, som intet menneske kan forestille sig eller forudse.

En særskilt undersøgelse fra Deloitte viste, at 43 procent af CIO’erne har „store eller ekstreme bekymringer om potentielle AI-risici“, og 49 procent siger, at cybersikkerhedssårbarheder knyttet til AI er blandt deres største frygt.

Sådan udnytter modstandere AI

Ifølge Hubsecurity.com er her nogle af de måder, modstandere udnytter sårbarheder i AI- og ML-systemer på:

• de giver systemer ondsindede input, som får algoritmer med høj volumen til at lave forkerte forudsigelser; maskinerne tvinges dermed til at træffe beslutninger på ubekræftede data
• de korrumperer (også kaldet „forgiftning“) datasættenes integritet og pålidelighed
• de narer opgavespecifikke ML-modeller, der er designet til at nå fastsatte mål gennem specialiseret træning
• de giver onlinesystemer falske input eller en gradvis genoptræning, så de leverer fejlbehæftede output
• de iværksætter diskrete dataudtræksangreb rettet mod selve ML-modellen; modstandere gennemfører også mindre subsymbolske udtræksangreb, som er relativt mindre komplekse, hurtigere og kræver færre ressourcer

Derudover bruger modstandere AI til at gennemføre desinformationskampagner („falske nyheder“). Nogle af dem ser så ægte og troværdige ud, at de narrer erfarne cybersikkerhedsprofessionelle. Fast Company kommenterer:

„Transformere som BERT fra Google og GPT fra OpenAI bruger naturlig sprogbehandling til at forstå tekst og producere oversættelser, resuméer og fortolkninger. De samme transformere bruges også til at sprede falsk trusselsintelligens, og de gør det godt nok til at sætte rigtige cybertrusselsjægere til vægs. Når den misinformation om cybertrusler spredes, kan den tvinge sikkerhedsteamet til at rette opmærksomheden mod falske risici, så systemerne står åbne for reelle, skadelige angreb, der kan få tragiske følger.“

Sådan beskytter du AI-systemer

Hvad kan virksomheder gøre for at beskytte deres AI-systemer? Eksperter peger på tre grundpiller:

• Oprethold ekstremt strenge sikkerhedsprotokoller i hele datamiljøet. Det omfatter (men er ikke begrænset til) princippet om mindste privilegium, zero trust, funktionsadskillelse, forsvar i dybden og fireøjneprincippet.

• Log, og opret et revisionsspor, der fanger alle handlinger, AI udfører. Der skal være synlighed, så kravene til gennemsigtighed opfyldes — men ikke overskrides. For at mindske risikoen kan det være nødvendigt eller ønskeligt at skrue ned for eller forbyde visse modelformer, der er for komplekse eller uigennemsigtige.

• Indfør stærk adgangskontrol og godkendelse. Det omfatter MFA, robust adgangskodeadministration og omfattende træning af slutbrugere. For de fleste virksomheder omfatter det også administration af privilegerede sessioner og/eller privilegeret adgangsstyring til at understøtte funktioner som sikker indsprøjtning af legitimationsoplysninger, automatisk adgangskoderotation, kontoopdagelse, advarsler/notifikationer og styring af check-out-anmodninger.

Slå igen med defensiv AI

Vi ser også udvikling og fremkomst af „defensiv AI“, som er brugen af AI- og ML-metoder (maskinlæring) til at analysere store datainput og opdage et systems normale og unormale adfærdsmønstre — og i sidste ende gennemskue nye typer angreb, samtidig med at nøjagtigheden løbende forbedres. World Economic Forum kommenterer:

„Defensiv AI er ikke blot en teknologisk fordel i kampen mod cyberangreb, men en afgørende allieret på denne nye slagmark. I stedet for at forlade sig på, at sikkerhedspersonale reagerer manuelt på hændelser, vil organisationer bruge AI til på kort sigt at slå igen mod et problem under udvikling, mens menneskelige teams fører tilsyn med AI’ens beslutninger og udfører det afhjælpende arbejde, der på lang sigt styrker den samlede robusthed.“

Den primære rolle for mennesker — og mere specifikt højtuddannede cybersikkerhedsspecialister — i den nye verden med defensiv AI må ikke overses. Ideelt set står AI for at sortere enorme datamængder, udføre rutineopgaver og tilpasse sig angreb. Og mens maskinerne er optaget af det, kan mennesker overvåge beslutningernes integritet, nøjagtighed og duelighed og samtidig hjælpe AI med at blive klogere.

ITPro.com påpeger:

„Ligesom mange andre anvendelser af AI hjælper defensiv AI mennesker ved at tage en stor del af slæbet, udføre nogle handlinger autonomt, lære undervejs, rapportere til mennesker og hjælpe mennesker — og organisationer — med at nå deres mål.“

Og Forbes Business Council-bidragyderen Victor Fredung tilføjer:

„Det afgørende er at bygge en helhedsorienteret tilgang, hvor både menneskelige analytikere og AI-software supplerer hinanden. Når tidskrævende aktiviteter fra sikkerhedsrisici på lavt niveau overlades til software, får det faglærte personale frihed til at fokusere på de sider af sikkerheden, der kræver en menneskelig hånd. Et vellykket samspil mellem AI og faglært personale kan gøre en enorm forskel i beskyttelsen mod cyberkriminalitet.“

Det sidste ord

Selvom AI indimellem kan virke overnaturlig, er den på ingen måde en tryllestav. Den kan dog — og skal ærligt talt — spille en væsentlig rolle i at styrke cybersikkerheden, for modstandere har allerede vist, at de er ivrige efter at gennemføre AI-drevne cyberangreb: alt fra endeløs spam til AI-fuzzing.

Som samfund har vi krydset grænsen for AI, og der er ingen vej tilbage. At grundpillerne i cybersikkerhed og defensiv AI går sammen om at besejre offensiv AI, får stor betydning for, om dette kapitel i vores arts historie bliver en triumferende succeshistorie — eller en iskold advarsel.