Farvel til „åbenlys svindel“, hej til „virker legit“: AI-phishing vinder frem

De fleste genkender konventionel phishing, fordi de har levet med den i årevis. Deres private indbakker og telefoner er fulde af falske leverings-sms’er, e-mails om at „din bankkonto er låst“, og hvordan kan vi overse den „presserende bøn fra en diplomat“, der beder om hjælp til at flytte et absurd beløb ud af deres land. De åbenlyse og ofte latterlige svindelforsøg er ikke længere chokerende, overraskende eller nyhedsværdige. De er baggrundsstøj.

Det, der har ændret sig, er hastigheden og kvaliteten af bedraget. Social engineering, der engang så sjusket ud og var let at afvise, masseproduceres nu med generativ AI. Resultatet er renere sprog, færre åbenlyse advarselstegn og beskeder, der lyder mere som rigtige kolleger og leverandører. Microsofts Digital Defense Report 2025 rapporterer, at AI-drevet phishing kan være markant mere effektiv end traditionelle kampagner, og Verizons Data Breach Investigations Report 2025 bemærker, at AI-genereret tekst i ondsindede e-mails er fordoblet de seneste to år.

For IT-professionelle er skiftet ventet. Mange har forudset det, forstår mønstrene og ved, hvordan de beskytter sig selv. Det større problem er, at mange medarbejdere og kunder uden teknisk baggrund stadig hænger fast i en ældre mental model af phishing: mistænkelige e-mails og sms’er, der er lette at få øje på. Dagens AI-lokkemidler ser ikke altid tvivlsomme ud, og de retter sig i stigende grad mod de steder, hvor skaden er størst: virksomhedens identitetssystemer, intern kommunikation og finansielle workflows.

AI-phishing: Derfor er det nu et stort problem på arbejdspladsen, ikke kun et privat

Konventionel phishing rettet mod private konti sigter som regel mod tyveri af legitimationsoplysninger, kortsvindel eller overtagelse af konti. Nu tilføjer AI-phishing på arbejdspladsen to centrale faktorer:

• Virksomhedens identitet er en hovednøgle. Én kompromitteret postkasse eller single sign-on-session kan føre til intern phishing, datatyveri, leverandørsvindel og vedholdenhed. Data fra Microsofts hændelsesrespons viste, at 28 % af bruddene blev indledt via phishing eller social engineering. Derfor er „det er bare ét klik“ ikke en harmløs formulering. Det er ofte den første dominobrik.
• Forretningsprocesser flytter penge. Ændringer af fakturaer, omdirigering af løn, gavekortssvindel og onboarding af leverandører er designet til at være hurtige, ikke retsmedicinske. Data fra FBI’s IC3 understreger omfanget: i 2024 modtog IC3 21.442 klager om Business Email Compromise med justerede tab på over 2,7 milliarder USD.

Eksempler på AI-phishing

Her er nogle eksempler, IT-professionelle kan dele med kolleger og kunder uden teknisk baggrund, så de forstår, hvordan moderne AI-phishing på arbejdspladsen ser ud. Bemærk, at det ikke er en udtømmende liste, men den fremhæver nogle af de mest almindelige fælder:

• Fælden med „ledelsens hastværk“: En besked, der ser ud til at komme fra CEO’en, instruerer en på økonomiteamet i at sende en presserende overførsel før et bestyrelsesmøde (eller noget andet af væsentlig betydning). Ofte prøver angriberen hurtigt at flytte samtalen til et privat nummer, fordi „jeg er på rejse“.
• Lokkemidlet med HR-dokumentet: En besked hævder at handle om en klage fra en kandidat, en politikopdatering eller opsigelsespapirer og sender modtageren til en falsk Microsoft 365-loginside.
• Byttet af leverandørfaktura: En ægte leverandørtråd kapres eller forfalskes overbevisende, og angriberen smutter „opdaterede bankoplysninger“ ind (ofte med en plausibel grund til ændringen).
• Påskuddet om MFA-nulstilling/helpdesk: En angriber, der udgiver sig for en medarbejder, siger, at vedkommende har mistet sin telefon, beder IT om at nulstille MFA og presser på for en hurtig undtagelse, så „arbejdet kan fortsætte“.
• QR-koden „scan for at se“: En e-mail eller PDF indeholder en QR-kode, der hævder, at modtageren skal scanne den for at se et sikkert dokument, hvilket fører til indsamling af legitimationsoplysninger eller tyveri af tokens.
• Domæneefterligning i skala: Look-alike-domæner registreres hurtigt og bruges til at efterligne brands, leverandører og interne tjenester i brede kampagner.

Kernebudskabet er, at „beskeden ser åbenlyst falsk ud!“ ikke længere er en pålidelig sikring. Angribere behøver ikke fejlfrit sprog eller dyb viden om ofrenes workflows. AI udfylder hullerne.

I bund og grund lykkes AI-phishing, når fart slår verifikation. De mest effektive forsvar kombinerer to ting: enkle brugervaner, der afbryder impulsen til at „handle nu“, og organisatoriske kontroller, der begrænser skaden, hvis nogen glipper. Lad os starte med den første del, for brugerne har altid været, er og vil være det svageste led i kæden af IT-sikkerhed.

Oplæring af brugere: 4 essentielle tjek

Som nævnt har AI-phishing gjort træning, der handler om at „få øje på den åbenlyse svindel“, langt mindre effektiv, fordi mange ondsindede beskeder nu ser polerede, plausible og velkendte ud. I stedet er det praktisk og effektivt at lære brugerne et sæt tjek, de kan gentage, og som de kan bruge på få sekunder. Fire er særligt essentielle: procestjek, identitetstjek, tjek af link/vedhæftning og tjek af information/verifikation.

1. Procestjek

Før brugerne vurderer, hvem en besked kommer fra, bør de først være opmærksomme på, hvad beskeden beder dem om at gøre. AI-phishing lykkes ofte ved at udnytte forretningsprocesser, ikke ved at se åbenlyst mistænkelig ud. Procestjekket er en hurtig måde at få øje på anmodninger, der ikke passer til normale workflows, især når beskeden haster eller prøver at omgå standardkontroller.

Brugerne bør spørge: „Passer anmodningen til et normalt workflow?“ Helt konkret bør de holde øje med:

• Hastværk kombineret med hemmeligholdelse („sig det ikke til nogen“, „skal bruge det før mødet“)
• Usædvanlige anmodninger om betaling eller kontoændring (bankoplysninger, ændringer af leverandørbetalinger, lønopdateringer)
• Prompter om at indtaste legitimationsoplysninger igen (uventede loginsider, links om „sessionen er udløbet“, QR-prompter om „sikkert dokument“)
• Skift af kanal midt i et workflow (e-mail til sms, Teams til privat WhatsApp, „brug det her nye nummer“)
• Anmodninger om at omgå godkendelser („bare denne ene gang“, „jeg godkender senere“)

2. Identitetstjek

Før brugerne svarer på en mistænkelig besked, bør de verificere afsenderen via en kanal, der vides at være sikker. Det kan betyde at ringe til afsenderen på et gemt nummer fra kartoteket, sende en ny e-mail til en betroet adresse (ikke svare på den oprindelige!) eller bekræfte personligt, når det er praktisk og effektivt.

Tjekkene flytter beslutningen fra „ser det falsk ud?“ til „giver det mening?“ og „er jeg sikker på identiteten?“

3. Tjek af link og vedhæftning

Selv når en besked ser legitim ud, bør brugerne behandle links, vedhæftninger og QR-koder som høj risiko, især når de er uventede, haster eller er knyttet til login. Rådene på området omfatter:

• Brug ikke links i beskeden til at logge ind. Åbn tjenesten på normal vis (bogmærke, indtastet URL, officiel app), og naviger derfra.
• Vær forsigtig med vedhæftninger af typen „se dokument“ og QR-koder, især hvis de udløser en uventet loginside eller en prompt om legitimationsoplysninger.
• Hvis et link eller en fil skaber pres for at handle hurtigt, så stop, og kør procestjekket og identitetstjekket først.

4. Tjek af information og verifikation

AI-phishing bliver mere overbevisende, når angribere har mere kontekst. Brugerne bør gå ud fra, at selv små bidder af information, der deles for bredt, kan bruges som våben. Reglerne på området omfatter:

• Undgå at dele følsomme driftsoplysninger i brede kanaler (såsom opdateringer af leverandørers bankoplysninger, betalingsprocesser, navne på godkendere, interne skærmbilleder, rejseplaner og projektdetaljer).
• Del aldrig engangskoder, MFA-prompter eller „verifikations“-oplysninger med nogen. Brugerne bør vide, at IT aldrig beder om dem.
• Verificer via en sikker, kendt kanal, hvis nogen beder om følsomme oplysninger for at „bekræfte identitet“ eller „få løst en presserende opgave“.

Tilsammen kræver de fire tjek ikke, at medarbejdere uden teknisk baggrund bliver sikkerhedseksperter. De skaber derimod ensartede vaner, der kan afværge forsøg på AI-phishing og forhindre identitetstyveri og brud.

Styrk organisationer: 4 kritiske kontrolområder

Gode brugervaner er afgørende i kampen, men de kan ikke bære hele byrden, især ikke når AI gør phishing mere overbevisende og skalerbar. Det næste lag er derfor organisatorisk: kontroller, der reducerer, hvor ofte angreb lykkes, begrænser, hvad en angriber kan gøre med stjålne legitimationsoplysninger eller sessioner, og bygger verifikation ind i de workflows, der styrer adgang og flytter penge. Her er nogle anbefalinger, der gælder for alle organisationer, også små og mellemstore virksomheder med slanke IT-teams og budgetter:

1. Gør phishing-resistent godkendelse til standarden, ikke undtagelsen

Gå ud fra, at adgangskoder bliver phishet, genbrugt eller stjålet. Nøglespørgsmålet er derfor ikke „kan vi stoppe al phishing?“, men „hvad sker der, når en adgangskode lækker?“ Anbefalede kontroller omfatter:

• Phishing-resistent MFA, hvor det er muligt (FIDO2/adgangsnøgler/sikkerhedsnøgler), og stærk MFA alle andre steder.
• Håndhævelse af MFA for privilegerede roller og handlinger med høj risiko (administratorportaler, betalingsændringer, oprettelse af postkasseregler, leverandørstyring).
• Beskyttelse mod MFA-træthed (number matching, enhedsbinding og kontroller, der mindsker accept af push-spam).

Stærk godkendelse fjerner ikke social engineering, men den gør mange forsøg på tyveri af legitimationsoplysninger til blindgyder.

2. Reducer gevinsten ved en stjålen session eller token

AI-phishing retter sig i stigende grad mod sessionstokens og OAuth-samtykke, ikke kun adgangskoder. Prioritér kontroller, der begrænser vedholdenhed og lateral bevægelse. Det omfatter:

• Betinget adgang og risikobaserede politikker for umulig rejse, ukendte enheder og afvigende logins.
• Stramme postkassekontroller (automatisk videresendelse, mistænkelige indbakkeregler, nyoprettede stedfortrædere).
• Governance af OAuth og tredjepartsapps (begræns brugersamtykke, kræv administratorgodkendelse af risikable scopes, gennemgå nye app-tildelinger).
• Mindste privilegium som standard (stående administratorrettigheder holdes sjældne, tidsbegrænsede og mulige at revidere).

Kontrollerne afgør ofte, om en hændelse forbliver inddæmmet eller bliver en intern phishing-platform og en hændelse med dataudtræk.

3. Beskyt de workflows, angribere går mest efter

Mange hændelser med store tab sker, fordi en legitim forretningsproces udnyttes. Styrk workflows med høj risiko med indbygget verifikation gennem følgende:

• Bekræftelse via en uafhængig kanal for ændringer af bank og løn ved hjælp af betroede kontaktoplysninger, der allerede ligger i systemet.
• Godkendelse af to personer ved presserende betalinger og oprettelse af nye leverandører.
• Verificeret leverandørkommunikation (godkendte domæner, kontaktlister, kontroller af ændringer i betalingsoplysninger).
• Tydelige regler for „gør aldrig dette“ (del aldrig MFA-koder, godkend aldrig uventede MFA-prompter, installer aldrig fjernværktøjer ud fra uopfordrede anmodninger).

Når selve processen kræver verifikation, holder organisationer op med at stole på den enkeltes dømmekraft under pres.

4. Gør indberetning hurtig, tryg og givende

Jo hurtigere et mistænkt phishingforsøg indberettes, jo mindre er skaden. Derfor bør organisationer muliggøre:

• Indberetning med ét klik i e-mail og samarbejdsværktøjer.
• Hurtige feedbacksløjfer („det var ondsindet, godt gået“ eller „det var sikkert, og her er hvorfor“).
• En kultur uden skyld og skam, der belønner al indberetning, også falske positiver.

Indsigt og råd fra vores Chief Security Officer, Patrick Pilotte

Det, jeg finder særligt relevant i artiklen, er det paradigmeskifte, den foreslår: vi bør ikke længere stole på „det, der virker mistænkeligt“, men på „det, der ikke følger en normal proces“.

Der, hvor jeg vil nuancere, er, at AI ikke skabte sofistikeret phishing, den gjorde den tilgængelig i skala. Det, der tidligere var forbeholdt målrettede angreb (BEC, CEO-svindel), kan nu reproduceres massivt med lille indsats. For mig er det egentlige problem derfor ikke kun kvaliteten af beskederne, men deres industrialisering.

Jeg vil også tilføje, at angreb ikke længere kun er e-mail. Vi ser flere og flere hybridsituationer, der kombinerer e-mails, interne beskedplatforme (Teams, Slack) og endda voice phishing med stemmekloning, hvilket øger troværdigheden dramatisk.

Endelig er det mere præcist, frem for at se brugeren som det svageste led, at sige, at vores forretningsprocesser ofte er optimeret til fart frem for verifikation, og det er præcis dér, angribere udnytter hullet.

Det sidste ord

AI-phishing virker, når mennesker har travlt, og systemer er tilladende. Svaret er ikke at forvente perfekt årvågenhed fra brugerne. Det er derimod at bygge et stærkt sikkerhedsnet, der hviler på verifikationsvaner, som er lette at bruge under pres, og at forstærke dem med stærke organisatoriske kontroller, der begrænser konsekvensen af fejl.