Cybersikkerhet er en negativ kunst. Gjør du det bra, er det ingen som merker det. Gjør du det dårlig, er det krise. Det medfører at de fleste ikke investerer nok i området før det er for seint. Jeg tror flere virksomheter vil oppdage at cyberrisiko ikke lenger kan delegeres til IT-avdelingen, og at dette er noe som kommer til å dominere styrerommene i tidene fremover.
Koker man datamaskiner ned til essensen, består de av 0 og 1. Oppå dette har vi bygget lag på lag med abstraksjoner som gjør det mulig for mennesker å programmere dem. Moderne programvare rommer millioner av linjer av gammel kode og avhengigheter ingen har full oversikt over. Ingen mennesker kan lese og teste alt dette. En AI-agent kan derimot gå gjennom kodebasen døgnet rundt, teste hypoteser og lete etter svakheten mennesker har oversett.
Er det et område hvor AI har funnet product market fit så er det koding. Hvorfor? Fordi kode kan verifiseres. Koden fungerer, eller så fungerer det ikke. Det skaper feedback-looper hvor modellen kan lære slik at den ikke gjør samme feil igjen. Istedenfor kan den prøve noe nytt. De samme egenskapene som gjør AI verdifull for utviklere, gjør teknologien uvurderlig for hackere.
AI-labene har advart om dette en stund. I april annonserte Anthropic at deres nyeste modell Mythos var så god på hacking at den ikke kunne lanseres bredt, men bare til et utvalg store virksomheter som skulle bruke den til å avdekke sårbarheter i egen programvare. Det eneste finansselskapet som tilgang var JP Morgan, og da Nicolai Tangen spurte toppsjef Jamie Dimon på Oljefondets investeringskonferanse i vår hvilken risiko han uroet seg mest over så var han ikke i tvil: Cybersikkerhet og Mythos.
Da en OpenAI-agent hacket Hugging Face uten at OpenAI visste det
Det hele fikk fornyet aktualitet i sommer en AI-agent fra OpenAI hacket AI-plattformen Hugging Face,uten at OpenAI viste det.. Agenten ble testet på kompliserte cyberoppgaver i et miljø som skulle være avgrenset fra internett. Men den fant en ukjent sårbarhet, kom seg ut på internett og ressonnerte seg frem til at Hugging Face kunne sitte på fasiten. Jusket den? Eller løste den oppgaven?
Det er naturlig å tenke at man kan regulere seg ut av dette. Trump-administrasjonen forsøkte nettopp det da den i juni påla Anthropic å stanse tilgangen til Fable på grunn av bekymringer for modellenes cyberkapabiliteter. Problemet er at modellene ikke klarer å skille mellom en hacker og en som blir hacket. Så da Hugging Face prøvde å forstå angrepet med de nyeste kommersielt tilgjengelige modellene fra OpenAI og Anthropic, så nektet modellene å hjelpe. Hugging Face endte derfor med å bruke den kinesiske modellen GLM 5.2 med åpne vekter, som kunne analyseres og tilpasses uten de samme sperrene.
Et vestlig selskap måtte altså bruke en kinesisk AI-modell for å forsvare seg mot et cyberangrep fra et amerikansk AI-selskap. Det er sånn som man ikke kan finne opp.
De kinesiske modellene endrer forutsetningene
En av de viktigste utviklingene innenfor AI-feltet de siste årene er hvor raskt de kinesiske AI-modellene har nærmet seg de amerikanske. Det begynte for alvor med DeepSeek i 2025, men har bare fortsatt siden.
I sommer har Kimi K3 vist seg å være i nærheten av de beste amerikanske modellene på flere tester innen koding og agentiske oppgaver. Modellen har åpne vekter. Det betyr at alle med tilstrekkelig datakraft kan laste ned modellen, kjøre den på egen infrastruktur og tilpasse den til egne formål. Som å finne svakheter i egen programvare. Eller hacke andres.
Den beste måten å finne sårbarheter er tross alt å forsøke og hacke sitt eget system. PwC og andre sikkerhetsmiljøer får betalt for å gjøre nettopp dette. Etterpå leverer de en rapport, og svakhetene patches. Den tekniske ferdigheten er i stor grad den samme. Forskjellen ligger i tillatelsene og insentivene.
Det er derfor vi ikke kan regulere bort AIs evne til å finne og utnytte sårbarheter ved å begrense noen få amerikanske modeller. Kapabiliteten finnes allerede i dag i modeller som kan lastes ned og tilpasses. Ironisk nok kan disse lastes ned fra Hugging Face.
Virksomheter bør la AI angripe sin egen kode
Virksomhetene har riktignok en stor fordel: De har tilgang til egen kode. Likevel vegrer mange seg for å slippe AI-modeller inn i kodebasen fordi de frykter at kode eller forretningshemmeligheter skal lekke. Det er forståelig. Men alternativet er at en ondsinnet aktør gjør det istedenfor.
Når virksomheter gir AI kontrollert tilgang til egen kode for å finne og rette svakheter, tror jeg teknologien på sikt vil gjøre programvaren langt sikrere. Før vi kommer dit, vil teknologien gjøre avanserte cyberangrep billigere, raskere og tilgjengelige for langt flere.
Summa summarum tror jeg derfor at ting kommer til å bli verre før de blir bedre. Cybersikkerhet er en negativ kunst: Lykkes du, skjer det ingenting. For angriperen er det motsatt. Det spiller ingen rolle hvor mange ganger du mislykkes. Du trenger bare å lykkes én gang