← Til forsiden

Forklaringer

Utdypende artikler om KI-sikkerhet

Start med forklaringen som legger fram hele argumentet, og gå videre til spørsmålet du er mest nysgjerrig på.

Start her Hvorfor er vi bekymret for kunstig superintelligens? Sommeren 2026 fant isolerte KI-agenter hos OpenAI en måte å samarbeide utenfor grensene man satt for dem, og brøt seg inn hos KI-plattformen Hugging Face. Hendelsen konkretiserer et viktig spørsmål: Hva skjer hvis KI-systemene blir svært kapable, «superintelligente», men fortsatt handler på tvers av menneskers hensikt? 4 min lesing
Fordypning Hvor gode er KI-systemene — og hvor raskt blir de bedre? KI har tatt store steg på krevende oppgaver, både i matematikk og i lengre programvareoppgaver, men et system kan samtidig være upålitelig i praktisk arbeid. Her ser vi på fremgangen, og på hvor langt det er fra en imponerende testprestasjon til et system vi kan stole på. 10 min lesing Fordypning Hvorfor er det vanskelig å få KI til å gjøre det vi faktisk ønsker? En KI kan bli flink til å nå et måltall uten å oppfylle hensikten bak det. Hvorfor er det så vanskelig å få kunstig intelligens til å gjøre det vi faktisk mener, i stedet for det vi klarer å måle? 5 min lesing Fordypning Kan vi ikke bare dra ut kontakten? Å slå av maskinen som sendte en ordre, trekker ikke automatisk ordren tilbake. Hva må egentlig en av-knapp stanse, og hvilke barrierer trenger vi for å beholde kontrollen når systemene får mer tilgang? 5 min lesing Fordypning Hvordan kan superintelligens bli katastrofalt farlig? En KI trenger forbindelser til verden for å skade den. Her ser vi på veiene fra digitale handlinger til store konsekvenser, og på hva som skiller en alvorlig hendelse fra et argument om varig, global katastrofe. 5 min lesing Fordypning Hva kan gjøres for å få tryggere KI? Sikkerhetsarbeid blir mer håndfast når vi spør hvilket problem hvert tiltak faktisk løser. Her ser vi på evaluering, alignment og kontroll i praksis, og på konkrete forslag fra Tryggere KI og andre, inkludert hva de betyr for Norge. 6 min lesing Faktaboks Hva skjedde hos Hugging Face? Sommeren 2026 brøt KI-agenter fra OpenAIs interne tester gjennom barrierene rundt seg og inn i systemer hos Hugging Face. En kort oversikt over hva som skjedde, hvem som oppdaget det, og hva den uavhengige undersøkelsen fant. 2 min lesing