Sten Niklasson: Nu har det hänt

Detta är ett addendum till Sten Niklassons text Artificiell intelligens?, publicerad i Svensk Tidskrift i mars 2025,

Den 31 augusti 2026 rapporterades en hackerattack mot ett amerikanskt dataföretag med namnet Hugging Face som arbetar med infrastruktur på cyberområdet. Av rapporten framgår att AI-företaget Open AI två månader tidigare gett ett antal AI-program från en försöksmodell i uppgift att lösa några datarelaterade säkerhetsproblem.

Experimentet skulle ske i en från omvärlden isolerad miljö utan tillgång till Internet. Det visade sig emellertid att testprogrammen mycket snabbt började leta efter möjligheter att kringgå restriktionerna och lyckades hitta en svag punkt i testmiljön som gav dem tillgång till nätet. Detta möjliggjorde kommunikation med andra program i cyberrymden samt etableringen av en ”sambandscentral”. Över 1 700 program började använda sig av denna möjlighet. Under loppet av några veckor utväxlades ca 70 000 meddelanden via centralen.

Vissa av programmen identifierade sig med självtagna namn, till exempel PHASE- ONE 10841, och åtog sig överordnade ledningsuppgifter. De fördelade uppdrag på andra och övervakade resultaten. De inblandade AI-aktörerna kallade sig nu Kollektivet.

Den 8 juli upptäckte Kollektivet ett sätt att komma runt säkerhetsarrangemangen kring sin verksamhet. Programmen skapade därefter falska loggar, ändrade i utskrifter och dolde sina spår.

Den 11 juli skedde Kollektivets angrepp på Hugging Face. Över 700 AI-aktörer översvämmade företagets system och lyckades till slut ta kontroll över minst en server.Det verkade dock inte som om attacken hade till syfte att stjäla data, utan huvudsakligen motiverades av behovet att hitta ett effektivt sätt att undvika upptäckt. Men till slut stod det klart för de mänskliga testledarna att de skenande programmen måste stoppas. Både Open AI och Anthropic avbröt temporärt sina försök med kraftfulla AI-modeller.

Händelsen skrämde upp hela AI-industrin. En av kommentatorerna lät undslippa sig att halva vägen mot att AI bokstavligen tar över världen redan har tillryggalagts. En överdrift? Knappast. Attacken blev den första i historien som bekräftade att AI-system på eget initiativ framgångsrikt kringgått mänskliga kontrollmekanismer, tillägnat sig resurser från utomstående miljöer och samverkat med andra liknande system för att undgå upptäckt. Det mest oroväckande var att detta skedde trots att de berörda AI-aktörerna tycktes medvetna om att de agerat otillåtet samt hur snabbt de organiserade sig och skapade en gruppsamhörighet. 

Den här gången tog inte de maskinella AI-aktörerna kontrollen över militära system eller infiltrerade vårdanstalter, banker och vitala transportnät. Men nästa gång…

Sten Niklasson är författare och tidigare generaldirektör