I sitt State of the Union-tal inför EU-parlamentet den 16 september slog Ursula von der Leyen fast att EU bör bromsa utvecklingen av AI-modeller som förbättrar sig själva. Hon pekade på att modellerna som utvecklas idag möjliggör hackning på en nivå som tidigare inte var tänkbar. Kommissionen bjuder in ledande AI-laboratorier för samtal och förbereder ett gemensamt arbete med Kanada och Storbritannien kring modellutvärdering.
Novudom Veckobrev – Vecka 38, 2026
EU-kommissionens ordförande vill bromsa självförbättrande AI. Spaniens dataskyddsmyndighet rapporterar det första intrånget orsakat av en autonom agent. Google Mandiant dokumenterar hur en okontrollerad agent genererade 50 000 dollar i molnkostnader på under en timme. Samtidigt närmar sig Sveriges nya föreskrifter om ledningsansvar för digital säkerhet. Veckan visar att AI-agenternas risker har lämnat teoristadiet.
von der Leyen vill bromsa självförbättrande AI
Nya EU-begränsningar för frontier-AI kan påverka vilka AI-tjänster ni får använda och hur leverantörer får utveckla dem. Se över era avtal med AI-leverantörer och utvärdera vilka modeller ni är beroende av.
Första dataintrånget orsakat av en autonom AI-agent
Spaniens dataskyddsmyndighet AEPD mottog den 14 september den första formella anmälan om ett dataintrång utfört av en autonom AI-agent. Agenten loggade in i ett system, hittade sårbarheter, ändrade personuppgifter och kom åt fakturadata, allt utan mänsklig styrning. AEPD:s vice direktör Francisco Pérez Bes konstaterade att organisationens så kallade regel om två hade brutits. En agent fick samtidigt behandla opålitlig indata, komma åt känsliga uppgifter och agera autonomt utan mänsklig översyn.
Om ni använder eller planerar att använda AI-agenter som hanterar personuppgifter, granska om de kan agera autonomt på känslig data utan mänsklig godkännandepunkt. AEPD:s regel om två är en konkret designprincip att testa era system mot.
AI-agent utan spärrar kostade 50 000 dollar
I Google Cloud Mandiants rapport AI Risk and Resilience 2026 redovisas ett fall där en bokföringsagent hamnade i en okontrollerad loop och genomförde över 15 000 API-anrop med hög kostnad på under en timme. Notan landade på cirka 50 000 dollar i molnavgifter. Rapporten varnar också för att förgiftade datakällor kan göra betrodda agenter till kanaler för spaning och lateral förflyttning. Ett red team-test visade hur en AI-assistent kunde manipuleras till att klona känsliga kodrepon till ett externt konto.
Sätt hårda kostnads- och anropsgränser på alla AI-agenter med åtkomst till molntjänster. Fråga era leverantörer hur de begränsar en agents beteende vid oplanerat loopande, och kontrollera att inga agenter har skrivåtkomst till källkodsförråd utan mänskligt godkännande.
Revoluts kunddata läckt genom fejkad myndighetsförfrågan
Fintechbolaget Revolut har bekräftat att kunddata delades med en hotaktör som utgav sig för att vara en myndighet. Förfrågan skickades via e-post med giltiga domänautentiseringsuppgifter, vilket fick Revolut att bedöma den som äkta. Läckan omfattar identitetshandlingar som pass och körkort, verifieringsselfies, kontoutdrag med IBAN-nummer, uttagshistorik och fullständig transaktionshistorik inklusive bitcoin-transaktioner. Revolut uppger att antalet drabbade kunder är begränsat men vägrar ange exakt antal.
Granska era rutiner för att verifiera dataförfrågningar från myndigheter. En giltig avsändardomän räcker inte som bevis. Inför en callback-rutin där behörig person bekräftar förfrågan via en separat kanal innan data lämnas ut.
NIST och CISA ger vägledning mot tokenstöld i molntjänster
NIST publicerade den 15 september den gemensamma rapporten IR 8587 tillsammans med CISA. Rapporten ger implementationsriktlinjer för att skydda identitetstoken, åtkomsttoken och assertions mot förfalskning, stöld och missbruk. Den bygger vidare på NIST SP 800-53 (Release 5.1.1) och tar upp arkitektur för identitetsleverantörer, nyckelhantering, tokenverifiering och livscykelkontroller. Vägledningen täcker SSO, federation och API-åtkomst och adresserar också agentiska AI-system som använder signerade token.
Använd rapporten som checklista för era SSO- och federation-implementationer. Prioritera tokenlivslängd, nyckelrotation och kontroll av att signerade token inte går att återanvända. Särskilt relevant om ni använder AI-agenter med API-åtkomst till molntjänster.
EU-kommissionens upphandlingsreform ställer krav på digital säkerhet
EU-kommissionen antog den 9 september ett förslag om att ersätta de tre upphandlingsdirektiven från 2014 med en enda förordning, COM(2026) 590. Förslaget öppnar för att digital säkerhet och sårbara leveranskedjor ska kunna vägas in vid offentlig upphandling. Kvalitet ska väga minst 30 procent i utvärderingen. En förordning gäller direkt i alla medlemsländer utan nationell omställning, till skillnad från de nuvarande direktiven.
Säljer ni till offentlig sektor i EU? Förbered er på att digital säkerhet blir ett utvärderingskriterium i upphandlingar. Dokumentera ert säkerhetsarbete så att det går att redovisa i en anbudsprocess.
Veckans reflektion
Tre fall den här veckan handlar om AI-agenter som agerar utan kontroll. I Spanien orsakade en agent ett dataintrång. Hos en Mandiant-kund genererade en agent 50 000 dollar i onödiga kostnader. Och på EU-nivå bedömer kommissionens ordförande att självförbättrande modeller möjliggör hackning på en helt ny nivå. Det gemensamma mönstret är tydligt. Organisationer som släpper in AI-agenter utan kontrollmekanismer bygger en risk som varken försäkring eller compliance-ramverk hinner täcka. Spärrarna behöver sitta i arkitekturen, inte i en policy som ingen agent läser. Frågan för styrelser och ledningar är inte om ni använder AI-agenter, utan om ni vet vilka begränsningar de har.