Dagens tekniska utveckling kommer med många fördelar, men samtidigt medföljer påtagliga risker. Säkerhetsaspekten är inte tillräckligt prioriterad i dag med tanke på de faror som är associerade med utvecklingen av till exempel alltmer uppkopplade enheter och system, AI och autonoma vapen. Det menar författaren och informationssäkerhetschefen Magnus Carling.
Vårt moderna samhälle vilar på digitala grundpelare och den viktigaste pelaren är internet. När jag började arbeta i it-branschen 1995 var internet något nytt i Sverige. I mitten av nittiotalet hyrde vi fortfarande vhs-filmer i videobutikerna, vi ringde vanliga telefonsamtal, och det enda som var uppkopplat i våra hem var möjligtvis en ensam dator.
I dag är precis allt uppkopplat. Från smarta klockor på våra handleder till lampor, ljudsystem, tvättmaskiner, kylskåp, soptunnor, bilar och hela fartyg. Mängden information som hela tiden blixtrar fram längs de digitala motorvägarna går inte ens att föreställa sig. Varje minut skickas över tvåhundra miljoner e-postmeddelanden, hundra tusen timmar film ses på den största streamingplattformen och en halv miljon kommentarer postas på en av de stora sociala medie-plattformarna.
Samtidigt är mängden uppkopplade enheter på internet över fyrtio miljarder och de blir hela tiden f ler. Det kan jämföras med antalet människor som befinner sig online regelbundet, vilket är runt fyra miljarder. Maskinerna är f ler än människorna online och vårt moderna samhälle är beroende av att internet fungerar.
Så snart den digitala infrastrukturen stannar så stannar hela samhället. Vi kan inte handla matvaror, vi kan inte boka resor, det går inte att deklarera, vi kan inte se på film eller lyssna på musik från strömmande mediatjänster och så vidare. Inga företag i vår del av världen kan fortsätta göra affärer utan att de digitala tjänsterna fungerar.
Utöver de tjänster vi använder förlitar sig även traditionell infrastruktur i allt högre grad på uppkopplade system. Exempelvis är vindkraftverk i allra högsta grad uppkopplade och beroende av en underliggande, digital infrastruktur, och hela transportsektorn kopplar upp allt från signalsystem till radarsystem. Sjukvården använder otroligt mycket uppkopplad teknik och det finns tyvärr exempel på fall när mänskligt liv är hotat av att medicinteknik har hackats.
Som om beroendet av fungerande digital infrastruktur inte var tillräckligt oroande håller vi på att uppfinna ny teknik konstant. Digitaliseringen har inte på något sätt avstannat, i stället blir tekniken alltmer avancerad. Chattrobotar lär sig att bli bättre på kundtjänst, vi har snart självkörande bilar, vi har robotar som blir mer och mer självständiga i att lösa mer komplexa problem och det tar inte slut där.
Utvecklingen av konstgjord intelligens – Artificial Intelligence, AI – går med rasande fart. Datorer blir bättre på att lösa komplexa problem, och även om den första självmedvetna intelligensen inte är här har konstgjord intelligens blivit så bra att den kan imitera människor både till utseende och tal. Visste du till exempel att den första podden utan människor inblandade har spelats in av en AI? Lustigt, eller skrämmande, nog intervjuade den en konstgjord version av Steve Jobs.
Tekniken kan användas till att lösa många problem, automatisera enformiga uppgifter och rent av bota sjukdomar. En AI används för att helt autonomt forska på nya botemedel mot covid. Med ny teknik för att koppla in datorer direkt till hjärnan kan man få människor som blivit av med en arm att kunna styra en robotarm med sina tankar. Eller rent av få blinda människor att kunna se. Låter det som science-fiction? Det är det inte.
Vi har redan vant oss vid många delar av den här fantastiska teknikutvecklingen. Att kunna se på vilken film som helst vid vilken tid på dygnet som helst ser vi som självklart. Eller att kunna lyssna på hela världens samlade musikbibliotek. Man får leta länge för att hitta en låt som inte finns på någon av musiktjänsterna.
I den bästa av världar hade vi bara kunnat fortsätta utveckla teknik och dra nytta av alla dess fördelar. Men tyvärr finns det stora risker och det finns många aktörer som drar nytta av tekniken för att stjäla pengar, hemligheter eller identiteter. Attacker mot kritisk infrastruktur pågår hela tiden och i många fall är det hela nationer som angriper andra nationer.
Mängden bedragare ökar också och det är mindre än en procents risk för en kriminell på nätet att åka fast. De är dessutom duktiga på att uppfinna nya sätt att lura sina offer på pengar.
Värre blir det om vi utvecklar en konstgjord intelligens som är smartare än oss själva.
Det största hotet tror jag dock är att vi fortfarande inte tar säkerhet på allvar. Vi utvecklar teknik utan att ha med säkerhet från start. När chattroboten Tay lanserades för att lära sig bli bra på att kommunicera tog det tjugofyra timmar innan den var en galopperande rasist. Det berodde inte på att den inte var smart programmerad, utan för att den matades med fel fakta av den grupp som fick en chans att chatta med den.
Tekniken är alltid tudelad. Precis som med kärnkraft, som kan användas både för att skapa energi och att skapa bomber, kan digital teknik slå åt båda hållen. Värre blir det om vi utvecklar en konstgjord intelligens som är smartare än oss själva. Att skapa kod som är självförbättrande finns det många initiativ till och med den konstgjorda intelligensen finns precis samma syfte.
Tyvärr är det oerhört svårt att överblicka vad en konstgjord intelligens som är smartare än vi skulle kunna ställa till med. Det behöver inte handla om mördarrobotar, det kan vara så enkelt som att den konstgjorda intelligensen får i uppgift att försöka lösa klimatkrisen. I värsta fall kommer den fram till att lösningen är att ta bort människorna ur ekvationen. Råkar den då också vara uppkopplad till autonoma vapensystem kan katastrofen vara ett faktum.
Just autonoma vapensystem, där en maskin får tillåtas att ta beslutet att ta livet av en människa, är redan verklighet. De är strikt kontrollerade i dag, men kommer de att vara det i framtiden?
Säkerhet måste tas på allvar och alltid vara med från början, oavsett om det gäller att designa ett nytt affärssystem eller koppla upp ett radarsystem. En av de bästa åtgärderna skulle vara att inkludera informationssäkerhet som ett fast ämne i grundskolan, men det är bråttom.
Redan i dag har vi en generation som växt upp med ständig uppkoppling, utan att veta särskilt mycket om informationssäkerhet. De använder de digitala tjänsterna urskillningslöst och riskerar att antingen bli bedragna, utsatta för brott eller omedvetet medverka till att någon annan drabbas.
Visserligen finns det en del ljuspunkter, som att EU vill lagstifta om användningen av konstgjord intelligens. Kommande AI Act styr upp användningen av konstgjord intelligens, vilket är bra och välkommet. Många företag och organisationer prioriterar informations- och cybersäkerhet, men i stort är det långt kvar tills vi kan lita på tekniken. Det är av största vikt att säkerhet får ta plats på agendan från start och att företag, organisationer och samhället i stort prioriterar säkerhetsåtgärderna i alla delar av verksamheterna.
Magnus Carling - Författare och informationssäkerhetschef
