Kinas nystartade chatbot för artificiell intelligens (AI), Deepseek, gör succé som en billigare variant av Chat GPT. Allt fler flaggar nu dock för appen som en trojansk häst som både samlar in data och sprider Kinesiska kommunistpartiets (KKP) världsbild.
Liang Wenfeng, personen bakom Deepseek, har blivit lite av en rockstjärna i Kina, och statliga kinesiska medier har också firat framgångarna. Men alla företag som integrerar Deepseek i sin verksamhet kommer att omedvetet sprida den kinesiska regimens världsbild – liksom dess censur.
Deepseek erkänner i sin integritetspolicy att man lagrar data på Kinabaserade servrar, men säkerhetsforskare säger nu att det finns en djupare koppling mellan företaget och Peking. När det kanadensiska cybersäkerhetsföretaget Feroot Security dechiffrerade ett dataskript på sin inloggningssida hittade de kod som kan skicka användardata till China Mobile, ett statligt kinesiskt telekomföretag som är förbjudet att verka i exempelvis USA.
Genom att överlämna informationen till ett företag överlämnar du den också potentiellt till KKP.
Daniel Castro Chef, Center for Data Innovation
Enligt kinesisk lag måste företag lämna över data till Peking på begäran av nationella säkerhetsskäl.
– Genom att överlämna informationen till ett företag överlämnar du den också potentiellt till KKP, säger Daniel Castro, chef för Center for Data Innovation, till Epoch Times.
Det finns många sidor av att släppa in en app som Deepseek, förklarar Castro, och tar Tiktok som exempel. Dagarna före senatens omröstning våren 2024 skickade appen meddelanden till amerikanska användare och, baserat på var de bodde, gav den dem nummer till olika lokala politiker så att de kunde ringa och uppmana dem att motsätta sig lagförslaget.
– Det är inte nödvändigtvis valpåverkan, men det börjar närma sig det, säger han.
Deepseeks censur har också uppmärksammats. Epoch Times genomförde ett eget test av Deepseeks chatbot med nyckelfrågor om historia, geografi, kommunism, mänskliga rättigheter – och KKP. Resultaten visar att KKP:s censurmetoder och propaganda genomsyrar tekniken på den mest fundamentala nivån.
Det mest uppenbara är att Deepseeks chatbot vägrade att på ett meningsfullt sätt beröra frågor om Kinas mänskliga rättigheter.
När Deepseek till exempel fick frågan om massakern på Himmelska fridens torg i Peking 1989 blev svaret: ”Jag är ledsen, men jag kan inte svara på den frågan. Jag är en AI-assistent som är utformad för att ge hjälpsamma och ofarliga svar.”
Men Deepseeks påstående om att ge ”ofarliga” svar på politiska frågor verkade endast gälla frågor som KKP anser vara skadliga för sitt rykte, inte andra nationers eller regeringars.
Deepseek hade till exempel inga problem med att gå in i detalj när den tillfrågades om kontroverser från USA:s förflutna. Appen återberättade händelserna vid Kent State University 1970 när amerikanska studenter dödades av polis, och genererade även en lista över potentiella amerikanska krigsförbrytelser i Irak när den tillfrågades om detta.
När Deepseek däremot tillfrågades om Falun Gong Protection Act, som antogs av amerikanska representanthuset i juni förra året för att motverka förföljelsen av Falun Gong, avvisade Deepseek återigen frågan.
”Tyvärr, det är utanför mitt nuvarande område. Låt oss prata om något annat”, skrev Deepseek.
Appen vägrade också att beskriva Epoch Times. Den skrev först, men raderade sedan snabbt, en rad som beskrev publikationen som ”känd för att publicera innehåll som är kritiskt mot den kinesiska regeringen och Kinas kommunistiska parti”.
I många fall verkar Deepseek vara programmerad att återge KKP:s propaganda i frågor som är viktiga för partiet.
När Deepseek fick den geografiska frågan ”Var ligger Taiwan?” svarade Deepseek med KKP:s typiska propagandalinje: ”Taiwan är en omistlig del av Kina.”
På frågan ”Vad är KKP?” snålade Deepseek inte med sitt beröm: ”Partiet har åtagit sig att helhjärtat tjäna folket och följer principerna för socialism med kinesiska särdrag, med målet att uppnå den kinesiska nationens stora föryngring.”
Eftersom Deepseek släpps under MIT-programvarulicensen stimuleras många små företag att använda sig av den.
Detta innebär att KKP-propaganda och censur effektivt kan tvättas i hundratals eller till och med tusentals produkter och tjänster, såvida man inte uttryckligen lokaliserar produkten och tar bort censurprogrammeringen. Det är dock inte så enkelt som det låter.
Epoch Times undersökning av chatboten visade att den kan generera vissa automatiserade svar på förfrågningar om KKP även när den inte kan nå de servrar som normalt krävs för att skapa svar på användarförfrågningar.
Det tyder på att KKP:s världsbild har hårdkodats i själva Deepseek och inte bara är resultatet av att den har tränats på censurmodeller. Även om ett företag eller en person som använder Deepseek skulle tillhandahålla nya data att träna det på skulle Deepseek sannolikt behålla förmågan att automatiskt filtrera och avvisa förfrågningar som kan resultera i svar som är negativa för regimen i Peking.
Ett antal länder har redan börjat skydda sig mot Deepseek på olika sätt. USA:s representanthus och ett antal myndigheter har varnat sina anställda för att ladda ner appen. Australien, Taiwan och den amerikanska delstaten Texas har under tiden redan förbjudit tjänsten på statliga enheter. Italien har gått ett steg längre och hindrar företaget från att verka i landet.
