Robotarna ser oss
Kina är det land i världen där användningen av ansiktsigenkänning är allra mest utbredd och där teknologin byggs ut och utvecklas i en rasande fart. Maya Wang, Kinaforskare på Human Rights Watch, berättar här hur denna teknologi används av regimen för att förtrycka och kontrollera uigurer i Xinjiangprovinsen och hur vardagen kan se ut när varje steg man tar övervakas.
Vi brukade oroa oss för att Terminator-liknande robotar med artificiell intelligens skulle dominera mänskligheten, men det scenario vi närmar oss är snarare motsatsen: det är vi människor som förvandlas till robotar med begränsad handlingsfrihet.
Världen över kan vi se en växande trend av att sensorsystem massövervakar oss dygnet runt på såväl allmänna som privata platser, vare sig det rör sig om automatisk avläsning av registreringsskyltar, kameror med ansiktsigenkänning, mobiltelefonernas platsspårning eller röststyrda assistenter i våra hem. Alla de här ”smarta” systemen lovar oss fördelar – mindre trafik, större säkerhet, bättre kartor, bättre service.
En del av systemen används i länder med ett starkt skydd av de mänskliga rättigheterna. I exempelvis Sverige ger EU:s dataskyddsförordning GDPR ett visst – om än begränsat – skydd när det gäller hur persondata får insamlas. Det är länder som dessutom har yttrandefrihet för personer och press och offentliga forum där de här frågorna debatteras fritt.
De flesta människor bor däremot i länder med mindre skydd av den personliga integriteten. Till och med USA saknar en nationell lagstiftning för skydd av konsumenters integritet och myndigheterna utövar en omfattande övervakning av både medborgare och utlänningar. Men USA är samtidigt en demokrati, där en ökad medvetenhet om integritet har lett till att delstater och städer antagit egna lagar, som exempelvis dataskyddsförordningen California Consumer Privacy Act.
Brister i skyddet av de mänskliga rättigheterna avspeglar sig i skyddet av den personliga integriteten, och det finns regimer som utövar ett långtgående förtryck – från Zimbabwe till Kina – där man aktivt testar ny teknologi för att ytterligare åsidosätta befolkningens rättigheter. I Kina saknar man inte bara ett fungerande skydd för den personliga integriteten, man har inte heller ett civilsamhälle, pressfrihet eller demokratiska val. Kommunistpartiet står över lagen, håller internet i ett järngrepp och har under Xi Jinping blivit allt mindre tolerant mot oliktänkande.
Längst ut på denna integritetsskala ligger Xinjiang, en region i nordvästra Kina med tretton miljoner uigurer och människor ur andra turkmuslimska minoritetsfolk. Under kampanjen ”Strike Hard” mot ”våldsam extremism” har den kinesiska regimen tagit teknologi till hjälp för att undertrycka de muslimska minoriteterna i Xinjiang genom att kontrollera i princip vartenda steg de tar, utsätta dem för godtycklig massinternering, påtvinga dem politisk indoktrinering, begränsa deras rörelsefrihet och utsätta dem för religiöst förtryck. En sannolik uppskattning visar att en miljon människor hålls fångna i regionens läger för ”politisk omskolning”.
Regimers drift att övervaka medborgare är knappast ett nytt fenomen, men den kinesiska regeringen uppvisar en ny modell av social kontroll som, om vi inte agerar nu, mycket väl skulle kunna bli framtidens verklighet för en stor del av mänskligheten.
Hur ser livet ut för Xinjiangs muslimer? Yueming Zhou, en ung universitetsutbildad kvinna, är – i likhet med många människor som läser den här artikeln – världsmedborgare och van vid många rättigheter. Yueming Zhou är född i Xinjiang men har växt upp i ett västland. Under ett sommarlov hade hon rest tillbaka till Xinjiang för att hälsa på släkten. Hon hade använt ett virtuellt privat nätverk som gjorde att hon kunde kringgå kinesiska brandväggen för att koppla upp sig mot sin skolas webbplats och anmäla sig till kurser.
Det dröjde inte länge innan polisen dök upp och hämtade Yueming Zhou till den lokala polisstationen. De talade inte om för henne vad hon var anklagad för, men senare fick hon veta att myndigheterna hade upptäckt att hon använde ett privat nätverk, eftersom de ”övervakar allting på våra mobiler”. Poliserna beslagtog hennes pass, satte handbojor på henne, satte henne i en bil och körde i flera timmar till en annan stad i Xinjiang. Där tog de hennes biometriska data – såsom dna-prov, ansiktsbilder och fingeravtryck. Efter det förde de henne till det lokala lägret för ”politisk omskolning”.
Yueming Zhou insåg snart att hon hamnat i en mardröm. De rättigheter hon haft tidigare var borta:”Jag knuffades in i ett rum med sex våningssängar. De kroppsvisiterade mig grundligt och tvingade mig sedan att byta om till fångkläder. Sedan låste de järndörren … Det fanns en kamera som hade en 360-graders överblick över rummet och en högtalare. Vi övervakades dygnets alla timmar … När vi viskade fick vi bara tala mandarin. Vi tilläts inte utföra något av religiös karaktär eller säga något som ’inte är bra’ för regimen … När vi gick ut ur vårt rum för att gå till ’klassrummet’ måste vi rapportera vårt nummer …”
”Det var kameror i korridorerna och beväpnade vakter. I klassrummet fanns det mellan ’läraren’ – som stod på ett podium – och ’eleverna’ ett stängsel, och två eller tre poliser var också närvarande i klassrummet. När vi skulle äta gav kökspersonalen oss ris genom en liten lucka och vi måste sitta på pallar och äta med maten i knäet.”
Under flera månader var Yueming Zhou tvungen att ”lära sig” mandarin – som hon redan talade flytande – sjunga den kinesiska nationalsången och lära sig patriotiska slagord. Hon fick inte göra sig besvärlig mot sina fångvaktare. ”Ju fler frågor man ställde, desto längre fick man stanna där”, berättade hon att hennes fångvaktare sa till henne.
Yueming Zhou släpptes efter fem månader, men hennes mardröm fortsatte. Hon tilläts inte lämna sin hemstad. Varje vecka blev hon förhörd av polisen, hon var tvungen att närvara vid den nationella flagghissningsceremonin på måndagar och gå på ”kvällskurs” på torsdagar.
Några månader efter att hon blivit ”frigiven” tog Yueming Zhou mod till sig och gick till en biograf. Där fanns en säkerhetscheckpunkt. När hon drog sitt id-kort gav maskinen ifrån sig ett ljud för att larma polisen, som kom och kontrollerade hennes identitet. På gatan och i vägkorsningar fanns kameror som skannade Yueming Zhous och andra fotgängares ansikten. På polisstationen såg hon datorskärmar som övervakade dem som korsade gatorna med små röda rutor runt människors ansikten, så att de förmodligen kunde identifiera vissa individer att undersöka närmare.
Det stora datasystem som används för övervakning i Xinjiang heter Integrated Joint Operations Platform (IJOP). Det fungerar som det centrala nervsystemet för regionens massövervakningssystem, spårar telefoner, fordon och id-kort och registrerar elförbrukningen och användningen av bensinstationer. Det tolkar många helt normala och lagliga handlingar, till och med användning av ”för mycket” elektricitet, som tecken på misstänkt beteende. Vissa människor väljs ut för ytterligare förhör och blir, precis som Yueming Zhou, häktade eller satta i fängelse.
Systemet begränsar dessutom rörelsefriheten beroende på vilken nivå av hot som myndigheterna uppfattar att någon utgör. IJOP är kopplat till de informationsavläsare som installerats på vissa av regionens alla säkerhetscheckpunkter, vilka skickar ut varningssignaler om ”problematiska” individer som Yueming Zhou. Tillsammans utgör de högteknologiska övervakningssystemen osynliga eller virtuella inhägnader. Detta innovativa system gör att regimen kan utöva en genomgripande social kontroll i en region stor som en tredjedel av Västeuropa, samtidigt som det tillåter att de personer som myndigheterna klassat som ”säkra” kan röra sig fritt och därmed förse regionens ekonomi med foglig arbetskraft.
Efter att Yueming Zhou hade hållits kvar i Xinjiang under tcp och ett halvt år utan åtal eller rättegång fick hon tillbaka sitt pass och lämnade regionen.
Xinjiang illustrerar, om än i sin extremaste form, hur rätten till personlig integritet är nyckeln till alla rättigheter. När vi berövas vår integritet riskerar vi att förlora all frihet. Människor som Yueming Zhou, som jag intervjuade, berättade för mig hur rädda de var och hur de måste censurera hela sin existens. Vartenda ansiktsuttryck, varje klädesplagg och frisyr, vartenda ord de yttrar, varje person de pratar med, allting de gör studeras under mikroskop av deras mänskliga övervakare. Men utöver detta blir de i tysthet och med automatik bevakade av det maskinella sensorsystem som omger dem.
Den verklighet vi ser i Xinjiang kan vara närmare oss än vi tror. Inte ens för människor som bor i ett samhälle med sträng lagstiftning om integritetsskydd kan lagarna skydda mot allt. Skyddet av deras rättigheter är beroende av den större sociopolitiska situationen där. Som vi redan har sett kan samhällen – inklusive de i västvärlden – ge efter för diktatoriska impulser och om en sådan regim följs av ytterligare en eller två med sådana idéer kan en demokrati sedan ha vänts till en diktatur.
Men till skillnad från forna tiders diktaturer har förtryckarregimer i dag kraftfulla digitala övervakningssystem till sitt förfogande. Företag – däribland de som hjälper de kinesiska myndigheterna att bibehålla ett järngrepp om Xinjiang – säljer de här produkterna globalt, och till överkomliga priser, från Kirgizistan till Venezuela. Även i USA samarbetar Amazons hemövervakningsteknologi, Ring, med hundratals polismyndigheter.
Vad vi verkligen behöver nu är en robust lagstiftning som på ett ändamålsenligt sätt begränsar insamlande, nyttjande och lagring av biometriska data, för såväl myndigheter som privata företag. Massinsamling och analys av dna – vilket skulle kunna avslöja känslig information om inte bara oss utan även om de människor vi är släkt med och till och med hur vi ser ut – är en av den kinesiska regimens metoder i Xinjiang. De kinesiska myndigheterna har nu världens största dna-databas, med över 80 miljoner insamlade prover, av vilka många har inskaffats över hela landet utan medvetet medgivande från människor som helt saknar koppling till brottslighet. I USA kom ett förslag från justitiedepartementet i oktober att man skulle samla in dna-prover från frihetsberövade invandrare. Den här typen av massinsamling och icke tidsbestämd lagring av genetiska data är ett allvarligt intrång i den personliga integriteten som vi måste sätta stopp för.
Det har slagits larm globalt om den utbredda förekomsten av teknik för ansiktsigenkänning i syfte att övervaka och identifiera människor, med tanke på att det är svårt att ändra eller dölja sina ansiktsdrag. Medan polisen – och de företag som är deras leverantörer – hävdar att de här systemen är till för vår säkerhet, finns det inte entydiga belägg för det. Projekt som använder sig av konceptet ”nålen i höstacken” – att söka av allmänheten i jakt på misstänkta – har haft mindre lyckade resultat, medan de som specifikt har sökt efter försvunna barn eller barn utsatta för människohandel på barnhem och i sexannonser på nätet har haft viss framgång. Human Rights Watch har begärt av regeringar att de ska införa ett tillfälligt stopp för användning av ansiktsigenkänning tills det finns tillräcklig information och debatt för att man ska kunna besluta om man bör begränsa, eller till och med förbjuda, användningen.
I allt större utsträckning börjar företag som säljer övervakningssystem till myndigheter försöka sälja in teknologier för ”multifaktorautentisering” för att ”förbättra noggrannheten”, det vill säga de nöjer sig inte längre med att identifiera oss genom enbart våra ansikten eller våra röster utan förordar en kombination av data. I Xinjiang kräver informationsavläsare på vissa säkerhetscheckpunkter inte endast att folk drar sitt smarta id-kort och skannar sitt ansikte utan de samlar i smyg in deras mobiltelefons identifieringsinformation.
Dessa multimodala identifieringssystem är särskilt farliga eftersom de är utformade för att vara omöjliga att kringgå, och för att speciellt inkräktande och tvingande åtgärder bara kan motiveras i mycket sällsynta fall. Det borde också finnas begränsningar för hur myndigheter – och företag – får lov att kombinera olika informationskällor, eftersom detta är något som kan ge dem möjlighet att dra slutsatser om människors liv och manipulera deras beteende.
Myndigheter borde också omvärdera ”Smart City”-projekt, vilka påstås göra urbana områden mer effektiva och hållbara, men som sprider information om människors identitet, rörelsemönster och vanor antingen till företag som vill tjäna pengar eller till instanser som kan använda informationen till ändamål som helt skiljer sig från de utlovade syftena. Som Cory Doctorow påpekar finns det möjliga alternativa modeller som sätter mänskliga rättigheter i fokus i sin design och säkerställer en adekvat uppsikt över insamlingen och användningen av data.
Nya teknologier tas ofta i bruk innan samhället har fått en chans att förstå och överväga nackdelar och fördelar. I slutet av 1960-talet började myndigheterna i London att permanent installera övervakningskameror med argumentet att de var effektiva redskap i brottsbekämpningen. Men vi ser nu hur detta bidrog till att normalisera en utbredd övervakning av allmänheten, en dörr som när man en gång öppnat den lett till avsevärt mer potenta och sammankopplade system som har utplånat människors frihet i Xinjiang ett femtiotal år senare. Vi borde stoppa deras spridning innan det är för sent.
