Kinas kommende sosiale kredittsystem har blitt møtt med nysgjerrighet og et åpent sinn av noen, men stort sett med frykt og avsky over hele den demokratiske delen av verden.
Mens noen ser på systemet som et praktisk instrument for å påvirke menneskelig adferd i en positiv retning, har andre dystre spådommer om det faktiske samfunnsrelaterte utfallet av systemet. Mange drar paralleller til dystopiske fremtidsfortellinger som George Orwells roman «1984», Netflix-serien «Black Mirror» og filmen «Minority Report».
Systemet inkorporerer teknologiske nyvinninger innen kunstig intelligens, overvåkingsteknologi og diverse personidentifiseringsmetoder inn i et helhetlig integrert system, som er underbygd av enorme mengder data. Hvis det når sitt fulle potensial, kan det i prinsippet gi kinesiske myndigheter muligheten til å kontrollere, regulere, forme, og til og med forutse menneskelig adferd – i et omfang som var helt utenkelig bare for noen få år siden.
Les også: Kinas plan om å dominere teknologisektoren fosser fremover
Tilhengerne av systemet argumenterer med at det vil bidra til økt tillit i et land hvor «tillit er en mangelvare» og føre til mer «harmoni i samfunnet» ved å «belønne god» og «straffe dårlig» oppførsel. Kritikerne sier derimot at systemet ikke er noe annet enn det ultimate instrumentet for at Kommunistpartiet kan oppnå sin våte drøm om en total kontroll over det kinesiske samfunnet.
Det finnes også en internasjonal realpolitisk dimensjon relatert til sikkerhetspolitiske utfordringer, samt større filosofiske og ideologiske kamper. Hvis Kina lykkes med å implementere systemet kan det få store konsekvenser for den videre spredningen av demokrati på globalt plan.
Høyteknologisk personidentifisering
Det sosiale kredittsystemet tar i bruk de aller nyeste og mest banebrytende teknologiene som finnes i verden. Overvåkingsteknologier, diverse personidentifiseringsmetoder, kunstig intelligens, samt datainnsamlingsmetoder blir flettet sammen i det ultimate verktøyet for sosial ingeniørkunst – med et potensial for å oppnå total økonomisk, sosial og politisk kontroll.
Ifølge Lotus Ruan, forsker på kinesisk informasjonsteknologi på University of Toronto’s Citizen Lab, kommer ryggraden til systemet å bestå av 600 millioner overvåkningskameraer som vil være plassert over hele Kina innen det vil bli operasjonelt på landsbasis i 2020. Teknologiske nyvinninger innen ansiktsgjenkjenningsteknologier vil gjøre det mulig for kraftige datasystemer å bruke sanntidsopptak for å umiddelbart identifisere enhver person som er registrert i en enorm database.
Kinesiske myndighetene har i tillegg fokusert og brukt mye ressurser på å samle inn data fra flere andre personidentifiseringsmetoder – som DNA, fingeravtrykk, irismønstre og blodtyper – fra alle kinesiske borgere. Det er usikkert til hva og hvordan denne informasjonen skal brukes, men det er rimelig sikkert at myndighetene har som mål å integrere den inn i systemet på en eller annen måte.
Kunstig intelligens – vitne, jury og dommer
Systemet kommer videre til å hvile tungt på kunstig intelligens underbygd av astronomiske av mengder data – kontinuerlig innhøstet gjennom diverse kanaler – som blant annet videoopptak, nettleserhistorie, oppførsel på sosiale medier og shoppingvaner. Tanken er at den kunstige intelligensen vil kunne bruke dataen og videoopptakene til å identifisere uønsket og/ eller ønsket sosial oppførsel – og justere individers sosiale kredittvurdering deretter.
«God oppførsel» kan være alt fra edle handlinger som å hjelpe personer i nød, donere blod eller gi penger til veldedige organisasjoner – til noe så banalt som å kjøpe bleier i butikken. «Dårlig oppførsel» kan være alt fra veldige konkrete ting som å røyke på røykfritt område, ikke tilbakebetale lån eller kjøpe for mange dataspill, til mer diffuse og potensielt politisk normative aktiviteter som å «legge ut falske nyheter på internett».
Straffene er mange og blir gradvis strengere jo lavere sosial kredittvurdering et individ har, og inkluderer blant annet: Bli nektet å reise med fly eller høyhastighetstog; få ultratregt internett, utestenge barn av personer med lav sosial kredittvurdering fra de beste skolene; nektet å ta visse jobber; nektet å bo på de beste hotellene; og lignende. Belønninger inkluderer blant annet mer fordelaktig renter når en person skal opp ta lån; fritak fra å betale depositum når man skal leie noe (f. eks en bil); og lignende. Denne listen kommer etter all sannsynlighet til å bli lengre i fremtiden.
Det sosial kredittsystemet fletter således hverdagslige politiske, økonomiske og sosiale aktiviteter inn i et integrert system – målt i en holistisk metrikk. Ved å belønne god oppførsel med positive poeng, og straffe dårlig oppførsel med negative poeng, tar myndighetene høyde for å sette opp det ultimate verktøyet for sosial ingeniørkunst. Denne incentivstrukturen er skapt for å forme kinesernes sosiale adferd i samsvar med Kommunistpartiets moralske preferanser.
Journalist og Kinakjenner Lotus Ruan mener at systemet blir det mer akseptabelt for gjennomsnittskineseren når det er satt opp på en slik måte, fordi det finnes klare fordeler ved å være en del av det. Hun mener at systemet (så langt) er generelt akseptert blant gjennomsnittskineseren, selv om det er vanskelig å få troverdig data på dette.
Ruan får støtte av Manya Koetse, Kinaobservatør som administrerer What’s on Weibo – en nettside som forsøker å ta pulsen på stemningen i Kinas sosiale medier. Koetse mener at kinesere generelt er veldige positive til systemet fordi det finnes en måte å straffe folk som ikke oppfører seg ordentlig.
Den positive historien: Økt tillit for økonomisk vekst
Det kinesiske kommunistpartiet hevder i «Den sosiale kredittplanen» at det finnes en generell mangel på tillit – kjent som sosial kapital – i det kinesiske samfunnet. Lav sosial kapital (tillit) setter ifølge økonomisk teori en brems på økonomisk vekst i ethvert samfunn – grunnet økte transaksjonskostnader for å gjøre forretninger. Myndighetene har derfor satt fingeren på mangel på tillit som et stort hinder for at Kinas samfunnsmodell skal lykkes i tiden fremover.
Svindel i daglig- og forretningslivet er utvilsomt svært utbredt i landet, noe som fører til at den generelle tilliten i det kinesiske samfunnet er svært tynnslitt. Flere store svindelsaker har funnet sted siden årtusenskiftet, og mange har vært såpass omfattende at de har ført til direkte skadelige økonomiske konsekvenser.
Det beste eksempelet på hvordan storstilt svindel kan føre til makroøkonomisk harme er melkepulverskandalen fra 2008. Titusenvis av kinesiske spebarn ble forgiftet og sendt på sykehus – en håndfull døde – etter at et kinesisk svindelfirma hadde solgt morsmelkerstatning som inneholdt det giftige stoffet melanin. Resultatet av denne episoden er at kineserne fortsatt kvier seg for å kjøpe kinesisk-produsert morsmelkerstatning, selv over 10 år etter at skandalen fant sted.
Siden bedrifter i næringslivet også vil omfattet av systemet og bli gi en sosial kredittvurdering, håper kinesiske myndigheter på å opprette et verktøy som også vil tvinge frem positive forandringer i forretningslivet. Å få et lav sosial kredittvurdering vil være et økonomisk selvmord for de fleste bedrifter i Kina.
Får støtte
Myndighetenes hovedargument utad er derfor at det sosiale kredittsystemet er nødvendig for å skape mer tillit for å øke den sosiale kapitalen i det kinesiske samfunnet. Systemet kommer således til å tilrettelegge for økt økonomisk vekst og bidra til at Kommunistpartiet får videreført sin utviklingsmodell – kjent som «sosialisme med kinesiske karakteristikker» – inn i det 21. århundret.
Dette synspunktet får støtte blant flere uavhengige Kina-eksperter og økonomer, blant andre Rogier Creemers, postdoktor på Leiden Universitet og ekspert på Kinas styreform og digitale teknologier. Han deler i stor grad kinesiske myndigheters syn på saken og argumenterer med at systemet først og fremst vil brukes til å løse de samfunnsrelaterte utfordringene knyttet mangel på tillit i det kinesiske samfunnet.
Han mener således at Kinas myndigheter vil bruke det sosiale kredittsystemet som et instrument for å ta tak i en hel rekke økonomiske utfordringer – koblet til landets raske fremvekst som en markedsøkonomi. Han gir uttrykk for at vestlige observatører og politiske kommentatorer overdriver den politiske dimensjonen ved systemet.
Den negative historien: Politisk kontroll
Dette positive synspunktet er dog ikke delt av de fleste Kina-kjennere, blant andre Dr. Samantha Hoffman ved Mercator Institute for China Studies i Berlin og fellow i tenketanken International Cyber Policy Institute (ICPI). Hun ekspert på det sosiale kredittsystemet og kunstig intelligens, og argumenterer med at grunnen bak det sosiale kredittsystemet handler først og fremst om politisk kontroll – det økonomiske aspektet er annenrangs.
Hun mener at nøkkelen for å forstå dette aspektet av Det sosiale kredittsystemet ligger i den første linje i Kommunistpartiets «Sosiale kredittplan», som sier at sosial kreditt har som mål å forsterke «Kinas økonomiske system og sosiale styringssystem». Hun mener at dette ikke betyr noe annet enn et ønske pm å forsterke Kommunistpartiets grep om makten.
Les også: Harvard-professor om USA og Kina: – Fremtiden kommer til å bli ekstremt farlig
Hoffman sier således at det riktig at systemet kan brukes til å løse problemer knyttet til sosial og økonomisk utvikling, men at det først og fremst handler om å styrke Kommunistpartiets politiske kontroll over Kina. Hun understreker at systemets offentlige mål om å håndtere og løse økonomiske utfordringer knyttet til mangel på tillit ikke på noen som helst måte er i konflikt med denne politiske dimensjonen – heller tvert om.
Det handler om å integrere informasjon fra markedet og statlige kilder sammen inn i et system for å optimalisere partiets kapasitet til å forhindre og løse politiske problemer. Således vil kinesiske myndigheter få en bedre forståelse og oversikt over potensielt politisk ustabile situasjoner – ved å kontinuerlig samle inn data for å informere beslutningstagere om trusler mot Kommunistpartiets kontroll.
Å forutse kriminalitet og politisk dissens
Hoffman mener at Det sosiale kredittsystemet har potensialet til å stoppe sosial ustabilitet før det i hele tatt oppstår. Kunstige intelligens skal på forkant indentifisere spesielle adferdsmønstre som har en tendens til å føre til spesifikke samfunnsrelaterte problemer. På denne måten vil myndighetene gjøre noe med dem før de i det hele tatt oppstår – både kriminalitet eller ulovlige politiske handlinger.
Hun får støtte av Lotus Ruan, som er overbevist om at Det sosiale kredittsystemet vil bli brukt til andre formål enn kun for å fremme tillit i det kinesiske samfunnet. Hun er enig at systemet kan bli brukt preventivt for å stoppe kriminalitet før den i det hele tatt skjer, og viser til at slike metoder allerede er tatt i bruk mot Uigur-folket i Xinjiang-provinsen.
Elsa Kania, ekspert på kinesisk teknologi og militærinnovasjon ved Center for a New American Security, er av samme oppfatning. Hun mener at systemet kommer til å brukes til «prediktivt politiarbeid» – som betyr at kinesiske myndigheter kan bruke det til å forutse potensielle lovbrudd ved å indentifisere spesielle adferdsmønstre som ofte fører til kriminelle handlinger.
Kania slår fast at den prediktive delen av overvåkningssystemet selvsagt også kan brukes til styrke Kommunistpartiets politiske kontroll over Kina ved å identifisere opposisjonelle grupper og slå ned på dissens, samt forutse og forhindre potensielle politiske opprør før de i det hele tatt finner sted.
I ytterste konsekvens vil systemet derfor gi Kommunistpartiet absolutt politisk, økonomisk og sosial kontroll over det kinesiske samfunnet. Individer vil kunne overvåkes fra krybben til graven og formes etter Kommunistpartiets oppfatning om hva som konstituerer en god borger – gjennom diverse adferdsrelaterte straffer og belønninger.
Den sikkerhetspolitiske dimensjonen
Som mange andre internpolitiske problemsstillinger i Kina i vår tid, har det sosiale kredittsystemet også en internasjonal realpolitisk dimensjon. Det kan potensielt brukes til å forsterke Kinas relative økonomiske og politiske makt vis-à-vis utenlandske (klient)stater og større geopolitiske rivaler.
I internasjonal politikk har systemet to bruksområder – en sivil dimensjon og en sikkerhetsorientert. Ikke bare kan det brukes for tilrettelegge for økonomisk utvikling, men også for å bygge forsvarskapasiteter i inn- og utland. Det handler om å øke soft power gjennom å åpne nye økonomiske muligheter, men også bygge sikkerhetsorienterte kapabiliteter gjennom å finne og utnytte potensielle svakheter hos andre mindre stater og/ eller større rivaler.
Dr. Hoffman mener at for eksempel at systemet er nyttig til informasjonskrig. Det kan skaffe kineserne en store fordeler i den ideologiske kampen – mellom demokratier og autokratier – som foregår i verden i dag. Systemet kan brukes til å fremme et politisk narrativ som promoterer Kommunistpartiets versjon av sannheten – både innenfor og utenfor Kinas geografiske grenser.
I denne sammenhengen sier Hoffman at Kina allerede har begynt å samle inn all mulig forskjellig data i utlandet med den målsettingen om å bruke den til å påvirke den offentlige debatten i spesifikke land. Samarbeidspartnere i belte-og-vei initiativet (BRI) skal være spesielt utsatt, og kinesiske myndigheter skal ha som mål å akselerere prosessen i tide fremover.
Det skal finnes diverse datainnsamlingspunkter som samler data og sender tilbake til Kina for analyse – blant annet Konfucius-institutter, Telecom, transportfirmaer og hotellkjeder. BRI brukes også aktivt for å fremme kinesiske selskaper som bygger IT-infrastruktur – spesielt innen 5G-teknologi – som også kan brukes til å samle inn data. Disse selskapene har ofte sterke bånd til kinesiske myndigheter, noe som åpner for muligheten til diverse former for spionasje og utpressing.
Les også: Merkel frykter at kinesiske IT-selskaper spionerer
På verdensbasis mener Hoffman at Kina bruker sine mange Konfucius-institutter i flere stater – inkludert i flere vestlige land – til å samle inn data. Dataen kan brukes til å lære om lokale forhold for å påvirke den offentlige debatten internt i et land, men også til å tidlig identifisere potensielle fremtidige ledere som er sympatiske til Kommunistpartiets interesser – for å hjelpe deres karriere fremover.
Kampen om samfunnsmodeller
Elsa Kania mener at hvis Det sosiale kredittsystemet oppnår sine ambisiøse økonomiske og politiske mål, vil det i prinsippet bety at Kinas autoritære samfunns- og utviklingsmodell kommer til å blir mer attraktiv på verdensbasis. En slik utvikling vil være i direkte konflikt med Vestmaktenes kjerneinteresser – definert som spredningen av liberalt demokrati verden rundt – og kan få alvorlige konsekvenser for attraktiviteten til dette styresettet i fremtiden.
Les også: Kinesiske forretningsledere: – Framtiden blir fantastisk
Hvis Kina lykkes med å implementere systemet på hjemmebane, vil det utvilsomt være svært attraktivt for andre autoritære stater ta det i bruk. En slik utvikling vil styrke landets autokratiske styringsmodells renommé verden rundt. I denne sammenhengen har Kina allerede satt en gang en storstilt prosess med å eksportere teknologiene bak dette systemet til diverse autokratiske stater verden rundt.
Etiopia og land i Sørøst-Asia har allerede kjøpt kinesiske «overvåkningssystemer» og høyteknologisk politiutstyr. Kinas president Xi Jinping gikk videre offentlig ut og sa at han ønske å «utvide samarbeidet innen kunstig intelligens» med flere arabiske diktaturer under et møte med diverse arabiske statsoverhoder i Beijing 18. juni 2018. Det er fortsatt uvisst hva dette betyr.
Det er dog ikke noe tvil om at disse teknologiene vil skape store utfordringer for demokratier i tiden fremover – spesielt skjøre demokratiske stater – verden rundt. I takt med at kinesiske firmaer verden rundt selger sine høyteknologiske overvåkningsløsning, er det en større sjanse for at disse teknologiene blir misbrukt av autoritære regjeringer for politisk kontroll og overgrep. Det finnes et enormt potensial for misbruk.
Verdens autokratier vil besitte et verktøy som effektivt vil kunne forme de sosiale, politiske og økonomiske preferansene til sine borgerne, samt identifisere og tilintetgjøre all politisk opposisjon en gang for alle. Lykkes Kina med sitt prosjekt med å spre sin autoritære overvåkningsmodell verden rundt, går verdens demokratier en svært usikker tid i vente.
Kan fremveksten av den autoritære høyteknologiske politiovervåkningsstaten bety slutten for demokratiet?