Forum

Najciekawsze historie świata

Azja i Australia
27 grudnia 2017

Jak Chiny chcą kontrolować swoich obywateli

Chiński teatr cieni

Piszesz dobrze o partii, dostajesz punkty; grasz za dużo na komputerze – tracisz. O 2020 roku Pekin chce wprowadzić informatyczny system oceny obywateli.
Na podst. Financial Times, Wired

Tekst pochodzi ze specjalnego wydania dwutygodnika FORUM pt. „Świat i Ludzie 2018” do kupienia w kioskach oraz w sklepie internetowym POLITYKI od 28 grudnia.

Wyobraźmy sobie świat, w którym wszystko, co robimy, jest codziennie monitorowane i oceniane – pisze Rachel Botsman w książce „Who Can You Trust?”. System stale podgląda, co kupujemy w sklepach stacjonarnych i internetowych, gdzie przebywamy w danej chwili, kim są nasi przyjaciele i znajomi, jak spędzamy z nimi czas, przez ile godzin oglądamy filmy, czytamy różne rzeczy w internecie albo gramy w gry komputerowe, czy płacimy na czas rachunki i podatki.

Nie tak trudno to sobie wyobrazić, bo za sprawą gromadzących wszystkie dane gigantów (Google, Facebook, Instagram czy Fitbit) w wielu aspektach już teraz tak wygląda nasz świat. Pomyślmy jednak o systemie, gdzie wszystkie dane mają przyporządkowane jakieś wartości liczbowe, dodatnie i ujemne, a potem zostają zsumowane w jedną ocenę. A zasady nadawania ocen ustala państwo. Każdy obywatel dostaje pewną punktację. To ona określa, czy jesteśmy godni zaufania; wskazuje nasze miejsce w publicznym rankingu całej populacji oraz determinuje, czy dostaniemy kredyt hipoteczny, gdzie nasze dzieci będą mogły iść do szkoły i jak wyglądać będą nasze randki.

Rząd nas ustawi w szeregu

Nie jest to futurystyczna wizja Big Brothera 2.0, tylko ranking zaufania społecznego (zwany w zachodnich publikacjach SCS, czyli Social Credit System), który już funkcjonuje w pewnym zakresie w Chinach. Na razie na zasadzie dobrowolności, ale do 2020 roku ma objąć obowiązkowo wszystkich obywateli, a także osoby prawne. Rząd promuje SCS jako sposób na wprowadzenie większej szczerości i zaufania do życia publicznego. Tyle że możliwości wykorzystywania big data w inżynierii społecznej są ogromne i właściwie tylko od wyobraźni rządzących zależy, jak daleko się posuną. Czy będą punkty ujemne za pisanie o problemach gospodarczych kraju, a dodatnie za chwalenie świetlanej przyszłości Chin?

Pierwowzorem wszystkich projektów jest działający od dziesięcioleci w Stanach Zjednoczonych system punktacji kredytowej opierający się na historii finansowej obywatela. W Ameryce działają prywatne firmy zajmujące się określaniem wiarygodności kredytobiorców, a posiadanie dobrej punktacji pozwala nie tylko wziąć pożyczkę na korzystnych warunkach, lecz także dostać lepsze warunki w niektórych zakładach ubezpieczeniowych.

Problem z Chinami polega na tym, że znacznie mniej powszechne niż w Ameryce jest tam posiadanie samochodów, domów z hipoteką i kart kredytowych, więc brakuje danych, na podstawie których można by sporządzić historię bankową. „Bank centralny ma dane finansowe o 800 milionach obywateli, ale tylko 320 milionów ma historię kredytową w tradycyjnym rozumieniu” – pisze wpływowy bloger Wen Quan zajmujący się technologią i finansami. Według danych ministerialnych państwo rocznie traci 90 mld dolarów z powodu braku odpowiednich informacji kredytowych.

Dlatego SCS miałby łączyć punktację kredytową z tym, co robi wiele sklepów internetowych, czyli profilowaniem konsumentów na podstawie monitorowania ich zachowań w sieci. Dzięki takim profilom Amazon może przedstawiać danemu internaucie bardziej dopasowane reklamy lub rekomendacje. Jak jednak ten model zadziała w państwie autorytarnym?

– Pańtwo chce stworzyć komunistycznych wzorowych obywateli. Nowy system oznacza totalną kontrolę – ostrzega w rozmowie z korespondentką niemieckiego tygodnika „Die Zeit” pragnący zachować anonimowość chiński aktywista internetowy. SCS może brać pod uwagę nie tylko historię kredytową, lecz wszystkie dane, jakie można zebrać na temat zachowań danego obywatela, np. komentarze zamieszczane w sieci. – To bardzo ambitny projekt. Zakłada ocenę zarówno zachowań pojedynczych osób, jak również tego, co czytają. To będzie taki system śledzenia konsumentów jak w Amazonie, tylko że z orwellowskim politycznym zacięciem – opowiada magazynowi „Wired” Johan Lagerkvist ze szwedzkiego instytutu spraw międzynarodowych, specjalista od chińskiego internetu.

Projekt jest tak ambitny, że nie wiadomo, czy przy obecnej technologii oraz wiedzy na temat opracowywania wielkich zbiorów danych uda się go zrealizować.

Dlatego władze podchodzą do SCS z pewną rezerwą i na razie ograniczają się do stworzenia internetowej platformy, na której publikowane będą dane nierzetelnych dłużników. Coś jednak robić trzeba, bo 14 proc. konsumentów pożycza pieniądze w internecie, a brak regulacji na pograniczu światów finansów i nowych technologii zaczyna być w Chinach boleśnie
odczuwany.

Jak pisze „Financial Times”, ostatnio powstało ogromnie dużo internetowych spółek z branży finansowej, które próbują używać big data do oceny wiarygodności kredytowej – z różnym skutkiem. Władze przestały wydawać licencje dla nowych firm z branży, bo pożyczkodawcy okazywali się często zwykłymi oszustami, stosowali lichwiarskie praktyki i dziwaczne techniki windykacji (np. zostaw nam swoje nagie zdjęcie, a jeśli nie oddasz pożyczki, to zamieścimy je w sieci). Często dochodziło do wycieku danych klientów małych firm pożyczkowych, a także do kradzieży tożsamości i wyłudzeń kredytów.

Sezam Alibaby

Zgodę na opracowanie technologii SCS otrzymało osiem firm, w tym dwie wielkie korporacje korzystające już z big data: Alibaba (chiński eBay albo Amazon wart około 80 mld dolarów) i Tencent (gigant internetowy wyceniany na 60 mld dolarów). Część z nich deklaruje, że nie będzie uwzględniać w punktacji aktywności w mediach społecznościowych, ale już np. Tencent (dominujący w chińskich social mediach) uważa, że jak najbardziej trzeba brać takie dane pod uwagę, żeby w pełni ocenić wiarygodność obywateli. – Ranking Alibaby jest kalkulowany w większym stopniu na podstawie zakupów w sieci, a Tencent opiera się na sieciach społecznościowych. Możliwe, że jedna osoba dostanie dwie różne oceny. Dzięki rankingowi kredytowemu Tencent będzie mógł wykorzystać swoje potężne zasoby danych, skomercjalizować je i poprawić własne wyniki finansowe – mówi analityk Wang Weidong w rozmowie z „China Daily”.

Pierwsze trudności pojawiły się przy próbie porównania ofert, bo konkurencyjne korporacje nie chcą przekazywać sobie wypracowywanych latami rozwiązań technologicznych. Na razie nie wiadomo też, jak wyglądać będzie relacja między firmą świadczącą usługi ratingowe a władzami. „Trudno sobie wyobrazić, że rząd nie będzie wymagać od firm ratingowych przesyłania możliwie wielu danych na serwery państwowe. Jeśli tak się stanie i ta praktyka się upowszechni, to prywatne platformy zaczną pełnić rolę agencji wywiadowczych na usługach władz. Mogą nie mieć innego wyjścia” – pisze Botsman.

A jak wpływałoby na ocenę nabywanie produktów firm ratingowych? Czy np. osoba, która dokonywałaby zakupów w jednej z najpopularniejszych gier świata, „League of Legends”, należącej do koncernu Tencent, mogłaby liczyć na lepszą punktację wiarygodności? No i nie wiadomo, jakie kary czekałyby na tych, którzy próbowaliby ograć system. Chiński aktywista, z którym rozmawiał tygodnik „Die Zeit”, zwraca uwagę, że pewnych zachowań nie da się wyeliminować. Gdyby ocenę podwyższało np. regularne odwiedzanie strony rządowej gazety, to obywatele błyskawicznie zorientowaliby się i zaczęli używać prostych programów, które automatycznie mogłyby za nich robić codzienny obchód po wymaganych witrynach.

Najwięcej wiemy o działającej już usłudze Sesame Credit, którą zarządza spółka Ant Financial Services Group powiązana z koncernem Alibaba. Ant zajmuje się udzielaniem kredytów dla firm i sprzedaje ubezpieczenia, ale przede wszystkim rozwija platformę AliPay, z pomocą której można dokonywać zakupów w sieci, a także płacić za obiad w restauracji, kurs taksówką, bilet do kina albo przesyłać pieniądze między użytkownikami. Sesame Credit korzysta też z bazy danych Didi Chuxing, czyli chińskiego odpowiednika Ubera, oraz Baihe, największego w kraju portalu matrymonialnego.

Jak to działa? Botsman wyjaśnia, że każdy użytkownik dostaje ocenę w skali od 350 do 950 punktów. „Zaawansowany algorytm” wyliczający rating jest tajemnicą, ale wiadomo, że bierze pod uwagę pięć czynników. Pierwszy to historia kredytowa. Czy obywatel płacił w terminie rachunek za prąd albo telefon? Drugi to „możliwość dotrzymania zobowiązań wynikających z umowy”. Trzecim jest posiadanie zweryfikowanych danych osobowych, np. numeru telefonu i adresu. Czwarty element zaczyna już budzić kontrowersje, ponieważ jest nim profil preferencji oraz zachowań.

„Kiedy robimy zakupy, co kupujemy i ile zwykle wydajemy? To wszystko zaczyna być miarą naszego charakteru” – pisze Botsman. – Ktoś, kto spędza np. dziesięć godzin dziennie przy grach komputerowych, zostanie uznany za leniucha. Za to osoba, która kupuje często pieluchy, to prawdopodobnie rodzic, więc można założyć, że wykazuje się większym poczuciem odpowiedzialności – mówi Li Yingyun, dyrektor ds. technologii w Sesame Credit. „System nie tylko śledzi zachowania, lecz je kształtuje” – zauważa Botsman. Obywatele mogą być w subtelny sposób odwiedzeni od postępowania, jakiego władze nie pochwalają.

Piątą kategorią czynników wpływających na ocenę jest sieć powiązań interpersonalnych. Co wybór przyjaciół w sieci i interakcje z innymi użytkownikami mówią o ocenianej osobie? Dzielenie się „pozytywną energią”, jak nazywa to Sesame Credit, publikowanie miłych słów na temat rządu albo pisanie o tym, jaka wspaniała przyszłość czeka Chiny, powinno poprawić osobisty rating. Na razie Alibaba twierdzi, że negatywna aktywność w sieci nie obciąża punktacji. Nie wiadomo, czy to prawda, bo algorytm jest tajny i nie można przewidzieć, czy po wprowadzeniu obowiązku posiadania SCS, coś się nie zmieni. Już wcześniej za wyrażanie politycznych poglądów online albo pisanie o masakrze na placu Niebiańskiego Spokoju można było zapłacić w Chinach wysoką cenę. Teraz może to obniżyć SCS. Co gorsza, nawet przykładny obywatel może dostać punkty ujemne za to, że jego internetowi znajomi robią lub mówią w sieci coś, co nie podoba się władzom.

Małżeństwo z rankingu

Wysoka wiarygodność w Sesame Credit daje szereg przywilejów. Osoba mająca 600 punktów może wziąć szybki kredyt na około 750 dolarów na zakupy w sieciach należących do Alibaby. Posiadając 650 punktów, można wypożyczyć samochód bez pozostawiania depozytu. Ma się też pierwszeństwo przy rezerwacji hoteli oraz możliwość skorzystania z odprawy dla VIP-ów na lotnisku międzynarodowym w Pekinie. Po przekroczeniu 666 punktów przysługuje dziesięć razy większy kredyt gotówkowy. Od 700 punktów można złożyć wniosek o pozwolenie na podróż do Singapuru bez specjalnych dokumentów wymaganych od innych obywateli, np. listu uwierzytelniającego od pracodawcy.

750 punktów uprawnia do przyspieszonego rozpatrzenia wniosku o wizę do strefy Schengen.

Wysoki ranking to powód do dumy. W ciągu kilku miesięcy od uruchomienia Sesame Credit prawie sto tysięcy ludzi pochwaliło się swoją punktacją na chińskim Twitterze (Weibo). „Wysoki wynik może nawet pomóc w nawiązaniu romansu lub znalezieniu partnera bądź partnerki. Im lepszy, tym wyżej pozycjonowany jest dany profil w serwisie matrymonialnym Baihe” – zauważa Botsman. Niska punktacja może prowadzić do izolacji, bo jednym ze sposobów na poprawę swojej pozycji jest odcięcie się od znajdujących się niżej w rankingu znajomych oraz zawarcie przyjaźni z osobami będącymi wyżej.

– System zorganizowano w taki sposób, że ludzie, którym nie można ufać, nie mogą wypożyczyć samochodu, dostać kredytu, a nawet pracy – mówi kierownictwo Sesame Credit. Firma skontaktowała się nawet z ministerstwem edukacji, prosząc o listę osób przyłapanych na ściąganiu podczas szkolnych egzaminów. Kiedy system SCS wejdzie w życie, władze chciałyby karać obywateli za nieuczciwość we wszystkich sferach życia. „Jeśli zaufanie zostanie złamane w jednym miejscu, restrykcje zostaną wprowadzone wszędzie” – czytamy w jednym z programowych dokumentów na temat SCS.

Niska punktacja może oznaczać gorszy dostęp do internetu, zakaz wstępu do niektórych restauracji oraz brak możliwości podróżowania do pewnych miejsc lub korzystania z określonych usług biur podróży. Obywatele uznani za niegodnych zaufania nie będą mogli zapisać się do najlepszych szkół – i to samo spotka ich dzieci. Trudno sobie wyobrazić, żeby państwo nie skorzystało z tego narzędzia, bo np. restrykcje w zakresie korzystania z połączeń lotniczych i kolejowych już teraz dotykają w Chinach milionów obywateli. A co z uprzywilejowanymi, niesprawiającymi kłopotów jednostkami? Czy zostaną postawione ponad prawem?

Na razie projekt wzbudził większe obawy za granicą niż w Państwie Środka. – Chiny potrzebują systemu kredytowego, żeby ludzie odpowiedzialni, tacy jak ja, mogli mieć więcej korzyści – odpowiedziała zaskoczonemu redaktorowi amerykańskiego studenckiego pisma „Brown Political Review” pewna 30-letnia urzędniczka pytana o SCS. Z powodu braku danych o historii płatności bardzo ciężko jest dostać kredyt w dużych bankach, a internetowe firmy pożyczkowe często żerują na łatwowierności konsumentów. Z punktu widzenia przeciętnego obywatela, który już się przyzwyczaił, że władze próbują zajrzeć każdemu do szuflady z brudną bielizną, nowy system aż tak nie przeraża. Może uczciwi będą mieć większą szansę na kredyt?

Niewykluczone zresztą, że pomysł przepadnie – wskutek tarć między prywatnymi dostawcami technologii a machiną państwową albo z powodu zbyt dużych kosztów wizerunkowych. – Jeśli uruchomią taki program, to stracą wiarygodność w regionie, a nawet na skalę globalną – mówi Anurag Lal, amerykański ekspert ds. technologii.

Tymczasem na Zachodzie...

„Kiedy opowiadam na Zachodzie o SCS, ludzie są bardzo oburzeni i reagują niezwykle emocjonalnie – pisze Botsman. – Ale przecież sami już teraz wystawiamy punkty. Oceniamy restauracje, filmy, książki, nawet lekarzy”. A Facebook potrafi z ponad 80-procentową skutecznością rozpoznać użytkownika na zdjęciu, nawet jeśli ma zakrytą twarz, po budowie ciała, ubraniach, kolorze włosów. Wygląda na to, że cały świat zmierza ku przyszłości, w której każdy będzie tylko zbiorem danych z przypisanym numerem. Jeśli nie dojdzie do jakiejś wielkiej rewolucji obywateli w imię odzyskania prywatności, to wkroczymy w nową epokę. Działania każdej jednostki będą oceniane według standardów wymykających się wszelkiej kontroli, a wyników nie da się usunąć. Skutki okażą się nie tylko straszne, ale też wiecznotrwałe. Koniec z prawem do usunięcia informacji z sieci, z prawem do zostania zapomnianym, z prawem do bycia młodym i głupim.

na podst. Financial Times, Wired

***

Tekst pochodzi ze specjalnego wydania dwutygodnika FORUM pt. „Świat i Ludzie 2018” do kupienia w kioskach oraz w sklepie internetowym POLITYKI od 28 grudnia.

Facebook Twitter Google+ Wykop Poleć