Dziennik Gazeta Prawana logo

Pod kontrolą komputera. Czy sztuczna inteligencja doprowadzi do nowego podziału w społeczeństwie?

8 lipca 2018, 22:46
Ten tekst przeczytasz w 2 minuty
Sztuczna inteligencja
Sztuczna inteligencja/Shutterstock
Sztuczna inteligencja coraz częściej profiluje i ocenia ludzi w internecie. To droga do nowego podziału społeczeństwa.

30-letni Wong zaspał do pracy. Ubrał się w pośpiechu, wsiadł do auta i, próbując ścigać się z czasem, przekroczył dozwolony w mieście limit prędkości. Chwilę później usłyszał za sobą syrenę i zobaczył w lusterku migające światła radiowozu. Policjant wystawił mandat i poinformował Wonga, że za przekroczenie prędkości odjęto mu kilkanaście punktów w systemie oceny obywateli. Niewiele, ale gdy trzydziestolatek dotarł do pracy, dowiedział się, że jego średnia ocena jest już za niska, by mógł nadal być zatrudniony w firmie wymagającej od pracowników nieposzlakowanej opinii. Nagła utrata zatrudnienia zabolała podwójnie, bo za ten fakt Wong stracił kolejne punkty. I w rankingu obywateli spadł jeszcze niżej.

Czy to fabuła dystopijnej powieści? Nie. Ale choć to wyimaginowana historia, to jej punkt wyjścia jest prawdziwy: od ponad pół roku mieszkańcy 12 chińskich miast są oceniani przez komputer. Do 2020 r. Systemem Oceny Obywateli (Social Credit System, SCS) ma być objęty cały kraj – 1,3 mld ludzi. Aż 17 proc. mieszkańców Ziemi. Jak działa SCS? Zachowania i działania „wybrańców” są analizowane oraz punktowane. Teoretycznie chodzi o zachęcenie do przestrzegania przepisów i regulaminów. Punkty można więc stracić np. za jazdę bez ważnego biletu w komunikacji miejskiej, palenie w niedozwolonych miejscach czy stosowanie w pracy mobbingu. Rating rośnie, gdy spłaca się kredyty w terminie lub ma dobre wyniki w pracy. W praktyce SCS może inwigilować znacząco głębiej, bo system monitoruje też korespondencję wysyłaną przez WeChat, najpopularniejszy komunikator internetowy w Państwie Środka. W przyszłym roku SCS wzbogaci się o kolejny element kontroli, bo wszystkie samochody w Chinach będą musiały mieć zamontowany chip monitorujący lokalizację pojazdu.

Przedstawiciele Pekinu przekonują, że osoby łamiące zasady powinny być karane. A najlepiej, by groziło im bankructwo, bo nic tak nie boli jak utrata majątku. Tylko przymuszając ludzi do wzorcowych zachowań, można zadbać o budowanie godnego zaufania społeczeństwa. Niska ocena wystawiona przez SCS ma swoje konsekwencje. Osobom ze słabym ratingiem odmawia się sprzedaży biletów szybkiej kolei (4,2 mln przypadków tylko w jednym miesiącu) oraz podróży lotniczych (11 mln przypadków).

Chiński panoptikon

Julia Angwin, laureatka Nagrody Pulitzera, amerykańska dziennikarka specjalizująca się w tematyce cyberprzestrzeni, autorka książki „Społeczeństwo nadzorowane” (wyd. Kurhaus), nie ma wątpliwości, że SCS jest kolejnym narzędziem kontroli społeczeństwa. – Nie dziwi mnie, że właśnie reżim w Chinach jest tym zainteresowany. To charakterystyczne dla autorytarnych rządów – mówi. Jej zdaniem SCS to współczesny panoptikon. To nazwa więzienia zaprojektowanego w XVIII w. przez angielskiego filozofa Jeremy’ego Benthama – tak zaplanował budynek, by osadzeni nie wiedzieli, czy są obserwowani przez strażników. Po to, by byli pod ciągłą presją. – Kiedy społeczeństwo wie, że w każdej chwili może być ocenione, bez przerwy musi uważać na to, co robi i co mówi – wyjaśnia Angwin.


Copyright
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone. Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję
Źródło Dziennik Gazeta Prawna
Zapisz się na newsletter
Najważniejsze wydarzenia polityczne i społeczne, istotne wiadomości kulturalne, najlepsza rozrywka, pomocne porady i najświeższa prognoza pogody. To wszystko i wiele więcej znajdziesz w newsletterze Dziennik.pl. Trzymamy rękę na pulsie Polski i świata. Zapisz się do naszego newslettera i bądź na bieżąco!

Zapisując się na newsletter wyrażasz zgodę na otrzymywanie treści reklam również podmiotów trzecich

Administratorem danych osobowych jest INFOR PL S.A. Dane są przetwarzane w celu wysyłki newslettera. Po więcej informacji kliknij tutaj