Олександр Мельник
Ще 14 червня 2014 року Державна рада Китаю опублікувала документ під назвою «Наміри планування побудови системи соціального оцінювання». Його мова суха та офіційна, а ідея радше пасує серіалу «Чорне дзеркало» чи книгам Орвелла. Що ви робили би, якби вам сказали, що існуватиме національний рейтинг довіри вам як громадянинові? Саме це очікує китайців вже за 3 роки.
Як кредитна історія у банку — тільки скрізь
Уявіть собі світ, де переважна більшість ваших дій постійно занотовується та оцінюється. Незримі спостерігачі оцінюють, що ви купуєте в магазинах та в інтернеті; де ви знаходитесь в будь-який час. А ще вони знають, хто є вашими друзями та як ви взаємодієте з ними; скільки годин ви проводите, переглядаючи кіно або граючи у відеоігри. І звичайно — які рахунки та податки ви сплачуєте (або навпаки — від яких ухиляєтеся). Переважна частина цього вже відбувається: низка компаній світу збирає такі дані. Досить загадати про Google, Facebook чи Instagram — або програми для відстеження стану здоров’я, такі як Fitbit. Але тепер уявіть собі систему, де всі ці поведінки оцінюються — як позитивні чи негативні, — і потім утворюється єдиний показник відповідно до правил, встановлених урядом. Ваш Рейтинг Надійності буде загальнодоступним у порівнянні з показником усього населення. І він використовується для визначення вашого права на отримання іпотечного кредиту або роботи, А ще — для встановлення права вибору школи для ваших дітей чи впливає навіть на перспективу вашого працевлаштування у тій чи іншій компанії. Умовно кажучи — «мало лайків» означатиме мало соціальних можливостей.
Футуристичне бачення Великого Брата вже відбувається в Китаї, де уряд розробляє систему соціальних кредитів (ССК) для оцінки надійності своїх громадян. Китайський уряд виділяє систему як бажаний спосіб вимірювати та зміцнювати «довіру» по всій країні та створити культуру «щирості». Експерти із соціології, економіки та права за межами Китаю менш оптимістичні у ставленні до подібної системи великих даних, поєднаних із «Великим Братом». Йоган Лагерквіст, китайський інтернет-спеціаліст у Шведському інституті міжнародних відносин, описує цю систему як гібрид скорингу покупців Amazon та систем, показаних Орвеллом та іншими антиутопістами у своїх романах. Роджер Кремерс, післядипломний науковий співробітник, який спеціалізується на китайському законодавстві та управлінні в Інституті Ван Волленовена в Лейденському університеті, який опублікував повний переклад китайського плану, порівняв його з тим, як працює система оцінку ресторанів та барів Yelp — тільки за вашим плечем стоїть дбайлива наглядачка.
Наразі, технічно, участь у рейтингу громадян Китаю є добровільною. Але до 2020 року ця система моніторингу буде обов’язковим елементом китайського життя. Поведінка кожного громадянина та юридичної особи (яка включає в себе кожну компанію чи іншу організацію) у Китаї буде оцінюватися, незалежно від того, чи сподобаються результати оцінки самим громадянам та компаніям. Цей дивний «шлюб» комуністичних наглядачів та капіталістичних механізмів дав урядову ліцензію 8 приватним компаніям на розробку систем та алгоритмів оцінки. Адже йдеться про великі, дуже великі дані та складну систему соціологічних підходів до оцінювання громадян. На чолі процесу стоятимуть 2 китайських гіганти зі світу технологічних компаній.
Хто очолить всекитайський контроль
Перший гігант на чолі нової розробки — China Rapid Finance, партнер соціальної мережі Behemoth Tencent і розробник програми для обміну повідомленнями WeChat з більш ніж 850 млн активних користувачів. Інший, Sesame Credit, керує групою фінансових послуг Ant (AFSG), афілійованої компанії Alibaba. Компанія Ant Financial продає страхові продукти та надає кредити малим та середнім підприємствам. Тим не менш, справжня зірка Ant — це AliPay. Це , система платежів, яку люди використовують не лише для покупки речей в інтернеті, а й для ресторанів, таксі, сплати за навчання, кінотеатрів і навіть для переказу грошей один одному.
Sesame Credit також об’єдналася з іншими платформами, що створюють дані — такими як Didi Chuxing (головним конкурентом Uber у Китаї, перш ніж вона придбала китайський стартап) і Baihe (найбільша в країні онлайн-служба покупок). Просто збагнути, як це все збільшує і без того величезні дані, які Sesame Credit може використовувати для оцінки поведінки своїх користувачів.
Як складається рейтинг
Особи, що користуються Sesame Credit, оцінюються за шкалою від 350 до 950 балів. Alibaba не розкриває алгоритм, який використовує для розрахунку показників — проте визнає, що загалом вплив на цей індикатор мають 5 факторів. Перший — кредитна історія. Наприклад, чи громадянин своєчасно сплачує за електроенергію або телефонний рахунок? Далі — здатність до виконання, яку він визначає у своїх рекомендаціях як «здатність користувача виконувати свої контрактні зобов’язання». Третім фактором є особисті характеристики та дані про громадянина, включно із адресою та номером мобільного. А от четвертий фактор — поведінковий. І тут вже стає цікавіше.
Згідно із цією системою оцінки, щось невинне, як купівельна звичка людини, стає мірилом характеру. Alibaba визнає, що судить про людей за типами товарів, які вони купують. «Тобто, хто грає в відеоігри протягом десяти годин на день, наприклад, буде вважатися людиною, схильною до перебування вдома та ледарювання. Той, хто часто купує підгузки, буде розглядатися як ймовірний батько, який набагато більше схильний до відповідальності.
П’ята категорія — це міжособистісні взаємини. Навіть незважаючи на те, що не існує жодних припущень, що будь-яка з 8 приватних компаній, що беруть участь у поточній пілотній схемі, в кінцевому рахунку нестимуть відповідальність за управління урядовою системою, важко повірити, що уряд не захоче витягувати максимальну кількість даних для своєї ССК. Таким чином, приватні аналітичні платформи можуть досить швидко стати «наглядачами» уряду. Згадуєш в соцмережах про річницю подій на площі Тяньаньмень? Можливо, тобі слід відмовити у праві виїздити за кордон та поширювати там неправдиві (з точки зору уряду КНР) відомості про країну.
З іншого боку — системи на кшталт Sesame Credit та можливості кредитування чи отримання додаткових привілеїв в разі позитивного рейтингу можуть стати причиною появи «чорного ринку» підробних кредитних історій чи фейкових позитивних профілів громадян. Поки що Sesame Credit працює так: якщо ваш бал сягає 600, користувач може отримати кредит на суму до 5 тис юанів (близько $565), який можна буде використовувати для онлайн-магазину на сайті Alibaba. 650 балів — і можна орендувати машину без застави. Такі громадяни також мають право на швидку реєстрацію в готелях та використання VIP-реєстрації в Міжнародному аеропорту столиці Пекіна. Ті, у кого більше 666 очок, можуть отримувати грошовий кредит у розмірі до 50 тис юанів від Ant Financial Services. Отримайте понад 700 — і можна подавати заявку на подорож до Сингапуру без жодних підтверджувальних документів. А за 750 — швидке відстеження заявки на бажану загальноєвропейську шенгенську візу.
Вищі оцінки вже стали символом статусу, і майже 100 тис осіб хваляться ними на Weibo (китайський еквівалент Twitter) протягом декількох місяців після запуску тестової системи оцінювання. Sesame Credit вже пропонує поради, які допоможуть людям покращити свій рейтинг, включаючи попередження про недоліки товаришування з тими, хто має низький бал. Це може призвести до збільшення кількості радників, які поділяться порадами щодо отримання очок, або консультантів з управління репутацією, які готові запропонувати експертну пораду щодо стратегічного покращення рейтингу або виходу з «чорного списку». Так система «партійної» довіри стає системою довіри капіталістичної. Ґейміфікація слухняності як вона є.
Мало балів — мало можливостей, або Кастова система з мобільником в руці
Штрафи та стягнення за «погану» поведінку будуть різко змінюватися, коли державна система стане обов’язковою у 2020 році. Дійсно, 25 вересня 2016 року Генеральний офіс Державної ради оновив свою політику під назвою «Механізми попередження та покарання для осіб, що підлягають примусовому розслідуванню рівня довіри». Головний принцип простий: «Якщо в одному місці порушується довіра, обмеження застосовуються скрізь», — йдеться у документі.
Наприклад, люди з низьким рейтингом матимуть меншу швидкість роботи в інтернеті при підключенні у провайдера. В них буде обмежений доступ до ресторанів, нічних клубів або полів для гольфу. Також їх позбавлять права вільного виїзду за кордон. Обмеження можуть бути поширені — якщо вірити проекту постанови — навіть на робочі місця, соціальне страхування та рівень заробітної платні. Також буде обмежено громадян з низьким рейтингом, коли мова йде про зарахування до високооплачуваних приватних шкіл.
На думку Лучіано Флоріді, професора філософії та етики інформації в Оксфордському університеті та чільного дослідника в Оксфордському інституті інтернету, було три критичні «відцентрових зрушення», які змінили нашу точку зору у саморозвитку: модель Коперника щодо Землі, яка обертається довкола Сонця; теорія природного відбору Дарвіна; і твердження Фрейда про те, що наші щоденні дії контролюються несвідомим розумом.
Флоріді вважає, що зараз ми вступаємо в четверту зміну — те, що ми робимо в інтернеті та офлайн, починає об’єднуватися в суцільне єдине життя. Він стверджує, що, оскільки наше суспільство все частіше стає інфосферою — сумішшю фізичного та віртуального досвіду, — ми набуваємо індивідуальної життєвої характеристики, коли все наше життя схоже на великий суцільний Facebook. Чи Uber, де люди замість машин.
Система оцінювання довіри Китаю може бути ще поки добровільною, але це вже має наслідки. У лютому 2017 року Верховний народний суд країни оголосив, що за так звані «соціальні злочини» китайцям обмежуватимуть право отримувати на авіарейси — для оцінки враховуватиметься історія та соціальна оцінка за минулі 4 роки. А ще 1,65 млн осіб з «чорного списку» не зможуть брати квитки на потяг.
Основна проблема — система автоматичної оцінки на основі великих даних не враховує контекст. Наприклад, одна людина може втратити право на банківський рахунок чи отримати штраф через те, що потрапила до лікарні. Інша — просто через власну навмисну недбалість. І в цьому полягає проблема, яка стоїть перед усіма нами в цифровому світі, а не тільки перед китайцями. Якщо ми вже віддаємо своє життя під вплив алгоритмів, варто подбати і про те, як ці алгоритми враховуватимуть індивідуальні особливості людського побуту та повороти долі.
Експеримент професора Павлова — чи логічне продовження моделей, яким вже 70 років?
Якщо критично поглянути на пропозиція китайської влади, побачимо, що вона в цілому пропонує скористатися великими даними для «дресування» власних громадян. Щось на кшталт того, чим уславився професор, який змушував собак реагувати належним чином на сигнал дзвінка чи блимання електричної лампи. Чиніть як належить доброчесним громадянам — отримуйте винагороду, визнання та гарно відпочивайте, працевлаштовуйтесь та кредитуйтесь. Хоча критики КНР у цьому питанні трохи лкавлять. Подібні системи «сортування» громадян вже давно існують в Європі та США.
Понад 70 років тому двоє фахівців винайшли кредитні рейтинги. Сьогодні компанії використовують оцінки FICO, щоб визначити багато фінансових рішень, включаючи процентну ставку за нашою іпотекою чи дозвіл на отримання кредиту. Ніхто не звинувачує їх через це у побудові тоталітарної системи
Для більшості китайців поняття кредитної історії — таке ж дивне, як для нас китайська теракотова армія. «Чимало людей тут не володіють будинками, автомобілями чи кредитними картками, тому така інформація недоступна для вимірювання», – пояснює Вень Цюань, впливовий блогер, який пише про технології та фінанси. — «Центральний банк має фінансові дані від 800 млн людей, але лише 320 млн з них мають традиційну кредитну історію». За даними Міністерства торгівлі Китаю, щорічні економічні втрати, спричинені нестачею кредитної інформації, становлять понад 600 млрд юанів.
Відсутність національної кредитної системи в Китаї, слабке регулювання ринку та засилля контрафакту й так званої «малої» корупції — основні чинники, які ставлять Китай в число проблемних країн. За даними Організації економічного співробітництва та розвитку (OECD), 63% всіх підроблених товарів — від годинників до сумок та дитячого харчування, — походять з Китаю. Якщо ця конкретна схема обліку та систематизації даних про громадян, підприємців та співробітників компаній призведе до ефективнішого нагляду та підзвітності, ймовірно, навіть критики із Західного світу не будуть настільки суворі в її оцінці.
Зрештою, ми вже оцінюємо ресторани, фільми, книги та навіть лікарів та лікарні. Facebook тепер здатен ідентифікувати вас на фотографіях, не бачачи обличчя: досить лише вашого одягу, волосся та частин тіла, щоби позначити вас на зображенні з точністю до 83%.
У 2015 році було оприлюднене дослідження, яке показує, що в США є принаймні 24,9 підключених пристроїв на кожних 100 мешканців. Всі види компаній вивчають великі дані, що надходять з цих пристроїв, щоби зрозуміти наше життя та бажання й прогнозувати наші дії таким чином, що ми й самі до кінця не знаємо. У США Агентство національної безпеки є не єдиним офіційним «цифровим оком», що слідкує за рухом своїх громадян. У 2015 році Адміністрація США з безпеки транспорту запропонувала ідею розширення перевірок PreCheck, щоби включити записи соціальних медіа, дані про перебування та історію покупок. Ідея була скасована після шквалу критики, але це не означає, що її остаточно «поховали». Ми вже живемо в світі алгоритмів прогнозування, які визначають, чи є ми загрозою, потенційним терористом, злісним неплатником податків — навіть якщо ззовні ми цілком надійні добропорядні громадяни. Ми й так вже наближаємося до китайської системи — слідом за кредитним рейтингом прийдуть інші показники, які дозволять нас «оцінити» (не так, як у Tinder, але дещо схожим чином).
Хоча може бути занадто пізно зупиняти цю нову еру, у нас є вибір і права, які ми можемо застосувати зараз. Ми повинні мати можливість оцінювати оцінювачів. У своїй книзі «Неминуче» Кевін Келлі описує майбутнє, де спостерігачі та ті, за ким спостерігають, будуть прозоро відстежувати один одного: «Наш головний вибір тепер полягає в тому, чи є це наглядом таємним, однобічним — або взаємним, прозорим, котрий передбачає спостереження за спостерігачами».