Когда Ник бежал из своего поселения «Северный Урал», он думал, что его ждет приключение. Молодой человек верил, что его решимость, мечта о космосе и готовность преодолеть семьдесят километров пешком сделают его героем. Но как только он попал в город, всё изменилось. Ник перестал быть человеком со своими мечтами и страхами — он стал набором данных в чужой системе.
С первого же шага в полицейском участке его личность свелась к цифрам и записям. «Никола Вячеславович Бруновский. Семнадцать лет. Член движения «Нондиджитал»». Его имя, его возраст, его место жительства — всё это уже было записано где-то в базе данных, хотя Ник никогда не регистрировался официально. Но самое страшное ждало его в комнате с системой «Фемида». Там Ник перестал быть человеком вообще. Он стал объектом анализа: его пульс, дрожание губ, размер зрачков, даже микродвижения мышц лица — всё это превратилось в данные, на основе которых система определяла, правду ли он говорит. «Вероятность лжи — 90%», — холодно констатировала машина, не интересуясь, почему у него участился пульс или почему задрожали губы. Для системы не имело значения, что Ник просто испугался несправедливого обвинения в шпионаже. Важны были только цифры. Мы уже сейчас живем в мире, где человек всё чаще становится не личностью, а набором данных. Каждый клик в интернете, каждая геолокация на карте, каждый просмотр видео — всё это собирается, анализируется и формирует наш цифровой портрет. Алгоритмы решают, что нам показывать, какие предложения делать, куда нам лучше пойти учиться или работать. Мы уже привыкли, что реклама знает о нас больше, чем мы сами, что система предсказывает наши действия раньше, чем мы их совершаем.
Но в истории Ника это доведено до крайности. Его мечта стать пилотом, его страхи перед будущим, его переживания из-за расставания с Мариной — всё это не имело значения для системы. Важно было только то, как его данные соотносятся с правилами движения «Нондиджитал» и законами государства. Его цель «учиться» сначала вызывала снисходительные улыбки у сотрудников, пока «Фемида» не подтвердила, что он действительно представляет интерес как беглец из сообщества «Нондиджитал». ИИ «Фемида» даже не пыталась понять его как человека. Она просто сравнивала его показатели с нормами, искала противоречия в его словах и выдавала вердикт. «В ваших словах есть противоречия», — констатировала «Фемида», не задумываясь, что противоречия — это часть человеческой природы. Люди не идеальны, их мотивы часто сложны и противоречивы, но система видит только данные, которые либо соответствуют шаблону, либо нет. Когда Ника назвали «политическим беженцем», он не понял, почему так. Ведь он просто хотел учиться. Но для системы это не важно. Важно, что его данные соответствуют определенному шаблону, который позволяет присвоить ему этот статус. Его личные мотивы, его мечты, его история — всё это вторично по сравнению с тем, как его данные соотносятся с правовыми нормами.
Мне кажется, мы все постепенно становимся такими же «Никами» в глазах систем. Мы думаем, что управляем своими жизнями, что принимаем решения самостоятельно, но на самом деле всё больше решений за нас принимают алгоритмы, основываясь на собранных данных. Наша личность, наши мечты, наши страхи — всё это упрощается до набора метрик, на основе которых нас классифицируют, ранжируют и направляют по определенному пути. И самое страшное, что мы уже привыкли к этому. Как Ник, который в конце концов «…решил не задавать лишних вопросов и делал всё, что ему говорили». Возможно, это и есть главная трагедия цифровой эпохи: мы перестаем быть героями своих историй и становимся пассивными носителями данных, которые обрабатывают за нас.