Экономика цифровой эпохи. Как людей подчиняют алгоритмы

Цифровая эра ознаменовалась удивительным сочетанием суперсовременных и средневековых технологий. Последние пока используются людьми, но скоро люди окажутся не нужны.

99,9% классовой борьбы вовсе не революции. В основном борьба идет в скрытой форме рутинного ежедневного сопротивления, которое американский политолог Джеймс Скотт называл оружием слабых. Однако его ценность и возможная трансформация во что-то более серьезное во многих случаях определяются существующей технологией и чисто практическими возможностями применения.

Средний класс, достигший пика своего могущества в 1970-х, медленно, но верно опускается до сегодняшнего состояния прекариата. Под прекариатом (от английского precarious — «нестабильный», «неустойчивый», объединенного со словом «пролетариат») автор термина, британский экономист Гай Стэндинг, понимает новый класс, для которого характерны отсутствие постоянной занятости, усечение социальных гарантий и гражданских прав.

Автоматизация, аутсорсинг и технологическое изменение баланса сил уже привели к резкому ослаблению «слабых».

И есть все предпосылки для того, что в недалеком будущем эволюция пролетариата в прекариат продолжится и последний станет «ненужнориатом».

Роботизация и внедрение искусственного интеллекта (ИИ) сделают «слабых» просто ненужными. До такой степени, до которой изобретение двигателя внутреннего сгорания сделало ненужными лошадей в начале ХХ века.

Исследований, посвященных перспективам замещения людей роботами по отраслям и отдельным экономикам, уже сотни, если не тысячи. И выводы их похожи. Если верить экономистам Карлу Фрею и Майклу Осборну, в США, стране—лидере технического прогресса, к 2033 году под натиском роботизации рискует исчезнуть 47% рабочих мест. Мировой банк подсчитал, что для Китая эта доля может составить и вовсе 77%. Международная организация труда считает, что даже в таких странах, как Камбоджа, Индонезия, Филиппины, Вьетнам и Таиланд, 56% работников подпадают под риск автоматизации (см. подробнее «Робовладельческий строй»).

Многие экономисты, в том числе российские, склонны полагать, что опасения преувеличены. Их критику можно свести к тезису о том, что через процесс автоматизации мировая экономика проходит непрерывно как минимум с начала первой промышленной революции, но в итоге ничего страшного не происходит — создаются новые рабочие места.

Однако критики не вполне осознают, что искусственный интеллект способен заместить «навыки Поланьи», которые до последнего времени считались исключительно человеческими (распознавание изображений и звука, их алгоритмическая обработка и трансформация, тонкая моторика). Сфер деятельности, где человек может быть более продуктивным, чем машина, видимо, будет все меньше и меньше.

Как отмечает специалист по ИИ Сергей Марков, вероятность автоматизации той или иной профессии в кратко- или среднесрочной перспективе зависит во многом от трех основных признаков трудового процесса — степени шаблонности и однообразия выполняемых работником операций, осуществления взаимодействий с клиентами, контрагентами и другими участниками бизнес-процесса при помощи стандартных интерфейсов (например, стандартных форм документов, шаблонных коммуникаций через голосовые или текстовые каналы связи) и наличия накопленных массивов данных, которые могут быть использованы для обучения системы искусственного интеллекта, призванной заменить работника.

Повелители алгоритмов и рикши XXI века

Образование прекариата уже давно находится в сфере интересов экономистов. Между тем бурно растущая в последние годы цифровая экономика способна дать фору всем этим процессам. Здесь наблюдаются тенденции еще более драматического, чем в последние 50 лет, смещения баланса сил в ущерб «слабым».

В случае с цифровой экономикой, или, как ее еще называют, «платформенной» либо gig-экономикой, владельцы капитала — это, по сути, владельцы алгоритмов. У многих, если не у большинства современных хайтек-компаний и тем более техностартапов толком нет никаких материальных активов. Основной их актив зачастую алгоритм и средство коммуникации — платформа, в основном в виде мобильного приложения для той или иной деятельности. Классический случай здесь, конечно, Uber.

Алгоритмизированная структура gig-экономики позволяет обойти все формальные права наемных работников, доставшиеся им в наследство от «угольной демократии» Митчелла,— медицинское страхование, минимальную зарплату, пенсионное обеспечение, формальный письменный контракт, выходное пособие, социальный пакет и т. п.

В штате Uber работает всего несколько тысяч сотрудников, а по скачанному в смартфоне алгоритму-приложению на компанию по факту трудится порядка 2 млн водителей по всему миру.

Немногочисленные штатные сотрудники Uber получают неплохие зарплаты, хотя их благосостояние несравнимо с доходами собственников компании. А вот 2 млн водителей имеют медианный доход чуть больше $150 в месяц. Uber не считает водителей своими сотрудниками и не обеспечивает их каким-либо социальным пакетом.

Появление класса «рикш XXI века», работающих на цифровую экономику,— это, по сути, внутренний аутсорсинг, обнаружение капиталом в развитых странах рабочей силы, которой можно предоставлять условия труда, практически сравнимые с таковыми в Бангладеш или Камбодже. Внутренний аутсорсинг напоминает процесс внутренней колонизации (см. книгу Александра Эткинда «Внутренняя колонизация. Имперский опыт России»). Особенно выделяется применение к «автохтонному» населению практик, отработанных в колониях (сейчас — в современных странах аутсорсинга).

Все это очень неплохо для владельцев алгоритмов и клиентов, но одновременно это тенденция, резко усиливающая прекариатизацию, поляризацию рабочих мест, неравенство и дальнейшее ослабление «слабых». В странах с сильными сетями соцзащиты (Нидерланды, Франция, Германия, Швеция) уберизация пока слабо угрожает размыванию среднего класса, но вот для США и некоторых других государств ситуация может стать более острой уже в ближайшее время.

В идеале всесильному алгоритму «рикши XXI века» нужны лишь как временное решение, до скорого появления более совершенных технологий. Машины без водителей — дело ближайшего будущего, и акционерам Uber 2 млн самозанятых скоро окажутся не нужны: у них уже есть капитал, на который можно будет купить или арендовать многомиллионный парк автономных машин и добавить к ним алгоритм, предоставляющий транспорт по запросу клиента.

Еще более простая конфигурация компании — один только алгоритм, позволяющий собственникам автономных автомобилей (например, крупным автоконцернам) предоставлять функцию мобильности по запросу (в этом случае Uber будет похож на Airbnb — компанию, состоящую, по сути, из одного алгоритма, связывающего по миру владельцев недвижимости).

Кстати, приставший к Uber, Airbnb и некоторым похожим компаниям термин sharing economy («шеринговая экономика», то есть экономика, основанная на том, что агенты делятся друг с другом тем или иным благом) часто вводит в заблуждение по поводу ее якобы альтруистической природы. Никто ни с кем просто так ничем не делится, просто алгоритм и приложение позволяют рационализировать использование того или иного блага и увеличить отдачу. Например, тот же частный автомобиль эксплуатируется всего около 10% времени, а остальные 90% он простаивает (как и некоторая недвижимость). По сути, такая оптимизация ограничена в большинстве случаев частными домохозяйствами. В промышленности и в значительной степени в сфере услуг загрузка мощностей и так давно оптимизирована, а в домохозяйствах явный кандидат на оптимизацию именно автомобиль (в чуть меньшей степени — недвижимость). Сложно себе представить попытку «расшерить» телевизор в доме, кухонную технику или одежду. Так что сам по себе эффект шеринговой экономики ограничен, хотя и важен для отдельных ниш (прежде всего для частного владения автомобилями).

Алгоритм — надсмотрщик и начальник

Пока людей из прекрасного нового мира цифровой экономики еще полностью не вытеснили, приходится оптимизировать их деятельность, в частности выстраивая за ними тотальный контроль. Возможности, которые предоставляют новые технологии, впечатляют.

Дорогие и ненадежные системы надзора за наемными работниками (из-за того, что их основу составляли люди, за которыми, в свою очередь, надо было следить) довольно успешно заменяются дешевыми и надежными алгоритмами. При этом возможности рутинного сопротивления у наемных (пока еще) рабочих во многих сферах падают практически до нуля.

В современной gig-экономике алгоритм блестяще выполняет работу, с которой не справился бы даже самый лучший надсмотрщик.

В сервисах Uber, Lyft или курьерской службе Deliveroo задачу контроля и оценки работников выполняет алгоритм — приложение на смартфоне.

В той же Deliveroo алгоритм мониторит курьеров. Пока этих других «рикш XXI века» не заменили дронами, Deliveroo даже в большей степени, чем Uber, вынуждена совмещать суперсовременные и средневековые технологии, что само по себе довольно забавно.

Алгоритм регулярно высылает работникам персональные оценки за месяц. Курьеры, которые, кстати, как и шоферы Uber, не включаются в штат компании, а юридически являются самозанятыми и не имеют никакой социальной защиты (тот же классический прекариат), оцениваются сразу по нескольким параметрам. Например, «время принятия заказа», «время в пути до ресторана», «время в пути до клиента», «время у клиента», «опоздания» и «непринятые заказы». Алгоритм сравнивает результаты курьера с собственной оценкой того, какими они должны быть. Может похвалить: «Ваше среднее время в пути до клиента оказалось меньше нашей оценки, что означает, что вы соответствуете нашему уровню качества услуг. Ваша средняя разница составила –3,1 минуты». А может и поругать, в итоге наказав рублем (или любой другой валютой, хоть биткоином).

Алгоритм Uber также выдает своим шоферам рейтинги на основании ответов на запросы клиентов и оценок самих клиентов (это своего рода аутсорсинг мониторинга, как, впрочем, и почти всех других процессов, кроме сделки с клиентом и шофером).

Клиент выигрывает от более дешевого и качественного сервиса. А вот у работников полностью пропадает возможность рутинного сопротивления, баланс сил смещается в сторону владельцев капитала.

Различные стартапы — скажем, калифорнийский Percolata — внедряют системы алгоритмизированной оценки и контроля труда и в другие сферы сектора услуг (в промышленности они уже давно стали нормой), например в розничную торговлю.

Сенсоры в магазинах оценивают поток посетителей и потом смотрят, сколько посетителей стали покупателями и с какими чеками, какой продавец им помог (пока алгоритмическая экономика все же вынуждена терпеть живых продавцов). Потом устанавливают каждому продавцу оценку, разделяя тот чек, который он принес, на поток посетителей, и выдают ему персональный рейтинг. Алгоритм отслеживает и то, в каких парах, тройках и т. д. продавцы работают лучше, и на этом основании формирует команды, смотрит на успехи продавцов в разных обстоятельствах: кто-то лучше работает при большом потоке посетителей, кто-то — при малом, кто-то — утром, кто-то — вечером. Как отмечает основатель Percolata Грег Танака, «ирония в том, что мы не автоматизировали работу продавцов, а автоматизировали работу управляющего; при этом алгоритм справляется с ней лучше».

Еще один возможный шаг в духе цифровой экономики — вывести продавцов на аутсорс и сделать их самозанятыми, как шоферов Uber или курьеров Deliveroo. Ну а потом вообще убрать профессию как таковую — магазины без продавцов тестируются многими техногигантами, к примеру Amazon.

Нейрототалитаризм

Автоматизировать работу надсмотрщика — давняя мечта не только работодателей, но и политических властей. И здесь технологии дарят политическим элитам такие же захватывающие перспективы, как и экономическим. Оруэлл и Замятин отдыхают.

Как отмечают многие исследователи авторитаризма и тоталитаризма (например, экономист Марк Харрисон), одно из существенных ограничений подобных режимов — высокие издержки, связанные со стоимостью поддержания огромного аппарата тайной полиции и всеобъемлющей секретности.

Технологические изобретения, прежде всего радио и телефон, рационализировали контроль и помогли в установлении тоталитарных режимов (см., в частности, Frank Dikotter. Mao's Great Famine: The History of China's Most Devastating Catastrophe, 1958–1962. Walker and Company, 2010 и David P. Chandler. The Tragedy of Cambodian History, New Haven. Yale University Press, 1991). Телефон позволил проверять подчиненных в режиме реального времени — возможность саботажа (оружие не только «слабых») резко снизилась.

Смартфон, как видим на примере с Deliveroo, многократно умножает контрольную функцию простого телефона. Что можно применить как во благо, так и во вред: технологии сами по себе нейтральны, важно, как известно, то, кто и с какой целью ими пользуется.

Нейросети тоже можно применить для решения очень разных задач. Так, можно обучить нейросеть выявлять закономерности в огромном объеме историй болезни миллионов пациентов и на базе этого знания искать новые лекарства. Но те же нейросети, справляющиеся с доселе исключительно человеческой задачей распознавания визуальной и аудиоинформации, вполне можно использовать для слежки за населением — «священного Грааля» любого тоталитарного режима.

Подобные эксперименты уже вовсю идут. Впереди всей планеты, что неудивительно, в последние годы — Китай. Прообраз будущего нейрототалитаризма можно наблюдать в китайском Синьцзян-Уйгурском автономном районе (СУАР), где традиционно сильны сепаратистские настроения. По подсчетам аналитической компании IHS Markit, в 2015 году в КНР уже было установлено 176 млн камер видеонаблюдения (для сравнения: в США — всего 62 млн), а к 2020 году их будет установлено почти 450 млн. Значительная часть камер приходится на чувствительные регионы — столицу, где почти любой уголок просматривается камерами, и тот же СУАР. В регионе сейчас на каждые 10 тыс. жителей приходится столько же камер наблюдения, сколько в других частях страны смотрит за несколькими миллионами человек.

Однако само по себе видеонаблюдение при традиционной технологии упиралось бы в необходимость найма целой армии надсмотрщиков, просматривающих триллионы часов записей. На помощь приходит технологический прогресс в виде способной распознавать лица нейросети.

Как отмечает китаист Леонид Ковачич, в полицейских базах данных хранятся фотографии всех зарегистрированных жителей СУАР. Эта база связана с нейросетью, на основе которой и работает система распознавания лиц. Уличные камеры в автоматическом режиме могут отслеживать перемещение по городу любого человека. Во многих торговых центрах перед входом установлены сканеры, распознающие лица и идентифицирующие личность посетителя.

Если человек значится в полицейской картотеке как подозрительный, система автоматически посылает предупреждение в полицейский участок. По данным Bloomberg, нейросеть предупреждает полицию, если «подозрительные личности» отклоняются от своего привычного маршрута более чем на 300 метров. Разумеется, подозрительными для власти могут быть не только обычные преступники, но и те, кто с ней в чем-то не согласен. Само собой разумеется, на каждый автомобиль, зарегистрированный в Синьцзяне, устанавливаются специальные датчики геолокации — покататься без надзора нельзя и въехать незамеченным на машине из другого региона тоже. Плюс власти правдами и неправдами пытаются собрать образцы ДНК у всего населения региона.

Нейрослежка выводит возможности контроля власти над подчиненными классами на новый, ранее недосягаемый уровень. С одной стороны, убирается армия надсмотрщиков и минимизируется типичная для экономики проблема принципала-агента, то есть, проще говоря, необходимость слежки за тем, кто исполняет чьи-либо поручения. Нейросеть, конечно, требует собственных надсмотрщиков, но убирается наиболее ресурсоемкий элемент надзора — просмотр и прослушка огромной массы сырых данных.

Пока прообраз нейропаноптикона создан только в СУАР, но ничто не мешает перенести этот опыт и на другие регионы, страны и сферы деятельности.

Ситуация, когда частная жизнь может исчезнуть в принципе, не столь уж фантастична.

Тоталитарные режимы прошлого, может, и хотели бы достичь такой степени контроля над подданными, но это отчасти упиралось в технологические ограничения. Нейросеть, как уверяют в том же Китае ее апологеты, позволяет снизить преступность. Видимо, это так, только возможные преступные намерения тех, кто контролирует нейрослежку и ограничения свободы граждан, рискуют стать побочным эффектом этих благих намерений.

Автор: АЛЕКСАНДР ЗОТИН