Александра «Renoire» Алексеева
Разбираем основные тезисы статьи Пола Кокшотта (Paul Cockshott), известного информатика и левого теоретика, о влиянии автоматизации на общество и о потенциальном эффекте искусственного интеллекта (ИИ) в социуме будущего.
Мысли людей о роботах и искусственном интеллекте обычно формируются под влиянием медиа — фильмов, книг, картинок. Многие смотрели «Терминатора» или даже такой безобидный мультфильм, как «Ну, погоди!». Казалось бы, что здесь такого? Детский мультик! Ан нет, и здесь нас пичкают стереотипами, что робот может быть злым и всеуничтожающим.
Мультфильм «Тайна третьей планеты» предлагает другой сценарий: роботы могут быть персонализированными, иметь идентичность, но служить целям не всегда благочестивых людей.
Думаю, нам, скорее, нужно опасаться второго сценария: роботам поставят неправильные цели, например максимизировать прибыль при капитализме, и это плохо обернется для человечества. Пол Кокшотт, экономист и информатик из Университета Глазго, выступая с точки зрения аналитической философии (а значит, отбрасывая многие контексты и оставляя только несколько переменных в уравнении), предлагает посмотреть, каким образом роботы при капитализме могут оставить людей без работы и еды. В статье, на которую я опираюсь, учёный развивает два главных тезиса:
1. Получить действительно человекоподобных роботов очень сложно. Мы не знаем, когда это может произойти.
2. Рутинная автоматизация и быстрый прогресс технологий представляют опасность при капитализме. Мы должны знать, как направить ход событий в желаемое нам русло — освобождение от рутинной работы и создание условий для развития и хорошей жизни людей.
Начнём с того, что многие предсказания, которые делались в художественной литературе начала XX века, были ошибочными относительно времени прихода сильного ИИ. Мы на голову опережаем те прогнозы: прогресс в этой области идет очень высокими темпами.
Паровой двигатель вместо лошадей, роботы вместо людей
Во многом начало применения роботов на производстве похоже на индустриальную революцию. Джеймс Уатт изобрел паровой двигатель, заменивший менее эффективный двигатель Ньюкома. Новые машины стали использовать в компании, на которой работал их изобретатель. Он пообещал, что паровой двигатель будет обходиться дешевле, потому что для всего процесса понадобиться меньше рабочей силы. Чтобы подтвердить эти слова и понять, сколько двигатели выполняют работы и сколько это энергии, нужно было измерить рабочую силу. Тогда единственной альтернативой паровому двигателю были лошади, поэтому Уатт предложил использовать как меру лошадиную силу, предварительно изучив, какую работу лошадь может сделать за час. Так, тягу стали измерять в лошадиных силах. Это была первая попытка сопоставить количество механической работы (в физических терминах) с работой живого существа — лошади.
Машина Ньюкомена с конденсатором Уатта
"Возможно, если изобретут искусственного универсального робота, выполняющего те же интеллектуальные и физические задачи, что и человек, он станет для нас угрозой."
Если на смену лошадям пришел паровой двигатель, то почему роботы не могут сменить человека? Например, когда труд робота станет дешевле человеческого труда, их начнут использовать повсеместно. Мы будем мерить так: у этого робота мощность 10 человеческих сил в час, а у этого — 0,1. Как же мы можем это сделать, если человек многофункционален, а современные роботы — однофункциональны? Сейчас — никак.
По своей сути, человек — это универсальный робот. Возможно, если изобретут искусственного универсального робота, выполняющего те же интеллектуальные и физические задачи, что и человек, он станет для нас угрозой. Может, владельцы предприятий перестанут видеть смысл в поддержании трудового населения.
Возможны ли универсальные роботы?
Посмотрим, что отличает человеческий труд и делает его возможным. Маркс, по словам Кокшотта, считал, что люди, в отличие от животных, составляют план. Прежде чем приступать к работе, у них есть видение того, чего они собираются достичь.
Но он ошибался, у животных тоже наблюдают целенаправленное поведение. Исследования показали, что пауки планируют параметры сети до начала плетения. У некоторых обезьян культура определяет использование инструментов. Можно привести и другие примеры.
Выдерживает критику только то, что люди способны формулировать и воплощать свои планы. Мы можем их записывать и обсуждать. По мнению Кокшотта, таковы основные отличия:
(1) гибкость и универсальность рук человека;
(2) способность сообщать друг другу планы посредством языка;
(3) возможность «читать мысли» других людей (интуиция).
Мы не будем считать ум отличительной чертой человека. У этого понятия нет хорошего определения, зато мы прекрасно знаем, что такое интеллект. Это способность решать интеллектуальные задачи. Например, калькулятор — это форма искусственного интеллекта, которая выполняет интеллектуальную задачу подсчёта.
Робот Пеппер на выставке в Ганновере
Сейчас на Земле нет других видов, кроме людей, которые бы сочетали в себе все эти черты. Некоторые животные могут коммуницировать, например киты и бурые дельфины, но у них нет рук. У других есть руки, но нет системы коммуникации. Кроме того, человеческая интуиция улучшает внутривидовую кооперацию. Может быть, у других видов тоже есть такая способность, но одновременно руки, интуиция и язык есть только у нас.
Значит, универсальные роботы, которые заменят людей, должны обладать таким же сочетанием.
Как создавали универсальный компьютер
Чтобы понять, как сделать универсального робота, посмотрим, как Тьюринг создавал дизайн универсального компьютера. Для начала ученый исследовал рабочий процесс математиков: у них есть лист бумаги, они записывают числа и делают вычисления, держа какую-то часть информации в уме. Математики обычно концентрируются на маленьком участке бумаги, считывая и записывая информацию.
"Сейчас идёт работа над многофункциональными универсальными роботами."
Тьюринг сделал схему, которая повторяла модель действий математиков. Но вместо бумаги он использовал магнитную ленту. У машины, как и у человека, были внутренние состояния. Дизайн Тьюринга был воплощен в жизнь, и любой современный компьютер в какой-то мере повторяет его.
Предыдущие устройства обычно создавали для одной конкретной задачи. Компьютеры же можно применять для любой задачи обработки информации. Если есть достаточно времени, они её решат. Что-то похожее сейчас происходит с роботами. Если раньше механические и электронные устройства были однофункциональными, то сейчас идёт работа над многофункциональными универсальными роботами. Копируют и функционирование человека, только теперь это делают на более глубинном уровне, чем подражание математикам.
Чтобы показать, как сложно разработать универсальных роботов, приведу пример. В Университете Глазго Кокшотт с европейскими коллегами работают над проектом CLOPEMA. Они разрабатывают робота, который складывает ткани, например полотенца или рубашки. Этот робот состоит из подвижных «рук» и встроенной камеры.
Координацию «глаз» и «рук» очень трудно выразить математически. Этот робот весит тонну и стоит на седьмом этаже здания на бетонном полу, специально укрепленного, чтобы выдержать такой вес.
Робот CLOPEMA далёк от внедрения в повседневные задачи. Оказывается, заставить «универсального» робота складывать рубашки очень сложно. Но есть очень простые устройства, заточенные только под это задание. Если у исследователей получится, то это будет шаг к созданию полнофункциональных универсальных роботов. Уже есть роботы, которые копируют двигательное поведение животных. Например, они могут ходить по пересеченной местности. Очень помогает и развитие ИИ.
Но создать универсального робота, который мог бы выполнять всё, что может человек, — это задача будущего. Неизвестно, сколько времени это займёт.
Сначала индустриализация, потом роботизация
Представим, что учёные разработали универсальных роботов, а на дворе по-прежнему капитализм, стареющее население, закрытый рынок труда и высокая аккумуляция капитала, как в некоторых европейских странах или в Японии. Заменят ли роботы почти всех работников-людей?
"Если у нас открытый рынок дешёвой рабочей силы, экономической мотивации внедрять роботов просто не будет."
Согласно марксизму и трудовой теории стоимости, прибыль получается только с помощью труда людей. Человека можно эксплуатировать, выплачивать ему в виде зарплаты малую часть создаваемой им дополнительной стоимости. На людях можно экономить и присваивать результат их труда. Если работа автоматизируется, а человеческого вклада станет меньше, то прибыль будет стремиться к нулю и экономика — стагнировать. (Напротив, если у нас открытый рынок дешёвой рабочей силы, экономической мотивации внедрять роботов просто не будет.) Такой сценарий мы видим в Японии.
Усложним схему. Роберт Райх, бывший министр труда США, описывает в своей книге развитие кошмарной экономики, где роботы выполняют всю интеллектуально лёгкую работу, а люди ограничены немногочисленными задачами, которые роботам еще не под силу. Такие микрозадания, например по обслуживанию роботов или по обслуживанию роботов, которые обслуживают роботов, координируются онлайн-платформами, похожими на современный Mechanical Turk или Uber. Люди могут еще работать в сфере сервиса, где нужна эмоциональная отдача, хотя ее тоже можно роботизировать. Это экономика без социальных гарантий. Здесь нет пенсий и больничных, а неравенство растет.
Смог бы капитализм удержаться?
А теперь упростим схему. Уберем оттуда людей. Скажем, роботизированные фирмы могут быть потребителями. Это возможно в теории: что-то подобное описывал Пьеро Сраффа в статье «Производство товаров посредством товаров». Но на практике это маловероятно. Мы получили бы капитализм, доведённый до абсурда. Фирмы, укомплектованные роботами, конкурировали бы между собой. Они производили бы всё больше машин и роботов. Компании, управляемые роботами, могли бы покупать и продавать вещи. Сохранились бы и цены, и прибыль, но не было бы человеческих потребителей. В теории, можно было бы достичь экспоненциально растущего роботизированного капитализма. Когда станут доступны универсальные роботы, прибыль можно будет получить и без людей. Рабочие станут функционально избыточными для корпоративной экономики. Они будут бесполезными нахлебниками. Европейская история XX века показывает, что происходит, когда государство рассматривает людей как обузу.
"Если эксплуатация, пусть даже роботов, сохранится, она будет похожа на современный капитализм."
Очевидно, что система, которая максимизирует капитал, а не благосостояние людей, не отвечает интересам человечества. О такой угрозе — максимизации искусственным интеллектом не той цели — говорится в мысленном эксперименте о максимизаторе скрепок. Случайно люди зашивают во всемогущий ИИ цель максимизировать количество бумажных скрепок и не могут переписать программу. ИИ решил, что люди для максимизирования скрепок не нужны, поэтому решил от них избавиться. Вот и поддержание капитализма похоже на максимизирование скрепок: если для роботизированного капитализма люди не нужны, от них проще избавиться.
Но, скорее всего, наша теоретическая модель в условиях повседневной жизни работать не будет. Когда роботы научатся выполнять такие рутинные интеллектуальные и многоплановые работы, у них, вероятно, возникнут желания и потребности, сходные с человеческими, поэтому их тоже будет можно эксплуатировать и ущемлять в доступных благах. До такого сценария технически далеко. Если эксплуатация, пусть даже роботов, сохранится, она будет похожа на современный капитализм.
Более вероятный сценарий: представим рантье-капитализм, в котором весь излишек в индустрии, управляемой не до конца универсальными, но продвинутыми роботами, направлен на производство предметов роскоши для владельцев компаний. Для такой системы рабочие нужны лишь на скучных рутинных работах, как у Роберта Райха. Этого нам бы, по-хорошему, нужно постараться избежать.
И всё же
Когда люди говорят, что получение сильного ИИ может означать конец человеческой расы, они обычно имеют в виду, что у роботов будет интеллект и сознание, они осознают своё угнетённое положение и объявят войну людям.
На самом деле гораздо вероятнее, что нашим главным врагом в будущем станет не ИИ, а сочетание ИИ и капитализма. Возможно, впереди рантье-капитализм, экономическая стагнация, возросшее неравенство и отсутствие социальных гарантий. К счастью, у нас есть время, правда не очень много, чтобы придумать, как выйти из ситуации, когда неуниверсальные роботы станут более совершенными и займут многие ниши труда. Ведь всё к тому идет.
Источники:
Cockshott, P. and Renaud, K., 2016. "Humans, robots and values". In: Technology in Society, 45, pp. 19—28.(doi:10.1016/j.techsoc.2016.01.002)