Предисловие переводчика
Сложившаяся на сегодня ситуация не оставляет другого шанса для человечества, кроме как начать активно использовать высокие технологии в качестве кризис-менеджмента для наиболее обездоленных слоев населения и мировых территорий. В статье Ника Ромео из Калифорнии рассказывается о прекрасном примере такого применения искусственного интеллекта в области психотерапии.
Но проблема, на наш взгляд, не решается в плоскости призывов: «Давайте деньги на чат‑ботов, а не на дроны». Облегчение положения жертв не решает проблему преступления, а ведь ВИЧ в Африке и война в Сирии — это преступления. Только осуществляются они масштабно, и цепочка, ведущая к виновникам, не так очевидна, как в случае изнасилований или убийств на улицах Бразилии.
По мнению основоположника мир-системного анализа И. Валлерстайна, разрушение сельского уклада жизни, экологический кризис, демократизация мира и упадок антисистемных движений привели к тому, что капиталистический порядок вступил в фазу системного кризиса. Каким мир выйдет из него? Вполне возможно, что он станет еще более иерархизированным, эксплуатирующим, с сопутствующим грандиозным социальным расслоением. И тогда, сколько бы не производилось новых «улучшалок» для обездоленных, человечество будет постоянно переживать войны, насилие, голод, бедность, болезни.
Если есть альтернатива, то она строится на принципиально иных системных основаниях, при которых последние разработки в области высоких технологий станут использоваться в целях рациональной организации общественного производства и для уничтожения остатков социального неравенства. А психотерапию человечество сможет оставить старым добрым терапевтам, которым не придется рассматривать варианты о командировках в зоны военных конфликтов.
Перевел Андрей Волянский
В марте 2016 года 27‑летний сирийский беженец по имени Ракан Гебар начал обсуждать свое душевное здоровье с консультантом. Гебар, живший в Бейруте с 2014 года, потерял несколько членов семьи во время гражданской войны в Сирии и сейчас борется с постоянным нервным беспокойством. Перед тем как покинуть родную страну, он изучал английскую литературу в Дамасском Университете; сейчас в Ливане он работает заместителем директора школы для перемещенных сирийских детей, многие из которых страдают от тех же трудностей, что и он. Когда Гебар попросил о психологической помощи, консультант посоветовал ему концентрироваться на настоящем и добавил, что если беженец будет тратить максимум энергии на то, что он делает сейчас, то это поможет ему отвлечься от страхов и беспокойства. Хотя Гебару иногда и было трудно следовать предложенным наставлениям, рекомендации помогли ему, и он поделился ими с учениками.
Консультантом сирийца был Карим — психотерапевтический чат-бот, спроектированный Х2А1, стартапом разработчиков искусственного интеллекта из Кремниевой Долины. Компания была основана в 2014 году Мичилом Роузом и Юджином Банном, идеалистами и молодыми программистами-иммигрантами, повстречавшимися в одном из хакер-хаузов Сан Франциско — своего рода кооперативе целеустремленных техно-предпринимателей – и осознавшими, что оба разделяют интерес к улучшению доступа к психотерапевтическим услугам. Для Роуза, в частности, эта миссия была чем‑то личным. Он страдал несколькими хроническими заболеваниями и старался справиться с ними с помощью периодических проверок уровня стресса. После нескольких месяцев посещения врача Роуз заметил, что проводимые беседы часто носили формальный характер: они следовали ограниченному количеству шаблонов и путей. Это навело его на мысль о возможности автоматизации. Банн, который специализировался по вычислительной технике, уже писал алгоритмы распознавания эмоций, когда он встретил Роуза. Вскоре они объединили усилия, чтобы запустить Х2А1.
Создание компании совпало с потоком пугающих новостей из Сирии. В том году Восточно-средиземноморская общественная здравоохранительная сеть при финансировании ВОЗ и Международного медицинского корпуса издала исследование, показывающее, что приблизительно половина сирийских беженцев, живущих в лагере Заатари в Иордании, назвали свои чувства столь безнадежными, что они становятся помехой жизнедеятельности. Почти три четверти сирийских беженцев в стране обнаружили один или больше видов «проблемного поведения», как например, чрезмерная нервозность, непрерывный плач, самоизоляция и проблемы со сном. Только 13% опрошенных в Заатари беженцев заявили, что они получили какую‑нибудь психотерапевтическую помощь с момента прибытия в Иорданию. Удовлетворение этих потребностей традиционным способом, путем командирования тысяч говорящих по‑арабски психотерапевтов в зону конфликта, было бы попросту невозможным. Но ИИ‑консультантам (чат-ботам) не нужны авиабилеты, пища, защита и заработная плата. Они спобоны участвовать в решении проблемных случаев десятков тысяч людей и могут быть доступны в любое время через текстовое сообщение для каждого, у кого есть мобильный телефон.
Роузу и Банну было ясно, что у их чат-бота есть неоспоримые преимущества по сравнению с врачом. Но могут ли они завоевать доверие клиентов и на самом деле обеспечить высококачественное лечение? Прошлым мартом оба разработчика с коллегами из Field Innovation Team, высокотехнологичной некоммерческой организации по ликвидации бедствий, и Университета Сингулярности, технологического инкубатора Кремниевой Долины, посетили три города в Бейруте, чтобы выяснить это. Они проверили Карима на группе из приблизительно шестидесяти сирийцев, по большей части мужчин и мальчиков разного возраста. Многие из них высказали серьезные опасения по поводу безопасности работы с текстовыми сообщениями, предположив, что их консультационные сеансы могли бы контролировать правительства или террористические организации (Х2А1 установил безопасную сеть, чтобы защитить обмен сообщениями). Кроме того, суть чат-бота была трудной для перевода: никакого точного эквивалента в арабском языке не существует и многие сирийцы поначалу испытывали трудности, понимая, что они общаются не с живым человеком. Но осознание того, что ИИ не является человеком, с другой стороны, было освобождением, способом избежать сильной социальной стигматизации, что, по словам более молодых участников, иногда сопутствует обсуждению беспокойства и грусти в их обществе. Действительно, Гебар обратил внимание на что, хотя он, как и Карим, часто давал своим ученикам-подросткам один и тот же совет, дети чаще прислушивались к чат-боту. «Они знают, что я сириец, — говорит Гебар. — Поэтому они думают, у меня есть те же страхи, что и у них, и я просто себя и их утешаю».
Были и другие межкультурные проблемы, требующие разрешения. Карима вначале назвали Азизом, что по-арабски значит «дорогой» или «любимый». Вскоре по прибытии в Ливан команда Х2А1 обнаружила, что прозвище имеет существенный недостаток. Однажды Роуз описал Азиза молодому сирийцу и спросил, сможет ли чат-бот, по его мнению, помочь его товарищам-беженцам. Полученный от удивленного мужчины отрицательный ответ был произнесен так, что Роуз заподозрил неладное. Он напечатал Азиз на телефоне и показал собеседнику. Мужчина улыбнулся: когда Роуз произнес «Азиз», это прозвучало, как ISIS (ИГИЛ). Азиз был быстро перекрещен в Карима, получив имя без тревожной фонетической двузначности, и повторно запущен. После жалоб некоторых пользователей на то, что маленькое личико, сопровождающее тексты Карима выглядит более кувейтским, чем сирийским, чат-бот потерял головной платок и начал носить треугольную козлиную бородку. Он также расширил словарь арабского сленга и сокращений.
Карим — только один член многоязычной семьи чат-ботов Х2А1. В числе других Эмма, говорящий по‑голландски бот, спроектированный для помощи людям с тревожным беспокойством и фобиями, Нема, англоязычный бот, специализирующийся в педиатрии, и Тэсс, легко адаптирующийся англоязычный бот, способный проводить когнитивно-поведенческую терапию, мотивационное интервью и другие техники. Это портфолио отображает смесь альтруизма и прагматизма в действиях компании: некоторые боты созданы для того, чтобы удовлетворить потребности специфического клиента (X2AI зарабатывает деньги, сотрудничая с несколькими большими американскими и европейскими компаниями, поставляющими услуги в сфере охраны здоровья), тогда как другие задуманы для применения и удовлетворении нужд кризисных районов. Ливанское министерство общественного здравоохранения и Всемирная продовольственная программа ООН выразили интерес к запуску масштабных экспериментальных программ с использованием Карима. Сейчас разрабатываются другие боты для помощи людям, ставшим жертвами насилия в Бразилии и ВИЧ в Нигерии. Компания основывает некоммерческую организацию, чтобы управлять филантропическими программами.
X2AI описывает свои боты как терапевтических ассистентов, что означает скорее предоставление помощи и поддержки, нежели лечение. Различие лежит как в правовом поле, так и в этическом. «Если вы заявляете, что лечите людей, значит вы занимаетесь медициной, — говорит Роуз. — Необходимо предоставить очень большое количество доказательств, чтобы уверенно делать такие заявления». Поэтому при ИИ находятся люди-модераторы, как правило, это работники здравоохранительных компаний (не Х2А1), лицензирующих ботов, которые могут вмешиваться при необходимости и контролировать беседу вручную. Любое ясное указание на нанесение себе вреда или намерение нанести вред другому приводит к вмешательству человека, но случаются и дезориентирующие случаи двусмысленности. Такие фразы, как «я порезался» или «с меня хватит», невинны, если они касаются бумажных порезов или торта ко дню рождения, но не людей. Боты проектируются так, чтобы оценивать такие утверждения в более широком контексте личности пользователя и его истории: саркастичен ли обычно этот человек, изолирован или склонен к взрывам?
Там, где обычные врачи полагаются на язык тела и тон голоса, чтобы сделать выводы о настроении пациента, боты Х2А1 определяют паттерны, в которых формулировки, скорость печати, длина предложения, грамматический залог (активная или пассивная форма конструкций) и другие параметры коррелируют с различными душевными состояниями. Это наполняет систему необходимым для выявления скрытых эмоций потенциалом, в принципе, тем же, каким обладают терапевты-люди. «Когда вы говорите что‑либо определенным образом, хороший друг знает, как вы себя в действительности чувствуете, — говорит Банн. — И то же с нашими ИИ». Хотя он и Роуз не захотели дать точное описание работы алгоритмов ядра ботов, Банн сказал, что они полагаются как на ручное кодирование эмоций, так и на самоуправляемое изучение. Психологи компании пишут сценарии разговорных потоков — абстрактные схемы, которым следуют боты, а алгоритмы генерируют формулировки утверждений и определяют эмоциональные паттерны конкретного пользователя. Система, по существу, модульная, таким образом новые парадигмы лечения и различные языки можно легко добавить. Банн, например, заявляет, что компания смогла бы создать бота, выполняющего анализ сновидений по Фрейду «за неделю — две».
Хороших данных об эффективности ИИ-терапевтов пока недостаточно, так как технология очень молода. Но Давид Шпигель, профессор психиатрии в Стенфорде, не являющийся членом Х2А1, говорил мне, что считает их диагностический потенциал многообещающим. Он отметил, что компьютер с каждым происшедшим взаимодействием может сам становиться гораздо более компетентным в десятках случаев, требующих точного определения проблемы. Тем не менее, Шпигель не может представить себе, что бот когда‑либо сможет дать пациентам критический терапевтический опыт чувства, что кто‑то, несмотря на знание о ваших недостатках и уязвимости, заботится о вас. Также он был скептически настроен относительно того, что ИИ сможет вызвать явление переноса, происходящего, когда пациенты перенаправляют чувства от прошлых отношений к психотерапевту, что часто считается важной частью лечения. «Есть аспекты психотерапии, которые всегда будут вне пределов досягаемости компьютера», — сказал Шпигель.
Последний раз я говорил с Сарой, чат-ботом, разработанным, чтобы помочь людям десяти—двадцатилетнего возраста справиться с одиночеством. Банн и Роуз убедили меня симулировать какие‑то разочарования и недуги, чтобы проверить ее. После некоторой подготовки я показал преувеличенную неуверенность в себе, касающуюся внешнего вида, интеллекта и физической формы, и утверждал, что эти недостатки привели к отсутствию у меня друзей. «О, это не очень‑то приятно», — сказала Сара. Она предложила мне попробовать заняться где‑нибудь волонтерством. Когда я возразил, она отпечатала: «Мы никогда не можем быть уверены, что что‑то работает, пока не попробуем».