Экономист Дарон Асемоглу написал книгу об угрозах искусственного интеллекта — и о том, как правильное управление может обратить его на пользу человечеству Спецкор «Медузы» Маргарита Лютова узнала у ученого, как скоро мир сможет приблизиться к этой утопии

В мае в американском издательстве PublicAffairs вышла новая книга знаменитого экономиста Дарона Асемоглу «Power and Progress» («Власть и прогресс»). Асемоглу, профессор MIT, самый цитируемый академический экономист мира за последнее десятилетие, которому прочат Нобелевскую премию по экономике, широко известен благодаря своей книге «Почему одни страны богатые, а другие бедные», написанной совместно с политологом Джеймсом Робинсоном. На этот раз его соавтором выступил экономист Саймон Джонсон: его коллега по MIT, а в прошлом — главный экономист Международного валютного фонда. В новой книге Асемоглу и Джонсон говорят о том, что развитие технологий далеко не всегда помогало людям жить более простой, обеспеченной и демократичной жизнью. Экономисты размышляют, как сделать так, чтобы в будущем технологии, включая вездесущий искусственный интеллект, работали во благо. Спецкор «Медузы» Маргарита Лютова поговорила с Асемоглу о том, как технологии делают людей беднее, а авторитарных лидеров, включая Владимира Путина, могущественнее — и есть ли надежда на то, что этот порядок можно изменить.

— Для начала попробую сформулировать одну из важнейших идей вашей книги. То, как идет технологический прогресс, не предопределено, это вопрос выбора людей в бизнесе и у власти: технологии могут делать людей свободнее, улучшать их жизни, но сегодня они прежде всего служат интересам узкой группы людей, обладающих властью и высоким положением в обществе. Многим это может показаться контринтуитивным: люди чаще винят в своих бедах власти или, скажем, капитализм в целом, но не технологии сами по себе. Грубо говоря, они рассуждают: «Ну что плохого в айфонах?» Что не так с тем, как сегодня идет технологический прогресс?  

— Думаю, вы верно сформулировали основную идею. Наш с Саймоном Джонсоном главный посыл в том, что технологии, конечно же, очень важны и будут играть еще более важную роль в том, каким окажется наше будущее. Но то, как именно они развиваются, — следствие решений людей. И от того, какая стратегия будет выбрана, зависит очень многое: кто окажется в выигрыше, а кто будет нести потери. Неравенство, демократия, институты, устремления бизнеса и его возможности использовать правила игры для собственной пользы — все это имеет значение, но во многом именно потому, что все эти факторы влияют на то, какими будут технологии будущего.  

Можно отвлечься от примеров, которые мы приводим в книге, и посмотреть, скажем, на то, как используются ядерные технологии. Можно применять их в мирных целях, а можно на их основе создать ядерное оружие. То же самое с химическими процессами: можно делать удобрения или лекарства, а можно — более мощные бомбы. Все это технологии, но именно люди принимают решения, как их применять. 

[Когда мы говорим о таких решениях] особенно в цифровую эпоху, наиболее важны два аспекта: то, как мы организуем производство, и то, как мы поступаем с информацией, с коммуникациями — ведь это краеугольный камень демократии. И именно эти две вещи меня больше всего беспокоят: я думаю, что искусственный интеллект может нанести [людям] огромный вред, и поэтому в книге мы сосредоточились на этих темах.

— Из книги следует, что вы очень обеспокоены нынешним развитием искусственного интеллекта, и явно не вы один. В чем вы видите основные риски, что именно может пойти не так?

— Чтобы понять это, давайте сделаем шаг назад и посмотрим, что уже пошло не так с цифровыми технологиями. Вот, например, как вы сказали — казалось бы, что плохого в айфонах? На самом деле айфон, как нам обещали, должен был упростить общение, сделать информацию менее централизованной, помочь его пользователям в различных задачах, и я думаю, что во многом айфон достиг некоторых из этих целей, хоть и не в той мере, в какой предсказывали те, кто его продвигал. 

Если вспомнить 1950-е или 1960-е, у многих пионеров компьютерной эры было примерно такое же представление [о новых технологиях]. Они думали, что персональные компьютеры сделают людей свободнее, улучшат положение трудящихся, положат конец доминированию крупных корпораций вроде IBM. Используя нашу с Саймоном Джонсоном концепцию, которую мы описываем в книге, я бы добавил, что персональные компьютеры должны были создать новые рабочие задачи для людей, чтобы их труд стал производительнее.

Но вместо этого цифровые технологии стали еще более централизованными. IBM становилась все могущественнее и не теряла своей власти, как надеялись первые энтузиасты компьютерной эры. Microsoft лишь укрепила централизацию технологий, а огромное количество усилий в технологическом секторе было направлено на автоматизацию, что означало вытеснение работников из производственного процесса, а не создание новых задач и возможностей для них. Именно это, как мы пишем в книге (а я доказывал в моих исследованиях на основе статистических данных), оказалось в основе огромного роста неравенства в промышленно развитых странах, а также стало причиной, по которой технологии не принесли людям того роста производительности, на который многие надеялись.

Одновременно технологии сделали централизованной и информацию, хотя, опять же, надежда была на то, что они помогут ее децентрализовать. Помните, все эти wiki, блоги, да даже фейсбук — в начале 2000-х люди надеялись, что все это поможет демократизировать то, как распространяется информация, но получилось наоборот. Фейсбук контролирует то, что вы видите, то, какая информация к вам попадает, намного сильнее, чем какие-нибудь медиамагнаты прошлого.

А с искусственным интеллектом эта централизация информации возрастет еще сильнее, ведь большие языковые модели будут использоваться повсеместно. И все это задает определенную траекторию технологического прогресса — но это никак не связано с какими-то необходимостями, в этом нет ничего предопределенного [самой природой технологий]. 

Чем плоха централизация информации? Во-первых, она не способствует демократии. Поддерживать демократию становится намного труднее, и не важно, кто именно контролирует информацию — Google, Facebook или Компартия Китая. Централизованный контроль информации вредит демократии. Он также способствует формированию крупных монополий — а это усиливает неравенство. И кроме того, он увеличивает крен в сторону всеобщей автоматизации. Еще раз подчеркну: это все следствие решений людей, того, какой выбор они делают. В сам по себе искусственный интеллект не «зашито» то, что он будет усиливать централизацию информации. 

Люди, которые 20 лет назад надеялись на демократизацию информации, не были такими уж наивными. Они были оптимистами, но не совсем заблуждались — по крайней мере потому, что технически все это было возможно. Они ошибались в социальных аспектах — в том, что, как им казалось, общество будет двигаться в этом направлении само собой. Это был вопрос выбора — и хорошая новость в том, что он у нас есть. Меня часто спрашивают, что искусственный интеллект сделает с неравенством, что он сделает с рынком труда. Он сделает то, что мы решим дать ему сделать! 

— А почему эти решения часто оказываются не слишком хорошими? Под влиянием плохих институтов?   

— В книге «Почему одни страны богатые, а другие бедные» и в «Узком коридоре» я уделял очень много внимания институтам: я абсолютно уверен в их огромной роли [в том, как развиваются общество и экономика]. Но сейчас мы добавили к институтам видение лидеров, их идеи.

То, что думают главы крупнейших корпораций вроде Марка Цукерберга или Илона Маска и другие могущественные люди, которых мало что сдерживает, имеет значение. Примерно так же, как важно то, что на уме у Владимира Путина. В определенной мере в их действиях присутствует идеология: это не всегда строгий рациональный расчет, что выгодно им самим или их окружению. У лидеров есть набор убеждений, их могут сдерживать институты — например, в случае с ИИ и другими цифровыми технологиями это может быть противостояние со стороны профсоюзов, гражданского общества, демократических институтов. Но убеждения всегда так или иначе будут играть роль. 

На самом деле во многом развитие технологий пошло по неверному пути как раз потому, что среди американских компаний распространилось представление о том, что ради капитализации и прибыли акционеров можно выжимать все соки из сотрудников. А многие менеджеры, как следствие, считали, что надо сокращать расходы на труд и внедрять автоматизацию.

При этом они не особенно задумывались о том, хорошо ли это для работников, которые, вообще-то, тоже являются частью организации; хорошо ли это для их организации не только в краткосрочной, но и в долгосрочной перспективе, а также хорошо ли это для экономики в целом — которая, вероятно, могла бы быть в лучшем состоянии, если бы мы искали наилучшее применение навыкам сотрудников и создавали для них более совершенный инструментарий. 

— Но ведь дело не только в том, что нам всем может не повезти — и окажется, что у лидеров в бизнесе и власти что-то не так с мировоззрением, а в том, что им удается убедить огромное количество людей, что их идеи верны?

— Да, в этом и заключается проблема. Знаете, вот у меня есть представление о том, как лучше всего применять искусственный интеллект. Я говорю об этом уже больше 10 лет, но никому нет до этого дела. Но зато если что-то приходит в голову Илону Маску, Марку Цукербергу или Сэму Альтману, то они могут сразу же воплотить это в жизнь. Кроме того, они способны убеждать всех остальных в своей правоте.

В этом смысле очень важны медиа — например, в США медиа очарованы технологическим сектором. Отчасти это обоснованно. Кремниевая долина — это по-настоящему особенное место. Вероятно, это самый инновационный кластер за всю историю человечества, важнейший источник драйва и роста для всей американской экономики. Также важно, что это средоточие людей с определенным мировоззрением: это индивидуалисты, готовые рискнуть, в чем-то безбашенные.

Но в то же время у них есть эти ужасные, завиральные представления о том, что они — мировая элита и должны управлять всем на свете. Что экономике не нужно так много работников, и их следует вытеснять. Но можем ли мы, полагаясь на институты, взять от технологического сектора только хорошее? Вырастить новых технологических лидеров с другими ценностями? Можно ли отделить хорошее от плохого? Думаю, в будущем это станет ключевым вопросом для Соединенных Штатов. 

— Технооптимисты здесь могли бы возразить. Когда автоматизируются рутинные задачи, технологический сектор, наоборот, помогает работникам: освободившись от скучного труда, они могут найти более содержательные занятия, открыть собственный бизнес, ну а если это им не удалось — так это провал государства, которое должно было о них позаботиться. Что вы на это скажете?

 — Мы как раз написали эту книгу, чтобы исправить технооптимизм в духе «все самой собой наладится». Так что да, мне совсем не нравится такой безусловный технооптимизм. Но нужно признать, что изначально идеи технооптимистов, которые вы только что описали, были не такими уж ошибочными.

Если мы посмотрим на три десятилетия после Второй мировой войны, мы увидим, что в США, Великобритании, Франции, Германии экономика росла очень-очень высокими темпами, и от этого экономического роста выигрывала значительная часть населения этих стран. Во многом этот рост был связан с автоматизацией. Стало использоваться новое промышленное оборудование — и работники, освобождаясь от старых задач, получали новые. Они сохраняли свои рабочие места, а их зарплата продолжала расти. Но все это было следствием осознанных решений. Повторю: все дело в том, как мы решаем использовать технологии.

Кроме того, было важно, что работники были готовы сопротивляться, настаивая, что компании должны не просто автоматизировать производство, а попутно еще и обучать их новым навыкам, создавать для них новые задачи. Так что все это возможно, но оно не случится само собой.

Подтверждение этому — то, что происходит в последние 40 лет: улучшенное автоматизированное оборудование на производстве, промышленные роботы, автоматизация офисных задач — все это вытесняет работников. В первую очередь это касается синих воротничков, но нередко лишается работы и административный персонал, особенно если эти люди были заняты рутинными задачами. На смену этим задачам должны были прийти более содержательные, требующие умения принимать сложные решения — но в большинстве случаев ничего такого не произошло.

Работники, которые из-за автоматизации лишились своих рабочих мест, оказались в проигрыше. Так, например, в США белые мужчины без высшего образования сегодня зарабатывают на 15–20% меньше, чем 40 лет назад (в реальном выражении). А мои исследования показывают, что именно такая автоматизация стала важнейшей причиной того, что в последние десятилетия зарплаты в реальном выражении растут не так быстро, как прежде, а то и сокращаются. 

— Долгое время экономисты объясняли современный парадокс производительности тем, что его просто не способна зафиксировать традиционная экономическая статистика. Как я поняла, вы с таким объяснением не согласны?

— Прежде всего давайте отметим, что у нас перед глазами потрясающие данные, а мы на них так долго не обращали внимания. Часто говорят, что мы живем в самую инновационную эпоху в истории человечества: каждый день появляется какое-нибудь новое устройство или приложение, количество патентов только в США за последние 40 лет выросло в пять раз, мы видим по-настоящему впечатляющие прорывы в искусственном интеллекте, обработке речи, распознавании лиц. В то же время, если посмотреть на экономику в целом, темпы роста производительности в последние 10 лет чуть ли не самые низкие из того, что зафиксировано, — и, кстати, были такими и в начале цифровой эпохи.  

Одно из популярных среди технологических лидеров, да и у некоторых экономистов объяснений состоит в том, что мы просто неправильно измеряем производительность. Например, мы не можем в полной мере учесть в статистике, как айфон улучшает ваше благосостояние и продуктивность. Может быть, это действительно так. Очень сложно доказать, что вы измеряете что-то неправильно, когда возможно множество разнообразных ошибок в измерениях.

Но ведь мы так же «неправильно» измеряли производительность и в 1940-е, и в 1950-е, и в 1960-е! Скажем, могли ли мы в полном объеме замерить выгоды от появления антибиотиков, кинотеатров, современных автомагистралей? Так что мы и тогда очень многое не учитывали. И в этой логике остается только спорить о том, вклад чего именно мы недоучитывали. 

Кроме того, следуя этой логике, самые большие проблемы с измерениями производительности должны быть в том, что касается технологического сектора. Но мы видим, что она замедляется повсеместно, во всех секторах. Так что я не думаю, что у нас есть убедительные доказательства того, что дело именно в измерениях. Я же, и в нашей с Саймоном Джонсоном книге, и в своих исследованиях с Паскуалем Рестрепо, высказываю предположение, что все дело в том, какой именно путь развития технологий выбрало общество.

Если делать упор на автоматизацию труда, а не на то, как повысить производительность работников, вы получите меньший выигрыш в общей производительности. И вероятно, в этом и есть причина ее замедления. Иными словами, если бы компьютерные технологии, и в частности искусственный интеллект, развивались бы в более гуманистическом направлении, с большей заботой о людях, это было бы полезнее не только для укрепления демократии и сокращения неравенства. Это было бы хорошо и для экономического роста. 

— Вы упоминаете в книге, что в проигрыше от такого технологического прогресса, разумеется, остаются не только работники в развитых странах Запада, но и люди в развивающихся странах, включая Россию. Раз они вряд ли смогут быстро усовершенствовать собственные технологии на основе более справедливых принципов, не могут повлиять на ход мирового прогресса, то они просто должны ждать и надеяться, что развитые страны смогут изменить прогресс к лучшему? 

— Думаю, это важнейшие вопросы. В оптимистическом сценарии предполагалось, что раз технологии — это, по идее, хорошо для развития, для работников, то развивающиеся страны просто должны внедрить их у себя — и тем самым обеспечить себе экономический рост. Сюда можно добавить расхожее лет пятнадцать назад представление о том, что технологии еще и способствуют демократии — как казалось благодаря событиям на площади Тахрир [в Египте], в Иране, России, Китае. Теперь же мы видим, что в реальности все оказалось намного сложнее: правительства и элиты способны контролировать технологии, чтобы они отвечали их собственным интересам. 

Кроме того, внедрение разработанных на Западе технологий, конечно же, может быть мощным драйвером роста в развивающихся странах. Но очень часто эти технологии могут быть просто несовместимыми со спецификой их экономик. Например, в Индии работники сейчас получают много выгод благодаря тому, что западные компании размещают там свои производства или другие части бизнеса. Работникам в Индии достаются задачи, выполнять которые силами рабочих, скажем, в США было бы значительно дороже.

А в будущем индийские рабочие будут конкурировать уже не с работниками из Америки или Франции, а с искусственным интеллектом. Для многих стран с формирующимися рынками это будет огромным вызовом. Но, опять же, это вопрос выбора. Если бы мы решили, что технологии должны использоваться в большей мере во благо работников, развиваться в более гуманистическом ключе, то это бы очень помогло трудящимся в Индии. 

Вопрос в том, как Индия могла бы на это повлиять. Можно, конечно, быть пессимистами и сказать, что это невозможно. Но, во-первых, есть опыт Зеленой революции. Тогда Индия, Мексика и Филиппины объединились, чтобы вывести новый сорт риса, который был бы более пригоден для их стран. Хотя это казалось невозможным, прежде им приходилось довольствоваться теми сортами и технологиями, которые использовались в Соединенных Штатах. Но они показали, что можно выбрать другой путь технологического развития, и это было очень важно для их граждан. 

Так что это вполне возможно и в будущем: развивающиеся страны, возможно объединившись в консорциум (это было очень важно во время Зеленой революции), могли бы самостоятельно заняться разработками в области ИИ, чтобы подтолкнуть прогресс в более выгодном для них направлении. Этим должны заниматься не страны по отдельности — нужно международное сотрудничество. И лучше бы развивающиеся страны сейчас уделили внимание этому, а не пытались уничтожить остатки демократических институтов, как это активно делают многие из них. Представьте: Индонезия, Индия, Турция, Россия, Бразилия объединятся и попытаются сформировать блок, который сможет влиять на будущее технологий? Ведь это касается каждого. 

— Но, к сожалению, сейчас эти страны заняты совсем другим. Более того, кажется, современные диктаторы, включая Владимира Путина, оказались среди той узкой группы людей, которые получают максимальные выигрыши от технологического прогресса: они одновременно пытаются изолировать свое общество от наиболее полезных достижений экономического и социального прогресса, а сами импортируют технологии, которые помогают репрессировать людей и удерживать власть… 

— Именно это и происходит. Опять же, это международная проблема. В книге мы цитируем исследование, которое описывает, как Китай разрабатывает авторитарные технологии для мониторинга и экспортирует их в другие страны с авторитарными режимами. Приходится с этим смириться. Мы не можем повлиять на то, как именно Китай решил развивать свои технологии. Но надо иметь в виду, что Китай — не технологический лидер.

Китай, вероятно, близок к лидерству в некоторых областях вроде распознавания лиц, потому что вложил много ресурсов в мониторинг и слежку. Но в большинстве областей они лишь следуют за технологическими достижениями других стран. Так что США и вообще международное сообщество еще могут повлиять на то, в каком направлении пойдет всеобщее технологическое развитие.

Кроме того, рано или поздно и в самом Китае Компартия окажется под все большим давлением общества, которое будет требовать, чтобы она ослабила свою хватку. В Китае сформировался многочисленный средний класс, который пока убаюкивают при помощи национализма, экономического роста (хоть он и замедляется), слежки и пропаганды. Но это не может длиться вечно. Я думаю, и в Китае возникнет спрос на то, чтобы технологии использовались иначе, — вероятно, это не случится в ближайшие пять лет, но, вполне возможно, в ближайшие двадцать. Как и в России!

— Но если предположить, что развитым странам как-то удастся изменить технологический прогресс к лучшему, диктаторы ведь все равно будут использовать эти технологии не во благо своих граждан? 

— Конечно. Но прямо сейчас мы еще и облегчаем им задачу. Давайте еще раз вспомним надежды 2000-х по поводу того, что развитие технологий способствует демократизации. Опять же, эти надежды не были совсем уж напрасными. Например, в Эстонии интернет-технологии удалось сделать децентрализованными. Есть еще более вдохновляющий пример — Тайвань, где технологии помогли гражданам активнее участвовать в демократических процессах, влиять на разработку законов, формировать массивы данных, которые упрощают коммуникацию властей с людьми. 

Кроме того, есть множество специалистов, которые работают над открытым программным обеспечением и пытаются сделать технологии более децентрализованными. Но пока они не могут конкурировать с Google, Microsoft, Facebook или китайской Компартией, потому что у них есть огромные ресурсы. Отчасти помочь могли бы власти демократических стран. В их силах разработать такое регулирование технологий, которое бы помогало предотвратить их использование в дурных целях. Вмешаться могло бы и международное сообщество. 

— Несмотря на ваши многочисленные предупреждения и мрачные прогнозы, читателю может показаться, что вы оптимист. В том смысле, что вы говорите о более гуманистическом технологическом прогрессе, о международном сотрудничестве ради общего блага людей. Почему вы верите, что все это возможно? Кажется, людям в Украине или России или, скажем, в Турции или Армении и еще во многих частях света было бы очень трудно разделить такой оптимизм. И оттуда может показаться, что мир движется в противоположном направлении.  

— Я сам турецкий армянин, и я очень сочувствую тому, что происходит в Украине, России, Китае. В целом я одновременно оптимист и пессимист. Мой оптимизм держится на том, что я убежден, что человечество способно использовать технологии во благо и создавать институты. А пессимизм связан с тем, что долгое время мы этого не делали. И пока я не вижу простого пути, чтобы наконец начать.

Знаете, сейчас в США довольно приличная президентская администрация, но и они заняты краткосрочными проблемами и не задумываются о том, какими станут технологии будущего, как создать новые задачи для работников, как децентрализовать контроль информации. Конечно, это более абстрактные вещи, чем потолок госдолга или закон о чипах. Но, на мой взгляд, они по крайней мере не менее, а то и более важны для нашего будущего. Людям пора бы очнуться и осознать важность этих вопросов. Я думаю, что все это возможно. Но мой пессимизм в том, что, думаю, очень маловероятно, что это произойдет в ближайшее время.