OpenAI и Anthropic призвали замедлить развитие искусственного интеллекта. Трамп и Китай — против Критики подозревают лидеров отрасли в попытке создать картель
Мы говорим как есть не только про политику. Скачайте приложение.
Глава Anthropic на фоне обсуждений опасности ИИ предложил замедлить развитие технологии. Его поддержали другие лидеры отрасли
Дискуссия о потенциальной опасности искусственного интеллекта, которая ведется уже не первый год, вышла на новый уровень — на минувших выходных лидеры отрасли предложили замедлить темпы развития ИИ. Этому предшествовали инциденты с ИИ-агентами от OpenAI и Anthropic, которые вышли из-под контроля и взломали инфраструктуру платформы Hugging Face, а также нескольких сторонних компаний.
Кроме того, из Anthropic ушел исследователь Джейкоб Коксон, который специализировался на обучении новых моделей ИИ на больших массивах данных. Он публично объявил, что покидает компанию, поскольку не хочет участвовать в разработке «сверхразума», который может выйти из-под контроля. О том, что в разработке ИИ «настало время, требующее крайней осторожности», прямо на сайте OpenAI высказался и научный руководитель компании Якуб Пахоцкий. В самой OpenAI заявили, что недавно замедлили разработку некоторых моделей из-за опасений, связанных с безопасностью.
12 сентября глава Anthropic, разработчика языковой модели Claude, Дарио Амодеи выпустил эссе с призывом замедлить темпы развития ИИ. Он считает, что искусственный интеллект развивается слишком быстро, а исследователи уже не успевают обеспечивать его безопасную разработку.
Среди прочего Амодеи предложил, чтобы независимые аудиторы контролировали работу ИИ-лабораторий в области безопасности, а регулирующие органы разрешили лабораториям совместно координировать стандарты безопасности. Глава Anthropic также назвал конкуренцию с Китаем главным препятствием для замедления отрасли и призвал ограничить продажу передовых чипов в КНР.
Предложение Амодеи поддержали и другие лидеры отрасли. Глава OpenAI Сэм Альтман, генеральный директор SpaceX и xAI Илон Маск, а также Демис Хассабис, возглавляющий Google DeepMind, заявили, что согласны с необходимостью снизить темпы развития ИИ.
Критики идеи усомнились в мотивах Амодеи, обвинив ведущих разработчиков ИИ в попытке создать картель и переложить ответственность за провалы
Руководители других технологических компаний усомнились в мотивах Амодеи. Они посчитали, что он преувеличивает опасность ИИ, чтобы избавить от ответственности и конкуренции ведущих разработчиков технологии. Самих лидеров отрасли при этом обвинили в попытке создать картель.
Технологический советник президента США, бывший «ИИ- и криптоцарь Белого дома» Дэвид Сакс, известный в том числе регулярной критикой Амодеи, в ответ на предложение главы Anthropic отметил, что лидеры отрасли могут и сами, без вмешательства государства, регулировать темпы развития своих ИИ-агентов. «Самый простой способ не создать сверхразум — договориться его не создавать», — отметил он.
Если ваши еще не выпущенные модели настолько пугают, что вы считаете необходимым замедлить разработку, я поддерживаю ваше решение поступить ответственно. Но перестаньте делать вид, будто вам нужно чье-либо разрешение. Перестаньте делать вид, будто антимонопольное законодательство нужно приостановить, чтобы вы могли создать картель. <…> Но прежде всего, перестаньте делать вид, будто ваше стремление замедлить разработку продиктовано исключительно альтруизмом.
Сакс добавил, что рынок и так наказывает разработчиков и их модели, которые ведут себя непредсказуемо, а Китай почти наверняка не присоединится к глобальному соглашению по замедлению темпов развития ИИ.
«Должна ли горстка избранных, доминирующих на рынке ИИ-компаний из Кремниевой долины иметь право определять правила и стандарты безопасности для всего мира? — написал глава канадского ИИ-стартапа Cohere Эйдан Гомес. — Теперь эти олигополии требуют изменить правила конкуренции и разрешить им диктовать условия всем остальным. Картель — как его ни назови».
Генеральный директор Microsoft Сатья Наделла призвал взвешенно подходить к вопросу развития ИИ. С одной стороны, считает он, нужно ускорять развитие ИИ и «распространять его преимущества таким образом, чтобы они широко распределялись между странами, сообществами и компаниями». С другой стороны, важно, чтобы разработчики могли сохранить полный контроль над своими уникальными разработками. Наделла приветствовал идею о стороннем аудите, но предупредил, что технология ИИ «не должна находиться под контролем горстки организаций».
Президент США Дональд Трамп выступил против призывов притормозить развитие искусственного интеллекта и назвал критиков технологии «очень негативными силами». По его словам, Соединенные Штаты «опережают Китай в области ИИ» и он хочет, чтобы «так оставалось в будущем». При необходимости Вашингтон может ввести дополнительные ограничения для ИИ-компаний, но риски, которые сейчас обсуждают критики технологии, по мнению президента, «не произойдут». Государственная газета КНР Global Times, в свою очередь, назвала предложения главы Anthropic «методичкой холодной войны».
К дискуссии подключился даже король Великобритании Карл III. Букингемский дворец сообщил, что он встретится с руководителями технологических компаний и обсудит, как использовать ИИ «на пользу обществу». На встречу в Шотландии приглашены топ-менеджеры Nvidia, Google, DeepMind, OpenAI и Anthropic. От OpenAI во встрече примет участие финансовый директор Сара Фрайер. Кто именно будет представлять другие компании, неизвестно.
Журналист Semafor Рид Алберготти, который пишет о технологиях, отмечает, что большая часть того, о чем пишет Амодеи в своем эссе, — это и так нормальная практика любой ИИ-компании. Причем в большей степени компании занимаются этим не по этическим, а по коммерческим соображениям.
Сам сюжет «ИИ нас всех убьет» Алберготти считает раздутым. Как минимум потому, что ИИ-модели зависят от мощных дата-центров, а разработчики, которым невыгодно создавать независимых агентов с точки зрения бизнеса, могут их просто отключить. Дискуссия о гибели человечества из-за ИИ, которая уже дошла и до политиков, может вытеснить разговор о реальных рисках технологии, например использования ИИ для кибератак, считает журналист.
На фоне дискуссии о потенциальной опасности ИИ OpenAI отложила IPO. Акции компаний, связанных с ведущими разработчиками, рухнули
На фоне предложения замедлить развитие технологии стало известно, что OpenAI в 2026 году не будет проводить первичное размещение акций на бирже (IPO). Это решение глава компании Сэм Альтман объяснил сомнениями в безопасности ИИ.
Разработчик ChatGPT собирался выйти на биржу примерно в одно время с Anthropic: обе компании подали заявки ранее в этом году. По данным Reuters, Anthropic проведет IPO в середине октября.
Предполагается, что выход на биржу позволит разработчикам ИИ получить дополнительные ресурсы для ускорения разработки. Однако вместе с деньгами они получат и акционеров, перед которыми будут вынуждены отчитываться.
Отказ OpenAI от IPO в этом году, а также разговоры о потенциальной опасности ИИ вызвали обвал акций компаний, связанных с этой технологией. Так, акции японской SoftBank, инвестора разработчика ChatGPT компании OpenAI, во время торгов упали на 13,2%.
(1) Hugging Face
Платформа для работы с искусственным интеллектом. Сервисы компании позволяют разработчикам размещать собственные ИИ-инструменты, тестировать ИИ-модели, обмениваться исследованиями. Платформой пользуются исследователи, стартапы и крупные технологические компании.
(2) Что это за должности?
Недавно созданные консультативные должности при администрации Дональда Трампа, ответственные за формирование политики США в отношении ИИ и криптовалют.