Тоже мечтаете увидеть Путина в Гааге? (Пока) это возможно только с помощью нейросети Midjourney Но изображения такие реалистичные, что разработчики уже запретили генерировать новые — и даже забанили создателя Bellingcat
Мы говорим как есть не только про политику. Скачайте приложение.
Прокуратура штата Нью-Йорк готовится предъявить обвинения Дональду Трампу по делу о нарушении правил финансирования предвыборной кампании — бывший президент США уже несколько дней утверждает, что в ближайшее время его намерены арестовать. Хотя Трамп (на момент публикации материала) находится на свободе, уже сейчас крайне легко найти множество «фотографий» его задержания. Это фейки, сгенерированные с помощью нейросети Midjourney, авторы которой уже ограничили создание таких изображений. «Медуза» рассказывает о фото, которые заставили разработчиков беспокоиться из-за дезинформации, и объясняет, как новые правила работают в случае с Владимиром Путиным в Гааге (да, такие изображения тоже уже есть).
В середине марта авторы нейросети Midjourney представили V5 — пятую версию алгоритма, позволяющего быстро создавать крайне реалистичные изображения по текстовому запросу. Именно после ее выхода в соцсетях появилось множество фейковых (но довольно впечатляющих) изображений c задержанием Дональда Трампа. И такие картинки заставили многих поверить, что это действительно произошло. Вот некоторые из них.
Популярнее (и реалистичнее) всего оказались «фото задержания Трампа» от основателя Bellingcat. В итоге его забанили
На изображениях, которые только в одном твиттер-аккаунте собрали 5,6 миллиона просмотров, Трамп публично сопротивляется задержанию и убегает от полицейских. То полицейские кладут его на землю, то против его воли несут на руках. В конфликте участвуют его сын и жена: Дональд Трамп — младший и Мелания Трамп. На следующих снимках бывший президент США одиноко сидит на койке в камере, затем плачет в суде, а потом (очевидно, после приговора) в оранжевом комбинезоне драит полы и чистит туалет тюрьмы. В какой-то момент он находит способ сбежать и добирается до «Макдоналдса».
Вся эта история, конечно же, вымышленная: Трамп находится на свободе и пока только ожидает предъявления обвинений. Автор сгенерированных в Midjourney фотографий — британский аналитик и создатель расследовательского проекта Bellingcat Элиот Хиггинс. Близкие к Трампу СМИ уже обвиняют расследователя в распространении фейков, хотя он и не скрывал, что картинки ненастоящие.
Хиггинс, как и все, пользовался Midjourney через бот на официальном сервере компании в Discord. В среду, 22 марта, после того как изображения разошлись по соцсетям, расследователь написал в твиттере, что его забанили.
Никаких объяснений от представителей Midjourney Хиггинс не получил и не знает, какие именно правила он нарушил, рассказал он изданию The Washington Post (WP). Впрочем, вероятнее всего, дело в виральности твитов Хиггинса: даже если Трампа не арестуют, именно эти сгенерированные изображения при случае придут на ум многим людям, рассуждает в разговоре с WP глава организации Media Matters for America.
Даже если у человека со сгенерированной фотографии шесть пальцев на руке, картинка все равно обладает «разрушительным потенциалом» в плане дезинформации, отметил в беседе с WP исполнительный директор правозащитной организации Witness Сэм Грегори. Главные опасения, объясняет он, связаны не с тем, что люди благодаря фейковым фото могут поверить в то или иное событие, а с тем, что они перестанут доверять вообще всему.
Чтобы фейков с Трампом стало меньше, Midjourney забанила слова «арест» и «тюрьма». Но запрет можно обойти
Новые версии алгоритмов в нейросетях предварительно проходят множество проверок, а разработчики заранее ставят чат-ботам массу ограничений. У той же Midjourney есть огромный список слов, которые невозможно использовать в запросах.
Когда фейковые фотографии задержания Трампа разошлись по твиттеру, Midjourney ввела новые ограничения для пользователей. Под запретом оказались слова «arrested» (арестованный) и «jail» (тюрьма), указало издание BuzzFeed и сообщили пользователи нейросети в Discord. «Медуза» убедилась: при попытке сгенерировать изображения с указанными словами бот Midjourney сообщает, что это невозможно. Введен запрет временно или навсегда, неизвестно.
Этот запрет возможно обойти, если использовать другое слово для обозначения тюрьмы — prison. С ним, как проверила «Медуза», на момент публикации материала с помощью Midjourney все еще возможно сгенерировать изображения, которые по смыслу близки к тем, что теперь создавать запрещено.
Правила Midjourney действуют не только в отношении Трампа. К примеру, сделать «фото» с Путиным в Гааге тоже стало сложнее
17 марта Международный уголовный суд в Гааге выдал ордер на арест Владимира Путина, признав личную ответственность президента РФ в незаконной депортации детей с оккупированных территорий Украины в Россию.
И перед этим, и вскоре после решения суда в твиттере и телеграме появилось много «фотографий», на которых Путина задерживают, судят в Гааге или отправляют в тюрьму. Все они сгенерированы с помощью нейросети.
Что касается нового запрета Midjourney, то он не «привязан» к имени Трампа: к примеру, сгенерировать изображения с Путиным под арестом (то есть со словами «arrested» и «in jail») на текущий момент не выйдет. Но в тюрьму («prison») его, как и Трампа, «отправить» все еще можно.
Хотя картинки с президентом России в Гааге в разы менее реалистичны, чем изображения с Трампом, кто-то может поверить и в некачественные фейки. Наглядный пример — созданное с помощью нейросети изображение, на котором Путин якобы преклоняет колени перед Си Цзиньпином.
Картинка так широко разошлась в соцсетях во время реального визита главы КНР в Россию, что некоторые СМИ решили выпустить отдельные материалы о том, что это фейк. Несмотря на то что на сгенерированном изображении тела Путина и Си серьезно деформированы и не соответствуют реальным пропорциям, нашлись те, кто даже это изображение — с видными невооруженным глазом артефактами — счел настоящим.
«Медуза»
(1) В чем именно подозревают Трампа?
Бывшего президента США подозревают в нарушении правил финансирования предвыборной кампании. По версии следствия, бывший адвокат Трампа Майкл Коэн (уже получил за это три года тюрьмы) заплатил 130 тысяч долларов порнозвезде Сторми Дэниэлс, которая собиралась публично рассказать о якобы имевшем место романе с политиком. Эти расходы потом незаконно компенсировали из предвыборного фонда. 18 марта бывший президент США заявил, что его арест запланирован на 21 марта; этого не произошло, но окружной прокурор Нью-Йорка должен принять решение о том, выписывать ли ордер, в ближайшее время.
(2) Midjourney V5
Пятая версия алгоритма Midjourney. В ней увеличилось разрешение генерируемых изображений и уровень детализации (в том числе лиц), расширился список стилей для рисования и возрос уровень «чуткости» нейросети к запросам. Изображения генерируются сразу в высоком качестве. Сейчас Midjourney можно пользоваться через бот на официальном сервере в Discord; необходимо написать предложение боту в одном из профильных каналов и дождаться сгенерированного изображения.
(3) Элиот Хиггинс
Создатель проекта Bellingcat, больше всего известного в России своими расследованиями о войне с Украиной, отравлении Алексея Навального и крушении рейса MH17. В октябре 2021 года Минюст РФ признал Bellingcat «иностранным агентом», а в июле 2022 года Генпрокуратура РФ объявила организацию «нежелательной». Подробнее о самом Хиггинсе можно узнать из материала «Медузы».
(4) Media Matters for America
Запущенная в 2004 году некоммерческая организация, которая следит за деятельностью СМИ в США в том числе за предмет дезинформации.
(5) Witness
Некоммерческая организация, которая использует видео и технологии для защиты прав человека, а также помогает журналистам в создании контента, основанного на достоверной информации.
(6) Например, каких?
Забаненные в Midjourney слова связаны с особо чувствительными и спорными категориями — например насилием и наркотиками. Со списком, который ведут пользователи нейросети, можно ознакомиться, к примеру, здесь.
(7) Есть ли отличия между jail и prison
Да, в английском языке у этих слов различные значения. Зачастую именно «jail» используют в абстрактном смысле, а также при обозначении мест для краткосрочного заключения. В свою очередь, «prison» в основном применяется, когда говорят о местах, где отбывают длительное наказание.
(8) За что в Гааге выписали ордер на арест Путина и чем это ему грозит?
17 марта Международный уголовный суд (МУС) в Гааге выдал ордер на арест Владимира Путина, а также уполномоченной по правам ребенка Марии Львовой-Беловой. По версии МУС, Путин и Львова-Белова лично несут ответственность за принудительную депортацию детей с оккупированных украинских территорий в Россию. В Кремле заявили, что относятся к ордеру на арест Путина «спокойно» и «продолжают работать». Подробнее о последствиях этого решения МУС можно узнать из интервью «Медузы» с экспертом в области международного права.