В выдаче гугла нашли «фотографии» грибов, сделанные с помощью ИИ. Грибники опасаются, что отличить съедобное от несъедобного теперь будет сложнее

Пользователь реддита MycoMutant, который модерирует сообщество r/mycology, обнаружил в выдаче Google изображение грибов, сгенерированное ИИ. Он рассказал, что по запросу Coprinus comatus (навозник белый) поисковик показал ему некорректную картинку, которая не соответствовала действительности. По словам пользователя, то, что на ней изображено, больше похоже на представителя семейства псатирелловых.

Картинка стояла первой в сниппете Google, который расположен перед основными результатами поисковой выдачи. В подписи к изображению было указано, что оно сгенерировано с помощью искусственного интеллекта. Однако, чтобы увидеть эту информацию, на картинку нужно кликнуть.

Поисковик взял некорректное изображение с сайта, где размещаются стоковые фото. MycoMutant отметил, что такой источник в принципе нельзя считать надежным, тем более когда речь идет о грибах. Он также рассказал, что ему и раньше попадались некорректные изображения в сниппетах, но это первый случай, когда в выдаче оказалась картинка, сгенерированная ИИ.

Сейчас по запросу Coprinus comatus поисковик выдает другое, правильное изображение. Однако оно тоже взято с сайта, где размещены стоковые фото. Правда, в этом случае Google использовал Shutterstock — более надежный платный источник.

«Когда я опубликовал пост, я попытался сообщить Google о проблеме, поскольку это была не единственная некорректная фотография грибов, с которой я столкнулся в сниппетах», — рассказал MycoMutant журналисту издания 404 Media. Однако в своем посте пользователь добавляет, что за все время ему удалось добиться замены только одного неправильного изображения. При этом компания продолжает использовать алгоритм, который собирает информацию для сниппетов в автоматическом режиме, без какого-либо надзора со стороны человека, разбирающегося в предмете.

Сгенерированные искусственным интеллектом изображения в результатах поиска могут быть опасны для пользователей. Например, если они пытаются понять, ядовитый ли перед ними гриб или нет. Секретарь Нью-Йоркского микологического общества Элан Трайбуш отмечает, что люди сейчас рассчитывают на мгновенное получение информации по конкретному запросу, и фото справляется с этой задачей лучше всего. Проблема в том, что многие ИИ-изображения достаточно реалистичны, чтобы ввести пользователей в заблуждение.

По его мнению, поисковикам стоит удалять ИИ-контент из результатов выдачи, а также маркировать те изображения, которые предположительно могли быть созданы искусственным интеллектом. «Было бы проще, если бы у них был раздел, специально предназначенный для результатов ИИ», — добавил Трайбуш.

В Google, судя по всему, пока не видят серьезной проблемы в том, что информация, которую предоставляет их поисковая система, может быть потенциально опасной. «У нас есть средства защиты, обеспечивающие высокое качество обслуживания, и мы продолжаем работать над тем, чтобы еще сильнее повысить качество этих защитных механизмов, — говорится в заявлении компании, которое приводит 404 Media. — Когда мы получаем отзывы пользователей о потенциальных проблемах, мы работаем над системными улучшениями».

При этом ИИ-контент действительно может быть опасен. В августе 2024 года британская семья попала в больницу после отравления. Пользователь реддита Virtual_Cellist_736 рассказал, что перед этим его жена купила книгу под названием «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов». Позже выяснилось, что изображения и некоторые части текста в ней были сгенерированы искусственным интеллектом. Никаких предупреждений об этом на сайте продавца не было.

По словам пользователя, он нашел как минимум два фрагмента, в которых случайно остались уточняющие вопросы от чат-бота. Например, одна из фраз выглядела так: «В заключение, сморчки — это вкусные грибы, которые можно употреблять с августа до конца лета. Дайте мне знать, если я могу вам чем-то еще помочь».

А годом ранее журналисты обнаружили на Amazon целый ряд книг о грибах, которые, судя по всему, были написаны с использованием ChatGPT. При этом их продают без каких-либо пометок или предупреждений. Издание 404 Media проанализировало несколько фрагментов этих книг с помощью сервиса ZeroGPT, который распознает контент, созданный ИИ. Вероятность того, что они написаны с помощью ChatGPT, варьировалась в пределах от 85 до 100 процентов.

Авторов книг найти тоже не удалось. После того как журналисты обратились к представителям Amazon за комментарием, несколько книг сняли с продажи. А эксперты Нью-Йоркского микологического общества призвали покупать только издания известных авторов или собирателей грибов.

У Google раньше тоже возникали проблемы с контентом, сгенерированным искусственным интеллектом. В мае 2024-го компания представила AI Overviews — краткое резюме перед основными результатами поиска, сгенерированное с помощью ИИ. Вскоре выяснилось, что система не может отличить правдивую информацию от шуток и троллинга.

Самым известным примером стал совет поисковика добавить в пиццу клей, чтобы сыр держался лучше. Искусственный интеллект нашел его в старом шутливом комментарии на реддите. Сотрудники Google объяснили это тем, что запросы пользователей были «очень необычными». Они устранили ошибки и даже отключили AI Overview для определенных запросов. Однако системного решения, как избежать подобных ошибок в будущем, у компании пока нет.