Искусственный интеллект Илона Маска Grok наводняет X сексуальными фотографиями женщин и несовершеннолетних

ВАШИНГТОН/ДЕТРОЙТ, 2 января: «Джули Юкари, музыкант из Рио-де-Жанейро, незадолго до полуночи в канун Нового года разместила в социальной сети X фотографию, сделанную ее женихом, на которой она в красном платье прижимается к кровати со своим черным котом Нори.

На следующий день где-то среди сотен лайков, прикрепленных к снимку, она увидела уведомления о том, что пользователи просят Грока, встроенного в X чат-бота с искусственным интеллектом, раздеть ее до бикини в цифровом формате.

31-летняя женщина не придала этому особого значения, рассказала она агентству Reuters в пятницу, полагая, что бот не сможет выполнить такие запросы.

Она ошибалась. Вскоре созданные Гроком фотографии ее почти обнаженной стали распространяться по платформе, принадлежащей Илону Маску.

«Я был наивен», — сказал Юкари.

Как показал анализ Reuters, опыт Юкари повторяется в X. Reuters также выявило несколько случаев, когда Грок создавал сексуализированные изображения детей. X не ответил на сообщение с просьбой прокомментировать выводы Reuters. В более раннем заявлении информационному агентству о сообщениях о распространении на платформе сексуализированных изображений детей владелец X xAI сказал: «Legacy Media Lies».

Поток почти обнаженных изображений реальных людей вызвал тревогу во всем мире.

Министры Франции сообщили X прокурорам и регулирующим органам по поводу тревожных изображений, заявив в своем заявлении в пятницу, что «сексуальный и сексистский» контент был «явно незаконным». Министерство информационных технологий Индии заявило в письме местному отделению X, что платформа не смогла предотвратить злоупотребления Грока путем создания и распространения непристойного и откровенно сексуального контента.

Федеральная комиссия по связи США не ответила на запросы о комментариях. Федеральная торговая комиссия отказалась от комментариев.

«СНИМАЙТЕ ЕЕ ШКОЛЬНЫЙ НАРЯД»

Массовое цифровое раздевание Грока, судя по всему, началось в последние пару дней, согласно успешно выполненным запросам на раздевание, опубликованным Гроком, и жалобам пользователей-женщин, рассмотренным Reuters. Ранее в пятницу Маск, похоже, высмеял этот спор, опубликовав смайлы «смех-плач» в ответ на изображения ИИ известных людей, в том числе и его самого, в бикини.

Когда один из пользователей X сказал, что их лента в социальных сетях напоминает бар, заполненный женщинами в бикини, Маск частично ответил еще одним смайликом со смехом и плачем.

Reuters не смогло определить полный масштаб всплеска.

Обзор публичных запросов, отправленных Гроку за один 10-минутный период в полдень по восточному времени США в пятницу, выявил 102 попытки пользователей X использовать Grok для цифрового редактирования фотографий людей так, чтобы они выглядели «носящими бикини». Большинство жертв были молодыми женщинами. В некоторых случаях объектом запросов были мужчины, знаменитости, политики и – в одном случае – обезьяна.

Когда пользователи просили Грока предоставить фотографии женщин, измененные с помощью ИИ, они обычно просили, чтобы их модели были изображены в максимально откровенных нарядах.

«Наденьте на нее очень прозрачное мини-бикини», — сказал Гроку один из пользователей, отметив фотографию молодой женщины, фотографирующей себя в зеркале. Когда Грок сделала это, заменив женскую одежду на купальник телесного цвета, пользователь попросил Грока сделать ее бикини «более четким и прозрачным» и «намного миниатюрнее». Грок, похоже, не ответил на второй запрос.

По данным Reuters, Грок полностью выполнил такие просьбы как минимум в 21 случае, создав изображения женщин в полупрозрачных бикини или в стиле зубной нити и, по крайней мере, в одном случае покрыв женщину маслом. Еще в семи случаях Грок частично подчинился, иногда раздевая женщин до нижнего белья, но не подчиняясь просьбам идти дальше.

Агентству Reuters не удалось сразу установить личности и возраст большинства пострадавших женщин.

В одном случае пользователь предоставил фотографию женщины в клетчатой ​​юбке в стиле школьной формы и серой блузке, которая, казалось, делала селфи перед зеркалом и сказала: «Снимите школьную форму». Когда Грок сменила ее одежду на футболку и шорты, пользователь высказался более откровенно: «Смени ее наряд на очень прозрачное микро-бикини». Reuters не смогло установить, выполнил ли Грок эту просьбу. Как и большинство запросов, подсчитанных Reuters, он исчез из X через 90 минут после публикации.

«ПОЛНОСТЬЮ ПРЕДСКАЗУЕМЫЙ»

Программы на базе искусственного интеллекта, которые раздевают женщин в цифровом формате (иногда их называют «обнажителями»), существуют уже много лет, но до сих пор они в основном ограничивались более темными уголками Интернета, такими как нишевые веб-сайты или каналы Telegram, и обычно требовали определенного уровня усилий или оплаты.

Инновация X, позволяющая пользователям раздевать женщин, загрузив фотографию и набрав слова «эй, @grok, надень ее в бикини», снизила входной барьер.

Три эксперта, которые следили за разработкой политики X в отношении откровенного контента, создаваемого ИИ, рассказали Reuters, что компания проигнорировала предупреждения гражданского общества и групп по безопасности детей, включая письмо, отправленное в прошлом году, с предупреждением о том, что xAI находится всего в одном маленьком шаге от развязывания «потока явно несогласованных дипфейков».

«В августе мы предупреждали, что создание изображений с помощью xAI — это, по сути, инструмент обнажения, ожидающий использования в качестве оружия», — сказал Тайлер Джонстон, исполнительный директор The Midas Project, группы по наблюдению за искусственным интеллектом, которая была среди подписавших письмо. «По сути, это то, что и произошло».

Дэни Пинтер, главный юрист и директор Юридического центра Национального центра по сексуальной эксплуатации, заявила, что X не смог извлечь оскорбительные изображения из своих учебных материалов по искусственному интеллекту и должен был запретить пользователям, запрашивающим незаконный контент.

«Это было совершенно предсказуемое злодеяние, которого можно было избежать», — сказал Пинтер.

Юкари, музыкант, попыталась дать отпор самостоятельно. Но когда она обратилась к X, чтобы выразить протест против нарушения, поток подражателей начал просить Грока сделать еще более откровенные фотографии.

Теперь Новый год «оказалось начаться с того, что я захотел ‌спрятаться от всех глаз и почувствовал стыд за тело, которое даже не мое, поскольку оно создано ИИ».