Интересно ClothOff: как эротические дипфейки ломают жизни подростков

[Sepultura_North]

​

ClothOff: как эротические дипфейки ломают жизни подростков​

1 марта, 2024

ИИ стирает границы дозволенного.

В небольшом испанском городке Альмендралехо разгорелся скандал, который заставил общественность обратить внимание на одну из серьёзных проблем современного цифрового мира.
Мириам аль-Адиб, местный гинеколог и мать четырёх дочерей, столкнулась с неприятным открытием, когда её дочь показала ей изображение своего обнажённого тела, созданное с использованием технологий искусственного интеллекта.
Подобные изображения распространялись среди учеников её школы, и далеко не только дочь Мириам стала жертвой этого явления. Это был лишь один из десятков подобных случаев среди школьниц города, чьи фотографии циркулировали в WhatsApp-группе, созданной другими школьниками.
Ситуация осложнилась тем, что на многих девочках, чьи поддельные изображения распространялись таким образом, это отражалась крайне пагубно: они страдали от панических атак и отказывались ходить в школу, так как становились жертвами шантажа и издевательств. Основная опасность, помимо прочего, заключалась также в возможности попадания этих изображений на порнографические сайты, о чём заявила сама Мириам.
Данный инцидент вызвал широкий общественный резонанс и подчеркнул проблему распространения подобных материалов в Интернете, с которой полиции становится всё труднее бороться.
Различных нейросетей, способных сгенерировать обнажённые изображения, сейчас существует немало, однако в центре международного скандала оказалось приложение ClothOff, позволяющее «раздевать» любого человека при помощи искусственного интеллекта за определённую плату.
Журналистское расследование, проведённое изданием The Guardian - это британская газета и новостной веб-сайт, известный своей широкой охватом новостей и анализом событий из разных областей, включая политику, культуру, науку, технологии и многие другие. Основанное в 1821 году, издание стало одним из самых влиятельных и уважаемых в мире, известным своей независимостью и активным подходом к журналистике.

The Guardian известен своей важной роли в раскрытии ряда крупных новостных событий и скандалов, а также за свои расследовательские статьи. Издание имеет международное присутствие и публикует материалы на нескольких языках, что делает его одним из ключевых источников новостей и анализа для мировой аудитории.
The Guardian, раскрыло, что разработчики ClothOff идут на значительные ухищрения, чтобы сохранить свою анонимность, включая использование искусственного интеллекта для создания фиктивных публичных личностей.

По информации The Guardian, в создании и распространении приложения ClothOff участвовали брат и сестра из Беларуси по имени Дарья и Александр. Несмотря на отрицание связи с приложением и утверждения Александра в том, что у него нет никакой сестры, расследование показало обратное.
Дополнительное расследование показало, что платежи в пользу ClothOff проходили через лондонскую компанию Texture Oasis, которая, по всей видимости, является фиктивной и создана для маскировки финансовых операций. Весь текст на веб-сайте этой компании был скопирован с сайта другой легитимной организации, что ещё больше подтверждает подозрения в мошенничестве.
Сложность борьбы с распространением подобных материалов подчёркивает необходимость разработки международных законодательных актов, чтобы при помощи глобального сотрудничества на корню пресекать данное явление, способное надолго омрачить множество человеческих судеб.
Одной из рекомендаций, чтобы самому не стать жертвой подобных ИИ-технологий или защитить своих близких, будет либо полный отказ от ведения социальных сетей (имеется в виду публикация личных фотографий и видео), либо закрытие своих страничек от посторонних глаз, кроме семьи и самых близких друзей.
Тем не менее, никто не помешает потенциальному недоброжелателю «подловить» свою жертву лично и сделать необходимый кадр, особенно если речь идёт о школьниках, которые ежедневно проводят множество часов вместе.
Пожалуй, лучшим решением данной проблемы всё же станет информирование подрастающего поколения о возможной ответственности за подобные цифровые преступления и акцентом на том, что даже, на первый взгляд, невинная шутка может по-настоящему сломать другому человеку жизнь.
В то же время, с совершеннолетними ИИ-вуайеристами разговор должен быть максимально коротким и жёстким — заявление в полицию и судебный приговор.