Билли Айлиш

Специалисты компании Sensity обнаружили в Telegram десятки ботов, в которых автоматизирован и поставлен на поток приём заказов на создание порнографических дипфейков. Также найдены каналы, где публикуются порнография, созданная искусственным интеллектом. Там выложено более 100 тысяч фото и видео, в том числе с изображением несовершеннолетних.

Для создания порнографических дипфейков используется технология DeepNude, которая с помощью нейросетей убирает с изображения человека одежду и дорисовывает обнажённое тело, в том числе половые органы. Эта технология была запущена весной 2019 года и наделала немало шума, однако затем её создатели закрыли проект. Несмотря на это, исходный код DeepNude и готовые сборки программы для изготовления дипфейков распространяются на торрентах и файлообменниках.

Боты в Telegram принимают заявки на создание дипфейков на платной основе: от пользователя нужна фотография человека, которого он желает раздеть, а после оплаты он получает эротические или порнографические снимки. Популярности этой услуги способствовала низкая цена — 100 рублей за 100 дипфейков в течение недели.

Как показало исследование, 63% используют для создания дифейк-порно фотографии своих знакомых, 16% загружают снимки знаменитостей, а 7% фото случайных людей из интернета, которые им понравились. Примерно 70% заказов приходит от пользователей, проживающих в России.

В Sensity полагают, что дипфейк-порно, заказанное через ботов Telegram, может использоваться для шантажа людей, раздетых нейросетью. Тем не менее пока не зафиксировано случаев такого шантажа.

Телеграмные порнографы монетизировали то, что можно сделать самостоятельно и бесплатно. Взломанная версия DeepNude общедоступна и создаёт фотографии без водяных знаков, прикрывающих самые интересные места. Изначально создатели этой технологии планировали зарабатывать на продаже подписки, которая позволила бы получать дипфейк-фото без цензуры, но сами испугались своего детища и последствий, которые могут возникнуть из-за широкого использования их ПО. Как мы видим, эксперимент вышел из-под контроля, и теперь на нём зарабатывают совершенно посторонние лица.




iGuides в Telegram — t.me/igmedia
iGuides в Яндекс.Дзен — zen.yandex.ru/iguides.ru

Источник:

The Verge The Verge