Специалисты компании Sensity обнаружили в Telegram десятки ботов, в которых автоматизирован и поставлен на поток приём заказов на создание порнографических дипфейков. Также найдены каналы, где публикуются порнография, созданная искусственным интеллектом. Там выложено более 100 тысяч фото и видео, в том числе с изображением несовершеннолетних.
Боты в Telegram принимают заявки на создание дипфейков на платной основе: от пользователя нужна фотография человека, которого он желает раздеть, а после оплаты он получает эротические или порнографические снимки. Популярности этой услуги способствовала низкая цена — 100 рублей за 100 дипфейков в течение недели.
Как показало исследование, 63% используют для создания дифейк-порно фотографии своих знакомых, 16% загружают снимки знаменитостей, а 7% фото случайных людей из интернета, которые им понравились. Примерно 70% заказов приходит от пользователей, проживающих в России.
В Sensity полагают, что дипфейк-порно, заказанное через ботов Telegram, может использоваться для шантажа людей, раздетых нейросетью. Тем не менее пока не зафиксировано случаев такого шантажа.
Телеграмные порнографы монетизировали то, что можно сделать самостоятельно и бесплатно. Взломанная версия DeepNude общедоступна и создаёт фотографии без водяных знаков, прикрывающих самые интересные места. Изначально создатели этой технологии планировали зарабатывать на продаже подписки, которая позволила бы получать дипфейк-фото без цензуры, но сами испугались своего детища и последствий, которые могут возникнуть из-за широкого использования их ПО. Как мы видим, эксперимент вышел из-под контроля, и теперь на нём зарабатывают совершенно посторонние лица.
