Недавно на порносайтах появилось видео с участием модели похожей на Галь Гадот, израильская актриса, известная по ролям в фильмах «Бэтмен против Супермена» и «Чудо-Женщина».

Motherboard узнали, что ролик был создан с помощью алгоритма машинного обучения, который заменил лицо порноактрисы на лицо Гадот.

Motherboard нашли того, кто обучил нейросеть. Им оказался пользователь Reddit с ником Deepfakes. Его нейросеть анализирует фрагменты лиц на исходном порно-видео и сопоставляет их с картинками из Google и роликами из YouTube. Алгоритм замены подобен наложению масок в инстаграме или снэпчате. Пока алгоритм работает не очень правдоподобно: лицо заменяется только в статичных сценах.

Сам Deepfakes рассказал, что не считает себя профессиональным разработчиком: «Я программист с интересом к машинному обучению». Он намерен исправить нынешние визуальные ошибки, для этого у Deepfakes есть «миллионы изображений, которые помогут нейросети».

Кроме «порно» с Гадот, Deepfakes опубликовал видео со Скарлетт Йоханссон, Мейси Уилльямс, Тейлор Свифт и Обри Плазой.

К нейросети создающей фейковое порно уже есть претензии. Например, порноактриса Грейс Эванджелин заметила, что поддельные видео с участием знаменитостей были и раньше, но сейчас технологии стали работать лучше. Порноактриса обеспокоена, женщина считает, что разработчики должны спрашивать разрешения у знаменитостей на использование их лиц, иначе это является нарушением личной жизни.

Эксперт по изучению ИИ Алекс Шампандар обратил внимание, что в обществе не хватает широкого обсуждения этичности использования нейросетей. По словам Шампандара, разработка Deepfakes вполне может использоваться как инструмент для манипуляции людьми.