Reddit стал блокировать порно-сообщества из-за приложения FakeApp

Если коротко, то не так давно один энтузиаст натренировал нейронную сеть на то, чтобы она заменяла лица в видеороликах. Естественно, первое, что начал делать этот человек - накладывать лица знаменитостей на лица порноактёров. Нейросеть стала справляться с этим с пугающей точностью. Если не всматриваться в мелкие огрехи, то невозможно отличить фальшивый это ролик или нет.

Недолго думая, энтузиаст решил поделиться своей технологией с мировым сообществом и выложил свою технологию на Reddit. Называется она FakeApp. Аудитория активно подхватила эту идею и заставила нейросеть клепать видеоролики порнографического содержания со знаменитостями в главных ролях.

Примерно в этом моменте сообщество столкнулось и с этическими проблемами. Технически, таким образом можно подставить любого человека. Достаточно пятидесяти фотографий. Учитывая развитие социальных сетей и страсть выкладывать свою жизнь в интернет - найти столько фото не составит труда. Технически даже вы можете наложить лицо своей бывшей одноклассницы или девушки, которая отказала, на лицо порноактрисы и отличить их будет практически невозможно. И да, такой поступок будет аморальным.

Ролики стали загружать на Pornhub и другие сервисы в надежде, что там-то уж точно подобные ролики никто не удалит. Но администрация ресурсов приравняла подобный контент к порномести и начала активно удалять его.

Reddit, с которого и началась вся эта история, не остался в стороне и также заблокировал форумы, где пользователи делились фальшивыми порно-роликами с участием знаменитостей.