Пластмассовый мир победил

В интернете переполох — нейросеть научили делать «порно на заказ». Алгоритм не требует большого количества фотографий и успешно подставляет в порноролики лица других людей. Естественно, первыми «снялись» в фейковых порнороликах известные киноактрисы. А пока интернет бурно обсуждает, можно ли теперь доверять своим глазам и как жить в мире, где любой может хоть завтра оказаться звездой взрослого видео без всякого на то желания, мы вспомнили, что нейросети научились вести себя как киношные злодеи достаточно давно. Итак, уже сегодня нейросеть может...

Давить людей

С увеличением количества беспилотных автомобилей на дорогах и в связи с массовым использованием подобных технологий в серийных машинах это только вопрос времени. Рано или поздно нейросеть попадет в безвыходную ситуацию, в которой нельзя будет обойтись без жертв, и тогда машине придется решить, кому жить, а кому умирать. На то, что «проблема вагонетки» сегодня стала актуальной как никогда, уже обращали внимание психологи. 

Чтобы понять, как на самом деле приемлемо поступать в подобных ситуациях, Массачусетский технологический институт запустил специальный портал, на котором предлагает всем желающим поучаствовать в решении задачи «кого давить, кого не давить», а компания Cognitive Technologies провела аналогичный опрос среди 80 тысяч россиян. Результаты, кстати, оказались пугающими — треть наших соотечественников предложила беспилотному грузовику давить пешеходов и собак.

Раскрывать личные тайны

Не все люди стремятся рассказывать подробности своей жизни окружающим, много у кого есть секреты, которыми они предпочли бы не делиться даже с близкими людьми. Но и здесь нейросети могут стать опасным оружием в руках вымогателя или просто тролля. Например, существует нейросеть, которая умеет достаточно точно определять сексуальную ориентацию человека по его лицу. Учитывая, что много где в мире сексуальным меньшинствам до сих пор живется непросто, принудительный каминг-аут способен сильно осложнить им жизнь.

Усредненный «портрет» человека определенной ориентации и типичные черты, определенные в ходе работы алгоритма. Фотографии слева – «портреты» гетеросексуалов, справа – гомосексуалов. Wang & Kasinski / PsyArXiv 2017

Но если эта нейросеть пока что недоступна для широкой публики, то сервис по распознаванию лиц FindFace уже сейчас стал излюбленным инструментом троллей — с его помощью они находят во «Вконтакте» порноактрис и рассказывают об их деятельности друзьям и знакомым.

Разжигать рознь

Оказалось, что если нейросети разрешить общаться с живыми людьми, то они тут же научат ее плохому. Например, чат-бот Тэй, созданный Microsoft, меньше чем через сутки свободного общения в твиттере начал хвалить Гитлера, критиковать Трампа, а потом и вовсе стал расистом. Конечно, это всего лишь чат-бот, но многое из того, что сказала Тэй, звучало, мягко говоря, не слишком дружелюбно, а то и вовсе незаконно.

Twitter

Склонить к суициду

Возможно, вы видели забавный ролик, снятый редакцией N + 1: в нем друг с другом разговаривают две Алисы (голосовой помощник от «Яндекса»). Если еще не видели — посмотрите сейчас, он короткий.

Конечно, люди воспринимают это как шутку, но легко можно себе представить и другой сценарий: человек с депрессивным расстройством в тяжелом состоянии пытается найти вокруг себя хоть какую-то причину продолжать жить. На таком фоне шутливый совет из телефона выйти в окно может стать вообще последними словами, которые услышит отчаявшийся человек.

Шугать котов

Конечно, иногда нейросеть-злодей может работать и на благо человека. Например, прогонять котов с газона с помощью поливочной системы. Сверточная нейросеть постоянно следит за лужайкой через камеру и, если видит там животное, сразу же включает поливалку, чтобы отпугнуть кота водой

.

Нейросеть зафиксировала присутствие кота. Robert Bond / myplace.frontier.com

Система включила полив газона. Robert Bond / myplace.frontier.com

Отобрать игрушки

Другая полезная нейросеть-злодей помогает роботам совершенствоваться. Один манипулятор учится хватать и поднимать объекты, а другой постоянно их отбирает. Как бы смешно это ни звучало, такой робот-негодяй, отбирая игрушки, существенно ускоряет процесс обучения, помогая партнеру выработать более надежный захват для объектов самой разной формы и жесткости.

CMU

Заставить говорить под фонограмму

Этим летом была представлена программа, способная правдоподобно подстроить видео под фонограмму — благодаря этому, например, разработчикам удалось заменить одну речь Барака Обамы на другую. Правда, это все равно была реально произнесенная речь, но, учитывая, что технологии синтеза речи постоянно совершенствуются, ждать описанных Пелевиным правдоподобных подделок уровня «Ким Чен Ын пообещал завтра начать ядерную войну» осталось совсем недолго.

На таком фоне, пожалуй, фейковое порно уже не выглядит главной угрозой человечеству. Хочется верить, что мы просто научимся критичнее относиться к тому, что видим на экране, — в конце концов, научились же мы жить в мире, где существует Photoshop. Да и порноролики, честно скажем, получились не очень-то убедительными.

Николай Воронцов