Нейросетевая игра в имитацию

в 11:50, , рубрики: aae, adversarial autoencoder, conditional gan, cyclegan, dcgan, deep learning, domain transfer network, GAN, infogan, neural networks, ods, putin zebra, Алгоритмы, Блог компании Open Data Science, математика, машинное обучение, обработка изображений

Нейросетевая игра в имитацию - 1 Здравствуйте, коллеги. В конце 1960-ых годов прошлого века Ричард Фейнман прочитал в Калтехе курс лекций по общей физике. Фейнман согласился прочитать свой курс ровно один раз. Университет понимал, что лекции станут историческим событием, взялся записывать все лекции и фотографировать все рисунки, которые Фейнман делал на доске. Может быть, именно после этого у университета осталась привычка фотографировать все доски, к которым прикасалась его рука. Фотография справа сделана в год смерти Фейнмана. В верхнем левом углу написано: "What I cannot create, I do not understand". Это говорили себе не только физики, но и биологи. В 2011 году, Крейгом Венером был создан первый в мире синтетический живой организм, т.е. ДНК этого организма создана человеком. Организм не очень большой, всего из одной клетки. Помимо всего того, что необходимо для воспроизводства программы жизнедеятельности, в ДНК были закодированы имена создателей, их электропочты, и цитата Ричарда Фейнмана (пусть и с ошибкой, ее кстати позже исправили). Хотите узнать, к чему эта прохладная тут? Приглашаю под кат, коллеги.

Введение

На протяжении веков люди пытаются создать вещи, принцип работы которых не могут объяснить. Первой настоящей моделью искусственного интеллекта, совсем не мифического, и вполне понятно как работающего, стал персептрон Розенблатта. А потом все закрутилось. Рассмотрим область компьютерного зрения подробнее. Сегодня нейронные сети умеют отлично решать задачи классификации, сегментации и т.д., но как они это делают? Какие признаки выучивает сеть и являются ли они осмысленными — эти вопросы можно считать уже почти решенным. Вот пример того, как результаты этих работ позволяют нам сегодня манипулировать изображением. Но ведь манипулировать — это же не создавать, верно? Все еще есть проблемы, например, в данной работе вы можете увидеть, как добавление шума к изображению заставляет топовую нейросеть ошибаться, хотя невооруженный глаз изменений не видит. Вот если бы мы могли создавать изображения, тогда бы, возможно, мы смогли поставить точку в вопросе о понимании того, что на самом деле выучивает нейронная сеть и почему именно это, а не другое. Это, помните, как в Интерстелларе — последний рубеж в понимании гравитационной сингулярности находится в самой сингулярности. Вопрос об алгоритмической генерации фотореалистичных изображений не новый, но только в эпоху глубокого обучения удалось достигнуть существенных результатов. Сегодня мы с вами поговорим об одном из таких подходов, который стал одним из главных достижений последних лет в глубоком обучении. Оригинальная статья называется Generative Adversarial Nets (GAN) и пока нет устоявшегося перевода, мы будем называть их ГАНами. Как мне кажется, варианты "генеративные соревновательные сети" (ГСС) или "порождающие соперничающие сети" (ПСС), как-то не звучат.

Для начала разберем таксономию генеративных моделей, основанных на максимизации правдоподобия данных (включая те, которые делают это неявно; существуют и другие подходы к генерации данных, но они не пересекаются с ГАНами).

Нейросетевая игра в имитацию - 2

(изображение взято из статьи автора ГАНов, которая скомпилирована на основе его семинара на конференции NIPS 2016 года; оттуда же и вольный пересказ в нескольких абзацев ниже).

Вспомним, что суть принципа максимума правдоподобия заключается в поиске таких параметров модели, которые максимизируют правдоподобие набора данных, состоящего из $m$ примеров, выбранных независимо из общей популяции: $prod_{i=1}^m p_{text{model}}left(x_i, thetaright)$. Обычно, для простоты вычислений, максимизируется логарифм правдоподобия:

$largebegin{array}{rcl} theta ^* &=& {arg max}_theta prod_{i=1}^m p_{text{model}}left(x_i, thetaright) \ &=& {arg max}_theta log prod_{i=1}^m p_{text{model}}left(x_i, thetaright) \ &=& {arg max}_theta sum_{i=1}^m log p_{text{model}}left(x_i, thetaright) end{array}$

Максимизация правдоподобия — это то же самое, что и минимизация KL-дивергенции между настоящим распределением данных и модельным:

$large theta^*=argmin_theta D_{text{KL}}left(p_{text{data}}left(xright) parallel p_{text{model}}left(x, thetaright) right)$

Каждый лист дерева таксономии соответствует конкретной модели, которая обладает рядом плюсов и минусов. ГАНы были разработаны с целью нивелировать недостатки других моделей, что, естественно, привело к появлению новых недостатков. Но обо всем по порядку. В левом поддереве находятся модели с явно заданной формой функции плотности данных $p_{text{model}}$ (explicit density). Для таких моделей максимизация вполне очевидна, необходимо вставить нужную нам форму плотности в формулу логарифма правдоподобия и воспользоваться градиентным подъемом для поиска лучшего набора параметров $theta^*$. Главным недостатком данного подхода является как раз необходимость в явном выражении плотности так, чтобы описать всё разнообразие моделируемых данных, но при этом чтобы получаемую задачу оптимизации можно было решить за приемлемое время. Если получилось сконструировать всё так, что распределение удовлетворительно описывает всё разнообразие данных, и одна из моделей группы tractable density работает за приемлемое время, то считайте, вам повезло (пока, кстати, единственный способ оценить качество сгенерированных изображений – это визуальная оценка человеком).

Если же модель создаёт изображения посредственного качества, или вы состарились, пока она обучалась, то, возможно, модели, аппроксимирующие плотность, решат проблему (см. лист approximate density). Таким моделям всё ещё необходимо предоставить явно выраженную формулу плотности распределения. Методы, основанные на вариационной аппроксимации (variational), максимизируют нижнюю оценку правдоподобия $mathcal{L}left(x, thetaright) leq log pleft(x, thetaright)$, что гарантирует получение такой оценки настоящего правдоподобия, которая как минимум не хуже полученной. Для многих невычислимых распределений возможно найти такие нижние оценки, которые будут вычислимыми за приемлемое время.

Главным недостатком таких моделей является то, что зазор между нижней оценкой $mathcal{L}$ и настоящим правдоподобием может быть слишком велик. Это выльется в то, что модель $p_{text{model}}$ выучит что-то другое, но не настоящее распределение данных $p_{text{data}}$. Если же вы столкнулись с этой проблемой, то все еще остается последний шанс на удачную аппроксимацию заданной вами плотности — методы Монте-Карло (Markov Chain Monte Carlo, MCMC), т.е. семплирование. Семплирование и есть главный недостаток этого класса моделей. Несмотря на то, что фреймворк гарантирует, что когда-нибудь семпл сойдется к $p_{text{model}}$, этот процесс может занять неприемлемо много времени.

От отчаяния вы можете решить использовать модели с неявно заданной функцией плотности (Implicit density) — модели, которые напрямую не формулируют $p_{text{model}}$, а только семплируют из неё примеры. Тут мы попадаем либо в условия предыдущего способа, когда необходимо использовать методы Монте-Карло для семплирования со всеми вытекающими, либо вы можете использовать ГАНы, которые генерируют один семпл в один проход (что сравнимо с одним шагом Марковской цепи). Итак, подведем итог, чем же ГАНы так примечательны:

  • не требуют явно выраженной плотности, хотя можно сделать так, чтобы выучивалась нужная форма распределения (в этом смысле вариационные методы и ГАНы имеют связь);
  • не требуется вывод нижней оценки логарифма правдоподобия;
  • не нужно семплировать (точнее, семплирование есть, но только в один шаг, а не цепью);
  • было замечено, что изображения получаются лучше, чем у других моделей (субъективная оценка, конечно);
  • от себя добавлю, что эта модель одна из самых простых для понимания во всей вышеописанной категоризации.

Естественно, всё не так радужно, и в последующих частях разбора ГАНов мы узнаем о всех тех новых проблемах, которые появились вместе с новой моделью. Начнем с самой первой статьи, в которой ГАНы и были представлены для широкой публики.

Generative Adversarial Networks (10 Jun 2014)

Представим сюжет из фильма про противостояние фальшивомонетчика и полиции: один подделывает, другой ловит, ну вы поняли. Что получится, если мы заменим и того и другого нейронной сетью? Получится ролевая игра, пока только из двух актеров. Нейросетевая игра в имитацию - 15 Generator – аналог фальшивомонетчика, сеть, которая генерирует данные (например, изображения), её задача уметь выдавать изображения, наиболее приближенные к целевой генеральной совокупности. Discriminator — аналог полицейского, точнее, того сотрудника аналитического отдела полиции по борьбе с фальшивомонетчиками; его задача — отличить оригинал монеты от подделки. Таким образом, дискриминатор – это не что иное как бинарный классификатор, который должен выдавать 1 для реальных изображений, и 0 для поддельных. Тут стоит вспомнить китайскую комнату: а что, если оптимальный дискриминатор не может отличить подделку от реальных, можем ли мы считать, что генератор стал генерировать реальные изображения, или это все еще подделка высокого качества? В целом модель выглядит следующим образом и обучается end-to-end методом обратного распространения ошибки:

Нейросетевая игра в имитацию - 16

В принципе со сценарием в верхней половине диаграммы всё ясно: семплируем изображения из базы данных реальных изображений ($p_{text{data}}$), приписываем им метку 1 и прогоняем через дискриминатор, так получаем вероятности принадлежности к классу реальных изображений. Максимизируя логарифм правдоподобия дискриминатора на выборке из реальных и сгенерированных (об этом позже) изображений, мы двигаем плотность в сторону реальных изображений: $max_{D} mathbb{E}_{x sim p_{text{data}}}left[ log Dleft(xright) right] + mathbb{E}_{x sim p_{g}}left[ log left(1 - D(x)right) right]$, где $Dleft(x, theta_dright) in left[0, 1right]$ — нейросеть-дискриминатор, а $theta_d$ — её параметры. Для обучения генератора обозначим распределение генератора как $p_gleft(xright)$, где $x$ — это изображение. Вводится некоторое априорное распределение шума $p_zleft(zright)$, который отображается в пространство изображений генератором: $Gleft(z, theta_gright)$ ($theta_g$ — параметры сети-генератора). Да, вы правильно все поняли, изображения будут генерироваться из шума. Мало того, мы имеем возможность настраивать форму этого шума. Во втором сценарии минимизируется следующий функционал: $min_G mathbb{E}_{z sim p_zleft(zright)} left[ 1 - Dleft(Gleft(zright)right) right]$, т.е. мы хотим, чтобы дискриминатор как можно хуже отличал фальшивку от реальных изображений. Ничто не мешает нам обновить веса генератора градиентным спуском, т.к. $D circ G$ — дифференцируемая функция. Объединив все вышесказанное в одну оптимизационную задачу, мы получим следующую минимаксную игру для двух игроков:

$large min_G max_D Vleft(D, Gright)=mathbb{E}_{x sim p_{text{data}}left(xright)} left[log Dleft(xright)right] + mathbb{E}_{z sim p_zleft(zright)}left[logleft(1 - Dleft(Gleft(zright)right)right)right]$

Вы можете заметить, что это очень похоже на начальные условия обучения с подкреплением, и будете правы. Каналом передачи информации от генератора дискриминатору является прямой проход по сети, а обратный проход — это способ передачи информации от дискриминатора к генератору. Возникает идея тренировать всю модель end-to-end, просто инвертируя градиенты, которые идут от дискриминатора, что позволит дискриминатору карабкаться выше по своей поверхности, а генератору спускаться по своей (см. следующую часть, где авторы вводят gradient reversal layer). Но именно для ГАНов такой подход не работает. В самом начале обучения дискриминатору очень легко отличить подделку от реальных данных (см. пример ниже). Тогда для фейковых данных $Dleft(Gleft(zright)right) approx 0$, а также $logleft(1 - Dleft(Gleft(zright)right)right) approx 0$, что выразится в затухании градиентов. Проще говоря, до генератора не будет доходить никакой информации от дискриминатора, и генератор проиграет (ничему не научится). В предположении, что дискриминатор всегда будет около оптимума, замена $min_G logleft(1 - Dleft(Gleft(zright)right)right)$ на $max_G logleft(Dleft(Gleft(zright)right)right)$ решит проблему затухания, но решение минимаксной игры и новой максмаксной будет одним и тем же.

Пример семплов из генератора (около 16мб)

Сравните какие семплы выдает сеть вначале обучения и на более поздней стадии.

Нейросетевая игра в имитацию - 33
Нейросетевая игра в имитацию - 34

Чтобы гарантировать, что дискриминатор всегда будет около оптимума, авторы статьи предлагают следующий трюк. На каждой итерации обучения сначала несколько шагов обучается дискриминатор на батчах из реальных и поддельных изображений при фиксированном генераторе; затем делается один шаг обучения генератора на батче из поддельных изображений при фиксированном дискриминаторе. Это позволит держать дискриминатор всегда около оптимума и медленно менять генератор. В итоге получается игра в перетягивание каната, что выливается в нестабильное обучение. Ниже — типичная картина для функции стоимости ГАНа и для точности (среднее между количеством примеров, которые дискриминатор распознает верно в свою фазу обучения и в фазу обучения генератора). Эффект такого перетягивания вы можете наблюдать на графиках ниже, а также в виде ряби в примерах выше (под спойлером).

Нейросетевая игра в имитацию - 35 Нейросетевая игра в имитацию - 36

А если что-то пойдет не так, то возможна и такая динамика лосса.

Нейросетевая игра в имитацию - 37

Давайте оценим, какие теоретические обоснования лежат в основе ГАНов. Во-первых, авторы доказывают, что для фиксированного генератора оптимальный дискриминатор имеет вид:

$large D^*_Gleft(xright)=dfrac{p_{text{data}}left(xright)}{p_{text{data}}left(xright) + p_gleft(xright)}$

А дальше доказывают теорему о существовании глобального минимума функционала от функции генератора в точке $p_g=p_{text{data}}$, а также, что значение функции $Vleft(G_{text{fixed}}, Dright)=-log 4$. И наконец, авторы доказывают, что процесс последовательного обучения генератора и дискриминатора сходится. Вроде бы всё очень хорошо, но все эти выкладки верны, только если мы рассматриваем в качестве кандидатов для генератора и дискриминатора все возможные функции. К сожалению, в реальности мы не можем решать задачу оптимизации в пространстве всех функций, и нам приходится ограничиваться каким то одним семейством. В данном случае это семейство нейронных сетей, т.е. параметрически заданных функций. И вот как раз причина такого нестабильного поведения, изображенного на графиках выше. Оптимизируя функционал в пространстве параметров нейронных сетей (а это пространство действительных чисел очень высокой размерности), мы просто не в состоянии найти тот самый глобальный оптимум. Почему нейросети? Для нейросетей доказана теорема универсальной аппроксимации, и, вероятно, это пока самый широкий класс функций, в пространстве которого мы способны делать поиск решения.

В завершение обзора главной статьи, рассмотрим идеализированную визуализацию процесса сходимости и то, к чему он приводит:

Нейросетевая игра в имитацию - 41

  • линяя из черных точек — это распределение данных $p_{text{data}}$, которое мы хотим приблизить нейросетью;
  • зеленая линия — это распределение генератора $p_g$, в процессе обучения оно приближается к распределению данных (обучение происходит последовательно);
  • синяя линия — это разделяющая поверхность дискриминатора, который в конце обучения не может отличить примеры из реального набора данных от подделки, созданной генератором;
  • стрелками показано отображение $x=Gleft(zright)$, которое ставит в соответствие каждому значению из распределения данных точку из априорного распределения.

Примеры семплов

Нейросетевая игра в имитацию - 45

Авторы приводят результаты четырех экспериментов. В первых пяти колонках находятся несколько семплов из генератора, а справа находятся наиболее близкие реальные изображения. Из-за использования MLP, результаты на сложных наборах данных пока еще не впечатляющие.

Отметим четыре свойства такого обучения:

  • оказывается, что выучивается гладкое и компактное пространство (не путать с математическими понятиями), такое, что прообразы похожих объектов в пространстве шума тоже лежат рядом друг с другом (авторы используют обычный MLP, потому красивые визуализации мы увидим в одной из следующих статей, где используются свёрточные сети), и для любой точки из априорного шума существует осмысленный прообраз;
  • генератор выучивается создавать близкие к реальным изображения, ни разу не увидев ни одного реального изображения, а только получая от дискриминатора сигнал о том, почему фальшивка была обнаружена, закодированный в градиентах;
  • вроде как пытались избавиться от MCMC, т.к. это занимает много времени, а в итоге получили модель, которая делает семплирование в один шаг, но всё ещё обучается долго и нестабильно (MCMC хотя бы асимптотически сходится, а тут в пространстве параметрических функций никаких гарантий нет);
  • модель красивая, но совсем не применимая для извлечения признаков из изображения, что в конечном счете нам и нужно, мы ведь хотим не просто генерировать, но и вычислять прообразы реальных изображений в пространстве шума.

Unsupervised Domain Adaptation by Backpropagation (26 Sep 2014)

Всем вроде было очевидно, что ГАНы это весело и задорно, но пока бесполезно. Пока человечество осознавало, как бы их приспособить для извлечения признаков, в Сколково нашли неожиданное и полезное применение ГАНам. Представьте следующую задачу: необходимо сделать поиск одежды по реальной фотографии из жизни в магазине типа Амазона. Для этого мы легко можем собрать размеченный датасет, просто спарсив Амазон. Затем приписать каждому изображению метку по категории товара, обучить классификатор и использовать какое-либо представление из сети для поиска. Но есть небольшая проблема: все фотографии на амазоне, как правило, являются студийными фотографиями с белым фоном, без шумов и часто вообще без людей. В то время как реальные фотографии, по которым осуществляется поиск, делаются на мобильник и помимо естественных шумов содержат еще людей и богатый фон. Можно было бы, конечно, разметить датасет реальных фотографий, на что было бы потрачено время и деньги, и вообще не факт, что помогло бы.

Такая проблема называется Domain Shift – когда обучение происходит в одном домене, а применение модели происходит в другом. Как правило, распределение данных в доменах разное; цена разметки данных первого домена низкая, а цена разметки данных из второго домена высокая; необходимо обучить такой классификатор, который будет инвариантен к домену, но иметь высокое качество классификации. Другими словами, скрытое представление данных не должно содержать информации о домене, а должно содержать информацию об объекте. И тут-то авторы как раз предлагают использовать ГАНы.

Нейросетевая игра в имитацию - 46

Допустим, мы хотим, чтобы слой f был инвариантен к домену, давайте к нему приделаем еще один классификатор, так же как в Google Inception V1, но будем не минимизировать функцию стоимости, а максимизировать её. Таким образом мы как бы будем "выбивать" информацию о домене из представления f, и "вбивать" информацию об объектах, т.к. обычный классификатор обучается минимизации ошибки классификации между объектами. Оказывается, весь этот процесс обучения можно делать end-to-end, используя gradient reversal layer, который находится между представлением f и доменным классификатором. При обратном распространении ошибки через такой слой знак градиентов инвертируется, таким образом часть сети перед представлением f учится вычислять такие признаки, которые не содержат информации о домене, потому что именно такие признаки максимизируют ошибку классификации доменного классификатора.

Примеры поиска по фотографиям из реального проекта

Целевая фотография:

Нейросетевая игра в имитацию - 47

Топ-3 ответов:

Нейросетевая игра в имитацию - 48
Нейросетевая игра в имитацию - 49
Нейросетевая игра в имитацию - 50

Conditional Generative Adversarial Nets (6 Nov 2014)

Спустя полгода после публикации оригинальной статьи про ГАНы люди еще не научились использовать их для извлечения признаков, но уже занялись анализом динамики сходимости минимаксой игры. Было замечено, что если данные мультимодальные, то решение, как правило, коллапсирует в одну моду.

Нейросетевая игра в имитацию - 51

На данном изображении справа вы видите целевое распределение данных, а в левой части вы можете наблюдать процесс сходимости обычного ГАНа. В результате модель выбирает понравившуюся ей моду и генерирует семплы только из неё. Например, вы можете начать тренировать модель генерировать рукописные цифры из множества MNIST, а она выучится отлично генерировать только семерки. Немного не то, что хотелось бы получить. В случае MNIST, когда у нас есть размеченный датасет, авторы предлагают подавать в генератор и дискриминатор не только сгенерированный образ, но и его метку.

Нейросетевая игра в имитацию - 52

Попробуйте найти два отличия новой функции стоимости от оригинальной:

$large min_G max_D Vleft(D, Gright)=mathbb{E}_{x sim p_{text{data}}left(xright)} left[log Dleft(x mid yright)right] + mathbb{E}_{z sim p_zleft(zright)}left[logleft(1 - Dleft(Gleft(z mid yright)right)right)right]$

оригинальная

$large min_G max_D Vleft(D, Gright)=mathbb{E}_{x sim p_{text{data}}left(xright)} left[log Dleft(xright)right] + mathbb{E}_{z sim p_zleft(zright)}left[logleft(1 - Dleft(Gleft(zright)right)right)right]$

В результате чего, надеются авторы, произойдет распутывание (disentanglement of factors) моды и других параметров объекта. В случае с рукописными цифрами наблюдается забавный эффект: модели теперь не требуется кодировать информацию о метке (цифре) в вектор признаков (во входной шум), т.к. вся информация уже есть в векторе меток $y$, тогда в вектор признаков кодируется информация о стиле написания цифры. Каждая строка на следующем изображении – это семплы из одной моды (фиксированный вектор меток).

Нейросетевая игра в имитацию - 56

Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks (9 Nov 2015)

Данная статья имеет больше практическую ценность, чем теоретическую. Даже сами авторы отмечают, что основной вклад статьи следующий:

  • обычная нейросеть заменена на сверточную, и в результате проб и ошибок составлена инструкция по тому, как тренировать Deep Convolutional GAN;
  • показано на примерах, что дискриминатор, полученный при тренировке DCGAN, является хорошей инициализацией для других классификаторов на этом и схожих доменах (transfer learning в задачу обучения с учителем из задачи обучения без учителя);
  • проанализировав фильтры, авторы показали, что можно найти фильтры, которые отвечают за рисование конкретного объекта;
  • показано, что генератор имеет интересные свойства, схожие с word2vec (см. пример далее).

Собственно, в самой модели ничего неожиданного нет, и, вероятно, эксперименты по обучению модели как раз и заняли много времени — между статьей по ГАНам и DCGAN прошло больше года (еще, конечно, сыграло свою роль то, что авторы подстраивались именно под ICLR 2016). Вот схема генератора:

Нейросетевая игра в имитацию - 57

К особенностям архитектуры можно отнести следующие моменты:

  • в генераторе и дискриминаторе вместо пулинга используются свертки с шагом больше единицы (stride и fractional stride соответственно);
  • батч нормализация используется в генераторе и дискриминаторе;
  • не используются полносвязные слои, т.е. сеть становится fully convolutional;
  • в генераторе везде, кроме выходного слоя, используется ReLU (в выходном — tanh);
  • в дискриминаторе везде используется Leaky ReLU.

В результате мы можем наслаждаться криповыми лицами и арифметикой над ними. Если точнее, то арифметика делается в пространстве признаков, а потом из полученного вектора генерируется результат.

Нейросетевая игра в имитацию - 58

Отдельно стоит упомянуть детали самого этого эксперимента. Для начала им пришлось насемплировать кучу изображений, затем найти там руками и глазами некоторое количество изображений мужчин в очках, мужчин без очков и женщин без очков. Затем векторы признаков каждой группы усредняются, делается арифметика, и из полученного вектора признаков генерируется новое изображение.

В описании первой статьи я писал, что пространство признаков получается гладким и компактным, т.е. если выбрать случайную точку, которая лежит на многообразии прообразов данных, то вокруг этой точки во всех направлениях будут признаки, образы которых похожи на текущий. Теперь можно выбрать случайно несколько точек в пространстве признаков, затем начать семплировать точки вдоль пути, соединяющего семплы, отрисовывая для каждого семпла его образ в пространстве изображений (да, стрелка там есть лишняя).

Нейросетевая игра в имитацию - 59

В итоге получатся такие вот переходы одних криповых лиц в другие.

Нейросетевая игра в имитацию - 60

В общем пока в ГАНах явно не хватает механизма извлечения признаков из изображений. И тут-то мы переходим ко второй важнейшей статье после оригинальной статьи про ГАНы — "Adversarial Autoencoders".

Adversarial Autoencoders (18 Nov 2015)

Вторая важнейшая статья в ГАНах появилась полтора года спустя после оригинальной статьи, что опять же связано с тем, чтобы подстроиться под ICLR 2016. В этой статье авторы по сути разворачивают оригинальный и бесполезный ГАН наизнанку и добавляют еще одну функцию стоимости, как в Google Inception V1. В итоге получается особый тип автоэнкодеров — модель, с помощью которой можно извлекать признаки из объектов. Рассмотрим топологию модели AAE и затем обратим внимание на некоторые свойства признаков такого автоэнкодера.

Нейросетевая игра в имитацию - 61

В верхней части изображения находится обычный автоэнкодер. Обозначим распределение, генерируемое энкодером (кодировщиком) как $qleft(z mid xright), x sim p_dleft(xright)$, где $x$ берется из распределения данных $p_d$ (напимер из множества рукописных цифр MNIST). Соответственно, декодер $pleft(x mid zright), z sim qleft(zright)=int_x qleft(z mid xright) p_dleft(xright) dx$, где $z$ берется из полного (marginal) распределения скрытого слоя автоэнкодера. На выходе из декодера находится обычная функция стоимости автоэнкодера, которая приближает выход их декодера ко входу в энкодер.

Слева снизу находится генератор семплов из некоторого априорного распределения шума. Это может быть как заданное аналитически распределение типа многомерного нормального, так и распределение неведомой природы, некоторый черный ящик. Мы пока не понимаем, как именно он работает, но можем семплировать из него. Обозначим априорное распределение скрытого слоя как $pleft(zright)$. К скрытому слою приделывается ГАН-дискриминатор, в нижней части изображения справа. Задача дискриминатора – различать примеры из априорного распределения признаков $pleft(zright)$ и примеры из распределения, генерируемого энкодером $qleft(zright)$. В процессе обучения такого соревновательного автоэнкодера дискриминатор своими градиентами изменяет параметры энкодера так, чтобы распределение $qleft(zright)$ приближалось к распределению $pleft(zright)$. Таким образом кодировщик выучивает неявное априорное распределение, или же говорят, что задан implicit prior, который как бы закодирован внутри сети, но мы не можем получить его форму аналитически.

В результате получается автоэнкодер с двумя функциями стоимости: обычной для качества данных и ГАН для качества скрытого слоя. Обучение модели происходит стохастическим градиентным спуском по следующему сценарию:

  • фаза восстановления: обычная итерация обучения автоэнкдера, в процессе которой обновляются параметры энкодера и декодера для минимизации ошибки восстановления образа;
  • фаза регуляризации: итерация обновления энкодера и дискриминатора. Она в свою очередь состоит из двух фаз, описанных в сценарии обучения обычных ГАНов, т.е. нужно сначала сделать несколько шагов обучения дискриминатора на батчах из реальных и поддельных примеров при фиксированном генераторе, затем сделать один шаг обучения генератора на батче из поддельных изображений при фиксированном дискриминаторе.

После такого обучения можно надеяться, что сеть обучится отображать образы из пространства данных на заданное нами распределение, а также для любой точки из заданного распределения над кодом находить адекватный образ в пространстве наблюдений.

В самом начале поста есть дерево таксономии генеративных моделей, обратите внимание на вариационный автоэнкодер (VAE), который аппроксимирует явно заданное распределение скрытого слоя. VAE минимизирует верхнюю границу отрицательного логарифма правдоподобия данных:

$begin{array}{rcl} E_{x sim p_dleft(xright)} left[ -log pleft(xright) right] &<& E_xleft[ E_{qleft(z mid xright)}left[-log pleft(x mid zright)right] right] + E_xleft[ text{KL}left(qleft(z mid xright) midmid pleft(zright)right)right] \ &=&E_xleft[ E_{qleft(z mid xright)}left[-log pleft(x mid zright)right] right] - E_x left[Hleft(qleft(z | xright)right)right] + E_{qleft(zright)}left[-log pleft(zright)right] \ &=& text{Reconstruction} - text{Entropy} + text{CrossEntropy}left(qleft(zright), pleft(zright)right) end{array}$

Переводя на русский, функция стоимости содержит как ошибку восстановления, так и штраф за то, что распределение выхода энкодера отличается от заданного априорного $pleft(zright)$. Вторые два члена в последней строке и есть регуляризатор на то, чтобы распределения на скрытом слое было определенной формы. Без регуляризатора это был бы обычный автоэнкодер. В AAE вместо KL-регуляризации, содержащей явно заданное распределение, используется ГАН, который штрафует за эмпирическое несоответствие семплов из скрытого слоя распределению, задаваемому некоторым семплером. Напоминаю, что этот некоторый семплер может быть как явно заданным распределением, так и эмпирическим.

Нейросетевая игра в имитацию - 74

На данном изображении авторы сравнивают то, как ложатся на скрытое пространство примеры с помощью AAE и VAE. В первой строке скрытым пространством является двумерная гауссиана, а во второй строке смесь из десяти гауссиан. Справа авторы семплируют точки из скрытого пространства и отрисовывают соответствующие им изображения рукописных цифр, как видим всё действительно компактно и гладко.

Так же в этой статье описывается несколько более извращенных моделей на основе AAE, которые лягут в основу многих другие моделей в будущем.

Пример частичного обучения или распутывание стиля и класса

Нейросетевая игра в имитацию - 75

Модель очень похожа на Conditional GAN, но так же вывернутый наизнанку. В центральной части автоэнкодера находится скрытое представление составленное из двух векторов. Первый отображает распределение вероятности принадлежности к классу. Второй отображает некоторое представление стиля (что же еще может остаться, если убрать из написания цифры саму цифру). В верхней части находится ГАН часть для представления класса, которая старается приблизить выданное энкодером (генератором) распределение над классами к реальному one-hot-encoding этой цифры. Нижний ГАН старается вжать информацию о стиле в какое либо распределение (в данном случае в гауссиан). В итоге происходит распутывание информации о классе и стиле. Например, можно зафиксировать класс и генерировать цифру разными стилями. Или же наоборот, фиксируем стиль и отрисовываем разные цифры. Стоит отметить, что в статье они не приводят таких примеров, а вот в следующий статье этого разбора этот эксперимент вполне успешен.

Такая модель полезна, если у вас есть некоторое количество размеченных примеров и намного большее количество неразмеченных (как часто и бывает). Тогда для примеров без метки не используется верхний ГАН.

После этой статьи астрологи объявили несколько лет ГАНов. В целом все статьи после AAE можно разделить на скорее инженерные и скорее теоретические. Первые, как правило, эксплуатируют различные топологии, похожие на распутывание стилей в AAE. Вторые больше концентрируются на теоретических особенностях ГАНов. Мы рассмотрим несколько теоретических и несколько инженерных статей. Для тех, кто решит заняться практической реализацией, будет очень полезно взглянуть на статью автора ГАНа, сделанную на основе его туториала по ГАНам на конференции NIPS в 2016 году: Improved Techniques for Training GANs.

InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets (12 Jun 2016)

Данная статья является представителем теоретической группы статей, в ней авторы добавляют в процесс обучения некоторые информационно-теоретические ограничения, тем самым лучше распутываются скрытые факторы. Авторы рапортуют об успешном распутывании стиля и написанных символов, фона изображений от объекта интереса, а также причесок, эмоций и факта наличия очков на датасете из селфи. Также авторы утверждают, что полученные признаки в режиме обучения без учителя сравнимы по качеству с признаками, полученными обучением с учителем. Не забывают авторы и упомянуть о том, что генеративные модели являются доминирующим типом моделей в сфере обучения без учителя и напоминают, что умение создавать объекты влечет за собой полное понимание структуры объекта и как следствие улучшенное распутывание факторов.

Если кратко, то все эти прелести достигаются за счет максимизации взаимной информации между наблюдениями и некоторым подмножеством признаков из внутреннего представления автоэнкодера. Обычные ГАН не накладывают ограничения на вектор скрытого представления, тем самым, в теории, генератор может начать использовать факторы в очень нелинейно или связано, тем самым ни один из факторов не будет отвечать за какой либо семантический признак (вспомните eigenfaces). Перед тем как перейти к деталям InfoGAN, позвольте мне напомнить вам целевую функцию из оригинального ГАНа:

$large min_G max_D Vleft(D, Gright)=mathbb{E}_{x sim p_{text{data}}left(xright)} left[log Dleft(xright)right] + mathbb{E}_{z sim p_zleft(zright)}left[logleft(1 - Dleft(Gleft(zright)right)right)right]$

Топология модели идентична модели, описанной в Conditional GAN, скрытый слой разделен на две части: $z=left{z_1, z_2, ldots, z_Mright}$ — неустранимый шум, $c=left{c_1, c_2, ldots, c_Lright}$ — вектор, содержащий семантическую информацию об объекте. Мы считаем, что латентные факторы независимы: $pleft(c_1, c_2, ldots, c_Lright)=prod_{i=1}^L pleft(c_iright)$. Генератор новой модели можно записать как $Gleft(z, cright)$. В обычном ГАНе генератор не ограничен в том, чтобы игнорировать семантический код $c$, и вполне может прийти к решению $p_gleft(x mid zright)=p_gleft(xright)$, а может и не прийти. Нам очень хотелось бы, чтобы не пришел, поэтому авторы предлагают добавить в функцию стоимости информационно-теоретический регуляризатор. Идея регуляризатора в том, что бы максимизировать взаимную информацию между семантической частью скрытого представления и распределением генератора: $Ileft(c, Gleft(z, cright)right)$.

Вспомним, что такое взаимная информация. Рассмотрим две случайные переменные $X$ и $Y$, взаимная информация:

$largebegin{array}{rcl} Ileft(X, Yright) &=& Hleft(Xright) - Hleft(X mid Yright) \ &=& Hleft(Yright) - Hleft(Y mid Xright) end{array} $

измеряет "количество информации", полученное о переменной $X$ при условии наблюдения переменной $Y$. Другими словами, взаимная информация отображает изменение неопределенности первой переменной при наблюдении второй. Если взаимная информация равна нулю, то вторая переменная не содержит никакой информации о первой переменной. В нашем случае, чем больше $Ileft(c, Gleft(z, cright)right)$, тем больше информации о скрытом слое содержится в сгенерированном изображении. В противном случае, изображение полностью игнорировало бы семантический вектор и зависело бы только от вектора шума, как в оригинальном ГАНе. Получается, что для сгенерированного примера $x sim p_gleft(xright)$, энтропия $p_gleft(c mid xright)$ будет поменьше (см. вторую формулу в определении взаимной информации), что можно переформулировать так: в процессе генерации не теряется информация о семантическом слое. Таким образом новая функция стоимости такого хитрого ГАНа, который теперь можно называть InfoGAN, будет следующей:

$large min_G max_D V_{I}left(D, Gright)=Vleft(D, Gright) - lambda Ileft(C, Gright)$

Но, к сожалению, такая оптимизационная задача становится нетривиальной из-за того, что теперь нам требуется апостериорное распределение $pleft(c mid xright)$. И тут приходит магия вариационного вывода. Для краткости обозначим $g=Gleft(z, cright)$, тогда:

$begin{array}{rcl} Ileft(C, Gright) &=& Hleft(Cright) - Hleft(C mid Gright) \ &=& Hleft(cright) - E_gleft[Hleft(c mid gright)right] \ &=& Hleft(cright) + E_g E_{c mid g} log pleft(c mid gright) \ &=& Hleft(cright) + E_g E_{c mid g} log dfrac{pleft(c mid gright) qleft(c mid gright)}{qleft(c mid gright)} \ &=& Hleft(cright) + E_g E_{c mid g} log qleft(c mid gright) + E_g E_{c mid g} log dfrac{pleft(c mid gright)}{qleft(c mid gright)} \ &=& Hleft(cright) + E_g E_{c mid g} log qleft(c mid gright) + E_g text{KL} left(pleft(c mid gright) mid mid qleft(c mid gright)right) \ &geq& Hleft(cright) + E_g E_{c mid g} log qleft(c mid gright) \ &geq& E_g E_{c mid g} log qleft(c mid gright) end{array}$

KL-дивергенция не отрицательна, а энтропию скрытого семантического слоя можно считать постоянной, тогда получается нижняя вариационная граница взаимной информации. Оптимизируя нижнюю границу, мы оптимизируем и само значение функции, хотя зазор между оценкой и реальным значением определяется дивергенцией и энтропией. И, естественно, распределение $q$ будет нейросетью. Получается, нужно добавить в модель еще один дискриминатор, который будет распознавать скрытый вектор, поданный в генератор. Вся эта магия с вариационной взаимной информацией вылилась еще в одну нейросеть. Авторы советуют шарить сверточные слои двух дискриминаторов, а разными делать только несколько полносвязных слоев на выходе. InfoGAN будет иметь такую топологию:

Нейросетевая игра в имитацию - 97

Таким образом, дискриминатор выполняет две функции: распознавание реального примера от фальшивого и восстановление вектора факторов $c$ (или меток). Когда подается настоящий пример без метки, просто не используется сеть, распознающая скрытое семантическое представление. Может показаться, что InfoGAN такой же, как и обычный ГАН, т.е. не позволяет извлекать признаки, но вы можете закрепить прочитанный материал, попробовав переделать InfoGAN в подобие AAE.

В эксперименте на MNIST — база из десяти рукописных цифр, в качестве скрытого слоя используется одна категориальная переменная как семантическое описание $c_1 sim text{Cat}left(K=10, p=0.1right)$ и две шумовых $z_1, z_2 sim text{Unif}left(-1, 1right)$.

Нейросетевая игра в имитацию - 101

В каждой колонке находятся семплы при фиксированной категории, но со случайной шумовой составляющей. В каждой строке наоборот. Слева результаты InfoGAN'а, видно, что в семантической переменной находится информация о лейбле (напоминаю, лейблы не участвовали в обучении). Справа обычный ГАН и нет интерпретации.

Нейросетевая игра в имитацию - 102

А здесь, в каждой строке фиксированы две из трех скрытых переменных, все семплы из InfoGAN'а. Слева фиксируем категорию и вторую шумовую переменную, справа категорию и первую шумовую переменную, и в результате видим, что в шумовой составляющей находится информация о стиле.

Ну или мутация мебели

Нейросетевая игра в имитацию - 103

Unsupervised Cross-Domain Image Generation (7 Nov 2016)

Давайте рассмотрим теперь статью, которая является скорее инженерной, нежели теоретической. Под инженерной я подразумеваю способ построения модели, использующий "механизмы" (нужно перейти реку — строим мост). Теоретические (в моей нотации) — это модели, где математический трюк позволяет достичь цели. Данная статья является адским миксом стилевого трансфера и ГАНов. Представьте, что есть два датасета из разных доменов Source и Target, например, домены реальных лиц и рисованных эмоджи. Задачей является построение модели, которая может конвертировать семплы из одного домена в другой. Получается, вообще говоря, описание обычного стилевого трансфера. Тогда добавим еще одно требование, чтобы попасть в условия ГАН-задачи: семпл, трансформированный из S в домен T должен быть неотличим от семплов из домена T. Полученную модель назовут Domain Transfer Network. Как я уже сказал, это модель, которая создается модульно из всем до этого известных компонентов. Нам понадобится некоторая функция $f: S cup T rightarrow mathbb{R}^n$, отображающая изображение в некоторое представление. Необходимо выучить такую функцию $G: S rightarrow T$ из домена-источника в целевой домен, что представление будет инвариантно к преобразованию $G$, т.е. $fleft(xright) approx fleft(Gleft(xright)right)$. Также понадобится некоторая метрика $d$, выбор которой не особо влияет на результат, поэтому везде используется MSE. От себя могу посоветовать всегда в таких случаях использовать perceptual loss, как в style transfer.

Первая базовая модель, которую создали авторы, следует напрямую из условия задачи. У нас есть генератор $G$ и дискриминатор $D$, сделаем Adversarial Autoencoder и добавим f-constancy loss, который будет стараться сделать $f$ инвариантной к генератору, получается AAE с такой функцией стоимости:

$mathcal{L}=mathcal{L}_text{GAN} + alpha mathcal{L}_text{CONST}$

  • $mathcal{L}_text{GAN}=max_D E_{x sim S} log left(1 - Dleft(Gleft(xright)right)right) + E_{x sim T} log Dleft(xright)$
  • $mathcal{L}_text{CONST}=E_{x sim S} dleft(fleft(xright), fleft(Gleft(xright)right)right)$

Но такое прямолинейное решение не заработало. Тогда авторы, вероятно, что-то употребили и создали следующего монстра.

Нейросетевая игра в имитацию - 115

Генератор $G$ стал содержать в себе саму $f$, т.е. теперь генератор это композиция инвариантной к домену функции-энкодера и декодера: $G=g circ f$. У модели теперь две сложных функции стоимости.

Дискриминатор $L_D$ теперь пытается угадать не два класса, а три класса:

  1. семпл из домена T под действием $G=g circ f$
  2. семпл из домена S под действием $G=g circ f$
  3. семпл из домена T в чистом виде

$mathcal{L}_text{GAN}=-E_{x sim S}log D_1left(gleft(fleft(xright)right)right) - E_{x sim T}log D_2left(gleft(fleft(xright)right)right) - E_{x sim T} log D_3left(xright)$

Функция стоимости генератора тоже состоит из нескольких:

$mathcal{L}_G=mathcal{L}_text{GANG} + alpha mathcal{L}_text{CONST} + beta mathcal{L}_text{TID} + gamma mathcal{L}_text{TV}$

  • $ mathcal{L}_text{GANG}=-E_{x sim S} log D_3left(gleft(fleft(xright)right)right) - E_{x sim T} log D_3left(gleft(fleft(xright)right)right)$
    • третий класс дискриминатора отвечает за чистые семплы из домена T, его-то и учится обманывать генератор
  • $mathcal{L}_text{CONST}=sum_{x in S} dleft(fleft(xright), fleft(gleft(fleft(xright)right)right)right)$
    • f-constancy loss, отвечающий за инвариантность энкодера для семплов из домена S
  • $mathcal{L}_text{TID}=sum_{x in T} dleft(x, gleft(fleft(xright)right)right)$
    • для семплов из домена T мы хотим, чтобы генератор $G=g circ f$ их никак не изменял
  • $L_text{TV}=sum_{i,j}left(left(z_{i, j+1} - z_{i,j}right)^2 + left(z_{i+1, j} - z_{i,j}right)^2 right)^{frac{B}{2}}$
    • total variation loss добавляет немного размытия на изображение, $z_{i, j}$ — это пиксели изображения на выходе из генератора

Функцию $f$ можно инициализировать какой-нибудь сетью для распознавания образов, авторы используют DeepFace. В качестве датасета используется база рисованных эмоджи из сайта http://bitmoji.com/, который содержит интерфейс для рисования эмоджи, вследствие чего и огромную базу (теперь понятно зачем Facebook купил его за полгода до публикации). Сам эксперимент провели, конечно, шикарный: выбрали несколько реальных знаменитостей (первая колонка); попросили реальных людей, используя интерфейс битэмоджи, нарисовать картинку на человека (вторая колонка); третья колонка — это результат трансформации первой колонки выученным генератором.

Нейросетевая игра в имитацию - 131

Еще примеры из статьи

  • рукописные цифры в знаки на домах
  • эмоджи в реальных людей :wat:
    Нейросетевая игра в имитацию - 132

Проблема такой сети в том, что у вас вряд ли получится её натренировать. Все дело в том, что жадный FB не выложил базу эмоджи. Я лично пробовал обучать на базе аниме персонажей (да, каюсь, пришлось спарсить 100к картинок с японскими порномультиками, распознать там то, что называется лицом, и попробовать обучить). Результат вообще никакой, вероятно из-за того что "физика" лица в онеме совсем не реальная.

Unrolled Generative Adversarial Networks (7 Nov 2016)

В данной статье авторы пытаются решить проблему коллапсирования генератора в моду распределения данных. В отличие от предыдущей статьи, авторы подходят к проблеме, анализируя математику процесса обучения ГАНов. Для начала рассмотрим, почему происходит коллапсирование в моду распределения. Допустим, у нас есть бимодальное распределение, и дискриминатор пытается различать семплы: являются ли они примерами из этого распределения или все таки подделки. Также допустим, что у этого бимодального распределения одна мода в два раза плотнее другой. Оптимальной стратегией генератора будет постоянная генерация примера из точки с наибольшей плотностью, т.е. из той моды, которая больше. Получается, что бы мы не подали на вход такого генератора, мы всегда будем получать примерно одинаковые образы. Наверное. "Наверное" — потому что это не доказано, но звучит вполне правдоподобно. Обозначим параметры генератора и дискриминатора, как $theta_G$ и $theta_D$ соответственно. Тогда для функции:

$large Vleft(theta_G, theta_Dright)=mathbb{E}_{x sim p_{text{data}}left(xright)} left[log Dleft(x; theta_Dright)right] + mathbb{E}_{z sim p_zleft(zright)}left[1 - Dleft(Gleft(z; theta_Gright); theta_Dright)right]$

целью будут оптимальный генератор:

$large begin{array}{rcl} theta_G^* &=& argmin_{theta_G}max_{theta_D} Vleft(theta_G, theta_Dright) \ &=& argmin_{theta_G} Vleft(theta_G, theta_D^*left(theta_Dright)right) end{array}$

где оптимальный дискриминатор является функцией от генератора:

$large theta_D^*left(theta_Gright)=argmax_{theta_D} Vleft(theta_G, theta_Dright)$

Для фиксированного генератора можно выучить хороший (в смысле локального оптимума) дискриминатор градиентным подъемом (третья формула ниже), мы же максимизируем дискриминатор:

$large begin{array}{rcl} theta_D^0 &=& theta_D \ theta_D^{k + 1} &=& theta_D^k + eta^kdfrac{partial Vleft(theta_G, theta_D^kright)}{partial theta_D^k} \ theta_D^*left(theta_Dright) &=& lim_{k rightarrow infty} theta_D^k end{array}$

Стоит заметить, что весь процесс обучения оптимального генератора можно представить в виде длинной суммы (первая и вторая формулы), и мало того, вся эта сумма будет дифференцируема. Введем суррогатную функцию стоимости на $k$-ом шаге обучения локально-оптимального дискриминатора:

$large V_Kleft(theta_G, theta_Dright)=Vleft(theta_G, theta_D^Kleft(theta_G, theta_dright)right)$

Получается, что обучая генератор при $K=0$ у нас получается обычная цель ГАН. А при $K rightarrow infty$ генератор учится именно тому, что нужно, а именно обманывать локально-лучший дискриминатор, против которого он играет на текущей стадии своего обучения. Очевидно, что на практике $K$ должно быть разумным, может быть около $5$, что в любом случае должно быть лучше, чем обычная функция стоимости. Тогда можно записать новые правила обновления параметров ГАНа:

$large begin{array}{rcl} theta_G &leftarrow& theta_G - eta dfrac{partial V_Kleft(theta_G, theta_Dright)}{partial theta_G} \ theta_D &leftarrow& theta_D + eta dfrac{partial Vleft(theta_G, theta_Dright)}{partial theta_D} end{array}$

Таким образом, градиенты для генератора мы берем как будто бы из будущего (разворачиваем ГАН как рекуррентную сеть); затем для нового генератора, который видел будущее, обновляем дискриминатор из настоящего, вследствие чего процесс обучения сильно замедляется, примерно в $K$ раз. Также авторы анализируют градиенты, которые доходят до генератора.

$dfrac{partial V_Kleft(theta_G, theta_Dright)}{partial theta_G}=dfrac{partial V_Kleft(theta_G, theta_D^Kleft(theta_G, theta_Dright)right)}{partial theta_G} + dfrac{partial V_Kleft(theta_G, theta_D^Kleft(theta_G, theta_Dright)right)}{partial theta_D^Kleft(theta_G, theta_Dright)} dfrac{partial theta_D^Kleft(theta_G, theta_Dright)}{partial theta_G}$

Первый член градиента соответствует обновлению неразвернутого ГАНа, т.е. при фиксированном дискриминаторе $theta_D^K, K=0$. А вот вторая часть по правилу дифференцирования сложной функции может разворачиваться в длинную цепь. Он отражает то, как дискриминатор будет реагировать на изменения генератора. Например, если генератор хотел бы генерировать семплы только с одной моды распределения данных, то второй член наложил бы штраф на эту моду. Такой процесс вылился бы в то, что распределение генератора будет тоже мультимодальным. При $K rightarrow infty$ второй член был бы равен нулю (т.к. это был бы локальный оптимум, а производная там равна нулю), а при $K=0$ второго и не было бы вовсе, получается, что нужно выбирать нечто посередине. Но мы в любом случае ограничены ресурсами, и $3-5$ это то, что реально можно попробовать в задачах. В статье, правда, нет никаких нормальных экспериментов, но в интернете можно найти хорошие примеры. В статье же приводится искусственный эксперимент, в котором семплируются примеры из смеси из восьми гауссиан и показывается, как обычный ГАН коллапсирует в одну моду (нижняя строка), а развернутый выучивает все восемь.

Нейросетевая игра в имитацию - 152

Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks (30 Mar 2017)

Ну и под конец я затрону буквально в нескольких предложениях одну мою самую любимую модель, ибо она проста, элегантна и эффективна. Более подробно про эту модель будет вскоре отдельный пост с матаном и кодом.

Представьте, что у нас есть два домена X и Y, например, селфи мужчин и женщин. Мы хотим сделать модель, которая умеет конвертировать мужчин в женщин, а женщин в мужчин.

Нейросетевая игра в имитацию - 153

Для этого мы возьмем две сети-генератора $G: X rightarrow Y$ и $F: Y rightarrow X$, а выходу каждой из них приделаем свой дискриминатор, который будет отличать, является ли пример подделкой (например, женщиной полученной из мужчины), или же является настоящим. А для того, чтобы стабилизировать обучение, заставим наше отображение быть биективным, тогда каждая из сетей генераторов будет обратной функцией для другой, например, $x approx Fleft(Gleft(xright)right)$. В итоге получится следующее (в первой строке оригинальные фото меня и жены, во второй результат прогона через мужскую сеть, в третьей — результат прогона через женскую сеть):

Нейросетевая игра в имитацию - 157 Нейросетевая игра в имитацию - 158

Немного CycleGAN расизма вам в ленту

Нейросетевая игра в имитацию - 159
Нейросетевая игра в имитацию - 160
Нейросетевая игра в имитацию - 161
Нейросетевая игра в имитацию - 162

PS: кстати, если вы будете такое делать, то замените попиксельный consistency loss на такой же, но в пространстве VGG признаков, как это делается в задаче style transfer.

В общем, ждите вскоре детального разбора этой сети.

Заключение

На этом на сегодня у меня все. ГАНы уже как год являются одной из самых популярных тем в глубоком обучении. Для тех, кто захочет углубиться в них, вот несколько полезных ссылок:

Было бы в общем в жизни все так просто как в ГАНах:

Нейросетевая игра в имитацию - 163

Спасибо за правки и советы следующим дамам и господам из ложи датасаентологов: bauchgefuehl, barmaley_exe, yorko, ternaus и movchan74.

Автор: Павел Нестеров

Источник

Поделиться

* - обязательные к заполнению поля