Символьная регрессия

При решении задач с применением методов машинного обучения, как правило, мы выбираем наиболее подходящий алгоритм в контексте задачи, а также способ настройки его параметров.

Давайте рассмотрим несколько иной подход: вместо того, чтобы самостоятельно выбирать алгоритм, разработаем программу, которая способна автоматически генерировать алгоритмы для решения задач.

Стохастический метод конструирования программ, основанный на использовании генетического алгоритма — называется генетическим программированием.

Несколько слов о генетическом алгоритме

Генетический алгоритм – это метод оптимизации, в основе которого лежит идея естественного отбора как средства достижения наилучшего результата. Обобщённость формулировки предоставляет возможность использовать этот алгоритм для решения разнообразных задач. Всё что нужно, это:

1. придумать каким образом решение задачи можна закодировать в виде хромосом, которые обладают способностью мутировать и скрещиваться
2. определить функцию приспособленности, которая вычесляет насколько оптимальным является решение закодированное той или иной хромосомой
3. имея начальную популяцию хромосом и функцию приспособленности, с помощью генетического алгоритма можно отыскать хромосомы, которые соответсвуют оптимальным решениям задачи

Конечно, генетическому алгоритму присущи определенные недостатки, связанные с его стохастической природой, но исходя из собственного опыта ^[1], могу заключить что он находит приемлемые решения в условиях ресурсо-временных ограничений.

Генетическое программирование и символьная регрессия

Предлагаю подробнее рассмотреть концепцию генетического программирования на примере символьной регрессии — задачи нахождения формулы, которая описывает некую зависимость. Более формально, её можно сформулировать как построение регрессионной модели в виде суперпозиции заданных функций.

Достаточно удобным вариантом представления программы является синтаксическое дерево. В данном случае роль «программ» играют алгебраические формулы. Листовые узлы соответствуют переменным или числовым константам, а нелистовые узлы содержат операцию, которая выполняется над дочерними узлами.

Пример синтаксического дерева:

Стоит заметить, что для каждого синтаксического дерева существует бесконечное количество семантически эквивалентных деревьев, например:

Мы будем использовать синтаксические деревья в качестве хромосом.

Генетические операции над синтаксическими деревьями

Скрещивание можно реализовать путем обмена случайно выбранных поддеревьев:

Мутаций можно придумать много различных вариантов, но в конечном счёте, в своей реализации я остановился на следующих:

1. Замена функции на случайно выбранную другую:
   

2. Замена поддерева на случайно сгенерированное поддерево:
   

3. Удаление промежуточного нелистового узла:
   

4. Создание случайного узла, который назначается новым корнем дерева:
   

5. Для узлов с некоммутативными операциями — перестановка местами дочерних поддеревьев:
   

Функция приспособленности синтаксического дерева вычисляет насколько хорошо соответствующая алгебраическая формула аппроксимирует данные, и, фактически, являет собой сумму квадратов отклонений значений сгенерированной функции от тренировочных данных.

Начальная популяция являет собой набор случайно сгенерированных синтаксических деревьев.

Оптимизации

В общем — описанных операций скрещивания и мутации должно быть достаточно для отыскания решения. Но, исходя из своего опыта, могу сказать, что в таком случае — более-менее приемлемое решение будет находится достаточно долго. Поэтому, опишу несколько оптимизаций, которые ускоряют поиск решений.

1. Давайте рассмотрим две формулы, созданные в процессе поиска решений (красные крестики — это тренировочные данные):
   
   Легко заметить, что синяя прямая находится вцелом довольно близко к тренировочным данным, в отличие от зеленой параболы — а значит, имеет меньшую сумму квадратов отклонений относительно тренировочной выборки.

   Но, с другой стороны, невооруженным глазом видно что парабола — как раз то что нам нужно.

   Все дело в коэффициентах. Как вы, возможно, уже догадались — коэффициенты каждого дерева оптимизируются. А для оптимизации коэффициентов, конечно же, используется генетический алгоритм!

   В данном случае хромосомой является массив чисел:
   

2. Поскольку мы работаем только с действительными числами — удобно оперировать функциями, в которых область значений является подмножеством области определения, например:

   +, -, sin(x), cos(x), ln(abs(x) +0.00001), sqrt(abs(x)) и т.д.

   Таким образом — в результате выполнения генетических модификаций мы будем гарантированно получать синтаксические деревья, не содержащие ошибок.

3. Бывают комбинации, в которых какое-либо поддерево содержит листовые узлы только с числовыми константами. Можно рассчитать его значение и упростить синтаксическое дерево:
   

4. Еще одна оптимизация заключается в ограничении максимальной глубины дерева (конечно, это накладывает свои ограничения на пространство поиска решений, но необходимость этой оптимизации продиктована практическими соображениями):
   

5. Для избежания ситуации, когда все деревья в популяции похожи друг на друга (генетический алгоритм застрял в локальном минимуме) — есть ненулевая вероятность полной замены одного из деревьев на случайно сгенерированное.

Достаточно теории, посмотрим как это работает на практике

Давайте попробуем отыскать формулу, которая будет удовлетворять следующую закономерность:

Искомая формула

На 111 итерации получаем формулу:

Которая после преобразований превращается в формулу, что почти совпадает с искомой:

Ниже изображена динамика формирования решения:

Интересно проследить за этапами формирования решения:

• вначале находится зависимость от переменной x (на рисунке данный этап не показан, поскольку величина ошибки всё ещё очень большая — примерно 130000)
• затем формула трансформируется в квадратическую зависимость от х (сумма квадратов отклонений ~3000)
• после чего идентифицируется зависимость от переменной y (сумма квадратов отклонений ~500)
• и наконец, после оптимизации числовых параметров и идентификации зависимости от переменной z достигается оптимальный результат.

Ещё один пример

Иногда получаются формулы, которые не так очевидны. Например, однажды, при попытке получить формулу я получил следующий результат:

Но если воспользоватся тождеством:

Можно показать что полученная формула правильная:

Если у Вас есть желание поэкспериментировать

Консольная утилита

1. У вас должна быть установлена среда выполнения Java ^[2]
2. Скачайте отсюда ^[3] файл symbolic_regression_1.0.jar
3. В том же каталоге, где находится symbolic_regression_1.0.jar, создайте файл (например data.txt) следующего содержания:
   

   # allowed functions are: ADD SUB MUL DIV SQRT POW LN SIN COS
   # set which functions to use:
   ADD MUL SUB

   # looking for:
   f(x, y, z) — ?

   # define training set:
   f(26, 35, 1) = 830
   f(8, 24, -11) = 130
   f(20, 1, 10) = 477
   f(33, 11, 2) = 1217
   f(37, 16, 7) = 1524

4. Запустить поиск решения:

   java -jar symbolic_regression_1.0.jar data.txt

   Решение считается найденным, если сумма квадратов отклонений меньше 10. Если решение ещё не найдено, то после каждых 50 итераций у Вас будет спрашиваться, хотите ли Вы продолжить.

Java программисты

Вы можете найти исходный код здесь: github.com/lagodiuk/genetic-programming ^[4]

Вместо заключения

На довольно ограниченном количестве формул, которые я успел проверить, получались неплохие результаты, ещё были успешные эксперименты по отысканию первообразных и производных.

Также генетическое программирование можно довольно успешно применять для автоматического конструирования нейронных сетей (здесь небольшая демка приложения, в котором я реализовал данный подход ^[5]).

Ещё есть идея — применить подобный подход (совместно с методиками QSAR) для автоматического конструирования структур химических соединений с заданными свойствами.

Литература

В Сети можно найти много материалов по тематике генетического программирования.
Отдельно хочу отметить следующие источники:

1. Toby Segaran, Programming Collective Intelligence ^[6]
2. Сайт создателя концепции генетического программирования ^[7]

Автор: stemm

Источник ^[8]