Машинное обучение в MatLab-Octave: примеры алгоритмов, подкрепленные формулами
Недавно я начал изучать machine learning. Начал с прекрасного, на мой взгляд, курса [1] от Andrew Ng. И чтобы не забыть, а так же повторить выученное решил создать репозиторий Machine Learning in Octave [2]. В нем я собрал математические формулы для гипотез, градиентных спусков, "cost function"-ов, сигмоидов и прочих фундаментальных для машинного обучения "штук". Так же добавил туда упрощенные и доработанные примеры реализации некоторых популярных алгоритмов (нейронная сеть, линейная/логистическая регрессия и пр.) для MatLab/Octave. Надеюсь эта информация будет полезна для тех из вас, кто планирует начать изучение machine learning-а.
Тема машинного обучения достаточно обширная, о чем можно судить, например, из следующей схемы, которую я взял (перевел) из великолепной статьи [3] vas3k-а.
На данный момент из всего этого разнообразия в репозитории есть примеры пяти supervised и unsupervised алгоритмов:
- Линейная регрессия [4] с примером прогнозирования стоимости дома.
- Логистическая регрессия [5] с примерами определения неисправных чипов, а так же распознавания рукописных цифр с применением принципа "один против всех".
- Алгоритм K-means [6] с примером распределения данных на три кластера.
- Поиск аномалий с помощью распределения Гаусса [7] с примером определения перегруженного сервера.
- Нейронная сеть на основании многослойного "персептрона" [8] с примером распознавания рукописных цифр.
Для каждого алгоритма есть файл demo.m, с которого можно начать анализ отдельно взятого алгоритма. При запуске этого файла из консоли Octave (или из MatLab-а) будет выведена служебная информация, иллюстрирующая работу алгоритма, а так же будут построены графики, помогающие разобраться с каким тренировочным сетом идет работа.
Надеюсь этот репозиторий будет для вас полезным и поможет сделать очередной шаг в сторону машинного обучения.
P.S. Примеры в репозитории созданы для MatLab [9]/Octave [10]. Это, возможно, не такая популярная опция сейчас, как Python, но все-же для обучения, быстрого прототипирования и того же перемножения матриц без дополнительных плагинов и библиотек может неплохо подойти. Еще раз успешного вам кодинга!
Автор: trehleb
Источник [11]
Сайт-источник PVSM.RU: https://www.pvsm.ru
Путь до страницы источника: https://www.pvsm.ru/matlab/297663
Ссылки в тексте:
[1] курса: https://www.coursera.org/learn/machine-learning
[2] Machine Learning in Octave: https://github.com/trekhleb/machine-learning-octave
[3] великолепной статьи: https://vas3k.ru/blog/machine_learning/
[4] Линейная регрессия : https://github.com/trekhleb/machine-learning-octave/blob/master/linear-regression
[5] Логистическая регрессия: https://github.com/trekhleb/machine-learning-octave/blob/master/logistic-regression
[6] Алгоритм K-means : https://github.com/trekhleb/machine-learning-octave/blob/master/k-means
[7] Поиск аномалий с помощью распределения Гаусса: https://github.com/trekhleb/machine-learning-octave/blob/master/anomaly-detection
[8] Нейронная сеть на основании многослойного "персептрона": https://github.com/trekhleb/machine-learning-octave/blob/master/neural-network
[9] MatLab: https://www.mathworks.com/
[10] Octave: https://www.gnu.org/software/octave/
[11] Источник: https://habr.com/post/428417/?utm_campaign=428417
Нажмите здесь для печати.