Нейрокурятник ч.0. Или нейро- без курятника

1. Вступление ^[1]про обучение себя нейросетям
2. Железо, софт и конфиг ^[2] для наблюдения за курами
3. Разметка датасетов
4. Параллельное участие в соревнованиях, визуализации внутренностей нейросетей, развитие архитектур моделей
5. Работающая модель для распознавания кур в курятнике
6. Бот, который постит события из жизни кур

Можно начать с того, что моя девушка написала прекрасную статью ^[3]про свое путешествие и установку системы наблюдения за курами в курятник. Зачем? Потому что прикладная задача мотивирует гораздо больше, чем задачи на Kaggle, где все тоже далеко не идеально (лики в 1/2 задач, побеждающие архитектуры — это стеки из 15 моделей, оверфиттинг для поиска немасштабируемых закономерностей итд итп). Моя задача — написать нейросети и код на питоне, который будет отличать кур, и, возможно, логировать события в жизни кур в нашу любимую СУБД ^[4]. В процессе можно научиться много чему интересному и, возможно, даже изменить свою жизнь, поделившись своими мини-наработками. И приятно, и полезно и весело.

Можно также начать с того, что в принципе сейчас наблюдается новая ветка «пузыря» на рынке технологий — все резко побежали «в AI». Раньше все бежали в IT, в онлайн, в «бигдату», в «сколково», в AR/VR. Если посидеть в тематических российских чатах, то там люди как правило или пишут все с нуля на {вставить свой экзотический язык} или делают одноразовых чат-ботов, осваивая средства пиарящихся корпораций. Но ведь если следовать таким ^[5]принципам в своем само-образовании, то учиться надо у ярых фанатов своего дела, которые делают то, что они делают, не ради наживы, а ради прекрасного.

И тут мне на помощь пришел неизвестный человек, который вставил строчку в мой файл ^[6], куда я собирал образовательные полезности в сфере работы с данными. Что удивительно, эти люди ^[7](fast.ai — ссылка, которую кто-то вставил) проделали просто гигантскую работу по популяризации и обучению даже с нуля, следуя принципу инклюзивности и целостности образования против эксклюзивности и принципа «башни из слоновой кости». Но обо все по порядку.

Подход к образованию in a nutshell.

Сами авторы расскажут лучше меня.

Я видел один раз в как в чате ods (если знаете что это, поймете) сформировалась команда, которая заняла второе место на соревновании по распознаванию снимков спутника, но общее количество человеко-часов нужно для такого выступления не мотивирует участвовать в таких конкурсах с учетом неидеальности мира. Также в принципе отношение вознаграждения исследователей к общей цене конкурса не внушает энтузиазма.

Поэтому все нижеописанное сделано для нейрокурятника и только для него.

На всякий случай уточню, что в мои задачи НЕ входит:

Я хочу поделиться прекрасными вещами и приобщить к ним максимальное число людей, дав максимально простое и широкое описание пути, который сработал для меня.

• 1. Изучите хотя бы основные понятия:
  1. Линейной алгебры. Цикл ^[8]вводных видео. Начните хотя бы с них;
  2. Математического анализа. Цикл ^[9]вводных видео;
  3. Почитайте про градиентный спуск. Вот обзор ^[10]методов и вот визуализация ^[11]. Остальное найдете сами в курсах;
• 2. Если вы вообще не знаете ни про что из списка, будьте готовы вложить 200-300 часов своего времени. Если только нейросети и / или питон — то 50-100 часов;
• 3. Заимейте себе Ubuntu или ее аналог (да здравствуют комменты в стиле «не труЪ»). Мой краткий обзорный гайд ^[12](интернет поможет найти более подробные технические гайды). Конечно, также можно извратиться через виртуалки, докеры, мак итд итп;
• 4. Поставьте себе третий питон (как правило уже стоит из коробки, 2017 год). Именно третий. Но лучше лишний раз сказать. Не пытайтесь менять системный питон в Линуксе — все сломается;
• 5.Если вы не очень знакомы с питоном, то (все, опять же гуглится):
  1. Самый простой и бесплатный источник уровня «база» и бесплатный (никаких курсов за 30-50к рублей, чтобы потом пойти работать инструктором на эти же курсы за 30к рублей, когда заявлена средняя зп якобы в 100к рублей);
  2. Идеальная входная точка ^[13]рекурсии по использованию питона для работы с данными;
• 6. Поставьте себе jupyter notebook ^[14]и это расширение ^[15](вам нужно code folding). Очень сокращает время работы. Правда;
• 7. Купите себе видеокарту (сейчас выгоднее купить, чем арендовать — начало 2017):
  1. Что собрал в 1 посте ^[16]на канале;
  2. Лучший пост ^[17]про железо;
  3. Лучший тред ^[18]про настройку софта и сборку;
  4. Мой пост ^[19]со ссылками и конфигами;
• 8. Лучшие образовательные (БЕСПЛАТНЫЕ) ресурсы:
  1. www.fast.ai ^[20] — входная точка ^[7]рекурсии. Там безумного много информации в блоге, в видео, на форуме, в вики и notes;
  2. Великолепная книга ^[21]про нейросети и первый код ^[22]из нее на третьем питоне (гуглите, может кто-то задебажил весь код, я заленился после первых двух глав);
  3. Великолепный курс ^[22]Andrew Ng и его интерпретация ^[23]на питоне;
• 9. Jupyter notebook (html ^[24] ipynb ^[25]), который:
  1. Содержит иерархическую структуру ячеек, в каждой из которых описано что делается и зачем;
  2. Основные инклюды, утилиты и библиотеки разбиты по типам;
  3. Приведены ссылки на основные источники, нужные, чтобы понять, что происходит;
  4. Приведен сахар для работы с Keras (подробнее без продаванства тут ^[26], сами люди из fast.ai рекомендуют именно ее);
  5. Для датасета ^[27]машин проезжающих за окном получена точность предсказания класса в ~80% (рандом дает 50%, но картинки говенные и мелкие);
  6. Для датасета с соревнования distracted driving ^[28] полученная точность предсказания 10 классов в ~50% и ошибкой, которая точно входит в топ 15-20% решений в мире;

1. Использование визуализаций для понимания того, чему учится сеть;
2. Использование тренировочного сета в 300-500 картинок, чтобы быстро понять какие параметры искажения картинок лучше всего подходят;
3. Использование test датасета (или cross-validation) для увеличения точности. Нужно добавлять не более 25-30% таких картинок (semi-supervised learning);
4. Использование тонкой настройки imagenet как как дополнительной опции для модели;

1. Датасет с машинами показал, что если картинки маленькие и выборка из классов смещенная (один класс больше чем другой), то модель будет хорошо определять только один класс;
2. Начинайте с маленького сета, чтобы модель тренировалась за несколько десятков секунд и настройте мета-параметры изменения изображений;
3. Если у вас есть некой приложение из распознавания движения + нейросети, то лучше сразу обрезайте картинки в open-cv, не оставляйте на потом;
4. У нейросетей есть так называемый эффект «easy way out», когда кост-функция может относительно долго находиться в локальном минимуме, потому что предсказать 50% вероятность попадания постоянно в 1 класс проще, чем учиться;
5. Пробуйте сначала простые архитектуры, усложняйте постепенно. Если тренируется медленно — возьмите маленькую выборку или проверьте свою модель;
6. Простая архитектура + пробуйте разные мета-параметры (learning rate);
7. Если кост-функция не уменьшается совсем, то где-то в модели если досадная опечатка. Проще все ее найти можно сравнив свою модель с моделью другого человека;
8. Сейчас на уровне программного сахара (keras) есть уже огромное количество state-of-the-art фич, таких как:
   1. Нормализация изображений;
   2. Искажение изображений;
   3. Dropout;
   4. Convolutions;
   5. Итераторы для последовательного чтения файлов;
9. Из интересного (не из области стакания 15 моделей) в соревнованиях Kaggle я бы отметил использование комбинаций таких вещей как:
10. Предобработка изображений, поиск контуров и фигур с помощью open-cv;
11. Сверточные нейросети для основной классификации;
12. Нейросети для создания мета-данных про картинки — например тут ^[29]сначала они ищут у китов головы, и только потом определяют кита;
13. Собрал тут ^[30]интересное про последние архитектуры на Kaggle

Первые 285 автомобилей имеют скромные размеры в пикселях + там все смазано...

Когда хочется побыстрее обрезать картинки, а думать не хочется рождаются вот такие уродливые решения

Разница в точности на тренировке и валидации намекает, что датасет перекошен, маленький и вообще. Зато красивый прогресс-индикатор.

Не куры, но виновники торжества. Очень смазанные — в движении

Радости нет границ, когда быдлокод, написание которого растянулось на час, начал работать и обрезать машину.

На практике места в памяти видео-карты хватает или с запасом, или его сразу не хватает. Тяжело подобрать размер картинки и размер batch'а, чтобы и рыбку съесть и…

Правило пальца — сверточные слои требуют много памяти, а dense слои — много времени.

Сравните полезную площадь на этой картинке...

И сколько тут полезных пикселей =) Да у курицы голова больше машины (в пикселях) — моя видеокарта будет страдать

Не расчитал — память кончилась и все упало. А функции очистки, кроме как перезапуска я не нашел пока