Упрощать и искать похожие детали, очень полезный навык! Предлагаю быстро пробежаться и попробовать найти ту самую серебряную пулю в RecSys !
Рубрика «loss-функции»
RecSys + DSSM + FPSLoss is all you need
2025-06-08 в 12:10, admin, рубрики: CLIP, cross-entropy, FPS, loss, loss-функции, machine learning, pairCE, recsys, tripletloss, рекомендательные системыКогда обучение не идет. Loss is NaN. Причины и решения
2025-04-13 в 17:35, admin, рубрики: AI, loss, loss function, loss-функции, machinelearning, mlПривет, это моя первая статья на Хабре. И я хочу рассказать вам о проблеме, на решение которой когда-то давно у меня ушло довольно много времени.
Часто бывает, что при обучении (или тестировании) модели нейронной сети (NN) функция потерь (loss) возвращает значение NaN (Not a Number). Это приводит к тому, что фаза обучения "срывается". Обычно неясно, почему это происходит. Я расскажу вам о возможных причинах и рекомендациях по решению этой проблемы.
Взрыв градиента
Существует две основные проблемы с градиентами на этапе обучения: исчезновение (vanishing) и взрыв (explosion) градиент. Первая описана в этих статьях:Читать полностью »