Механизм внимания (Attention) - это метод в искусственном интеллекте, который позволяет нейросети динамически определять, какие части входных данных наиболее важны для текущей задачи. Он работает через вычисление весов важности для разных элементов входа: более важные элементы получают больший вес, а менее важные - меньший. Затем модель формирует взвешенную сумму представлений, создавая новый контекстный вектор.
Рубрика «внимание»
Краткий справочник про внимания (self-attention, cross-attention, multi-head attention)
2026-04-08 в 4:15, admin, рубрики: attention, beginner, pytorch, self-attention, transformer, внимание, глубокое обучение, искуственный интелект, математика, машинное обучениеМы там, где наше внимание. Часть #02
2026-03-10 в 9:52, admin, рубрики: внимание, внимательность, восприятие, концентрация внимания, психологияНачало - Мы там, где наше внимание. Часть #01.
Знакомая большинству (или – всем?) ситуация: среди белого дня или на ночь глядя всплывает из горячих слоёв памяти обидная история из прошлого – пятилетней давности, а может, даже из самого раннего детства, из песочницы.
И всё, день померк, а предвкушаемый сон тут же сошёл, вместо этого перед глазами – обидчик, а в голове – недосказанные тогда слова. У девушек могут сами собой политься слёзы, а у мужчин – сжаться кулаки.
Вы соревнуетесь не с умными людьми, а с их вниманием, и планка сейчас на дне
2026-03-01 в 13:01, admin, рубрики: attention, ruvds_статьи, бессонница, внимание, мотивация, рассеянность, сон, Стресс, улучшениеВот я сижу перед чистым листом. Я намерен писать только свои мысли, без постороннего влияния и без лишней спешки. Это должно быть совсем просто.
Мне нужно лишь сосредоточиться...поймать фокус...
Вот, кажется, сейчас... он близко, вот-вот придёт... ещё немного и...
Чёрт. Я не могу...
Наверняка, с вами бывала ситуация.
Вы едете в метро, или сидите на важном совещании. Или вы засыпаете. Внезапно, какая-то ваша мысль, живя своей жизнью, натыкается на забытый и коварно хранящийся как раз для такого момента взрывоопасно смешной анекдот или такой же убойности историю. И всё — рамки сокрушены, вы неудержимо начинаете вздрагивать от попыток сдержать смех, сгорая под негодующими взглядами окружающих или уже не надеясь уснуть.
Видеть и лес, и деревья. Новая модель мозга, созданная на основе искусственного интеллекта, раскрывает природу обучения
2026-01-13 в 12:58, admin, рубрики: внимание, искусственный интеллект, моделирование мозга, модель мозга, мозг, нейронные сети, обучение, обучение нейросетей, работа нейросетей, синхронизация мозгаКогда речь идет про моделирование работы мозга, то возникает проблема «не видеть лес за деревьями». Модель каждого, взятого по отдельности нейрона, может работать достаточно хорошо. Можно даже связать их в достаточно стабильную нейронную цепь. Но дальнейшее моделирование «поведения, близкого к реальному», становится вызовом. До сегодняшнего дня.
Биомеханика внимания: от клиренса ликвора до интракраниальной нейромодуляции
2026-01-08 в 10:14, admin, рубрики: Биотехнологии, внимание, возрастные изменения, выгорание, мозг, нейромодуляция, Стресс, эмоциональная регуляцияПоследние годы в нейробиологии ознаменовались фундаментальным сдвигом: от анализа субъективных отчетов («мне стало спокойнее») мы перешли к прямой регистрации физиологических параметров высокочувствительными датчиками.
Современные протоколы управления вниманием рассматриваются уже не как психологическая практика, а как метод прецизионной нейромодуляции, способный изменять гидродинамику ликвора, подавлять системные маркеры воспаления и корректировать электрическую активность глубоких лимбических структур.
Ускоряем LLM по максимуму. Как я создал кросс-платформенный Flash Attention с поддержкой Turing+ архитектур и не только
2025-12-16 в 18:37, admin, рубрики: attention, FlashAttention, llm, Transformers, triton, большие языковые модели, внимание, машинное обучение, оптимизация производительности, трансформеры
Когда СДВГ не приговор. Сильные стороны и преимущества СДВГ
2025-10-18 в 9:00, admin, рубрики: внимание, гиперактивность, концентрация, креативность, психика, психология, распределение внимания, СДВГ, синдром дефицита внимания, фокусРечь идет о диагностированном специалистом конкретном расстройстве. Психика остается деликатным образованием и каждый, кто в этом заинтересован, может с лёгкостью прикрываться синдромом, продолжая вести себя по-хамски. Здесь же речь пойдет о том: какие вообще есть сильные стороны у СДВГ, почему о них никто не говорит, и на что ориентироваться человеку с таким диагнозом?
Как улучшить внимание: что я взял из подходов к СДВГ
2025-04-07 в 14:00, admin, рубрики: внимание, концентрация, СДВГРазработка программного обеспечения требует постоянного переключения контекста и глубокой сосредоточенности. Я успешно работаю в этой сфере уже восемь лет и хочу поделиться личными советами, которые помогают мне сохранять фокус.
Хотя у меня нет официального диагноза СДВГ, я замечал у себя типичные симптомы. При этом исследования по СДВГ (синдрому дефицита внимания и гиперактивности) могут принести пользу любому, кто стремится улучшить концентрацию.
Как жить и работать при нарушениях внимания?
2024-09-25 в 9:01, admin, рубрики: ruvds_статьи, внимание, здоровье мозга, продуктивность, работа, СДВГ▍ Предисловие. Флейта хулуси
Щёлк — я обнаруживаю себя за просмотром ролика на YouTube, в котором музыкант рассказывает, как ухаживать за флейтой из сушёной тыквы. Как я оказался здесь?! Зачем? На мгновение я пугаюсь того, что не могу вспомнить, каким образом попал на этот ролик. Я ведь не планировал узнавать про эти флейты и вообще сел работать. Холодок пробегает по коже.
Пытаюсь размотать предысторию, пройти путь своих блужданий обратно. Листаю историю браузера и вижу, что это уже третий по счёту ролик, а до этого я был на вкладке с «Авито». И тут понимаю, как это произошло. Я сел работать и на мгновение решил заглянуть на сайт по продаже вещей, посмотреть, есть ли сообщения, и там залип на странице с предложенными товарами, среди которых была эта самая флейта. Мне стало интересно, я полез сначала на Википедию, потом на YouTube. Ну нужно же послушать, как она звучит… Вот небольшой пример того, как живётся людям с неустойчивым вниманием.
▍ Дисклеймер
Я ожидаю справедливого негодования от тех, кого раздражает использование психологических проблем для оправдания нытья, бездействия и как аргумента для просьбы о снисхождении к себе. Давайте сразу проведём чёткую границу между теми, кто ведёт себя инфантильно, сваливая ответственность на психологические расстройства. Таких людей я не одобряю и их незрелое поведение порицаю. По другую сторону этой черты будут те, кому осознание своих проблем помогает стать более адаптивными, спокойными и обрести опору в понимании происходящего с ними.Читать полностью »