Рубрика «математика»

Визуальная теория информации (часть 1) - 1

Перевод интересного лонгрида посвященного визуализации концепций из теории информации. В первой части мы посмотрим как отобразить графически вероятностные распределения, их взаимодействие и условные вероятности. Далее разберемся с кодами фиксированной и переменной длины, посмотрим как строится оптимальный код и почему он такой. В качестве дополнения визуально разбирается статистический парадокс Симпсона.

Теория информации дает нам точный язык для описания многих вещей. Сколько во мне неопределенности? Как много знание ответа на вопрос А говорит мне об ответе на вопрос Б? Насколько похож один набор убеждений на другой? У меня были неформальные версии этих идей, когда я был маленьким ребенком, но теория информации кристаллизует их в точные, сильные идеи. Эти идеи имеют огромное разнообразие применений, от сжатия данных до квантовой физики, машинного обучения и обширных областей между ними.

К сожалению, теория информации может казаться пугающей. Я не думаю, что есть какая-то причина для этого. Фактически, многие ключевые идеи могут быть объяснены визуально!

Читать полностью »

(Кто уже читал предыдущие части перевода этой лекции, перематывайте до таймкода 20:10)

[Хэмминг местами говорит очень неразборчиво, поэтому если есть пожелание по улучшению перевода отдельных фрагментов — пишите в личку.]

Этой лекции не было в расписании, но ее пришлось добавить, чтобы не возникало окна между занятиями. Лекция, в сущности, посвящена тому, как мы знаем то, что мы знаем, если, конечно, мы и в самом деле это знаем. Эта тема стара как мир – она обсуждается последние 4000 лет, если не дольше. В философии для ее обозначения создан специальный термин – эпистемология, или наука о знании.

Я бы хотел начать с первобытных племен далекого прошлого. Стоит отметить, что в каждом из них существовали миф о сотворении мира. По одному древнеяпонскому поверью, некто взболтал грязь, из брызг которой появились острова. Подобные мифы были и у других народов: например, израильтяне верили, что Бог шесть дней творил мир, после чего устал и закончил творение. Все эти мифы схожи – хотя сюжеты их довольно разнообразны, все они пытаются объяснить, почему существует этот мир. Я буду называть такой подход теологическим, поскольку он не предполагает объяснений, кроме как «это произошло по воле богов; они сделали то, что посчитали нужным, и так появился мир».

В районе VI века до н. э. философы античной Греции начали задавать более конкретные вопросы – из чего состоит этот мир, каковы его части, а также попытались подойти к ним скорее рационально, нежели теологически. Как известно, они выделяли стихии: землю, огонь, воду и воздух; у них было еще множество других понятий и убеждений, и медленно, но верно все это преобразовалось в наши современные представления о том, что мы знаем. Тем не менее, тема эта озадачивала людей во все времена, и даже древние греки задавались вопросом, как они знали то, что они знали.
Читать полностью »

Про геометрический смысл кодов Грея - 1

Коды Грея имеют близкую родственную связь с кривой Гильберта.
Впрочем, при общении с коллегами выяснилось, что эта несложная зависимость выглядит в их глазах как нечто нетривиальное. Поиск в интернетах навскидку ничего не дал кроме мутной фразы в вики: “кривые Гильберта в пространствах большей размерности являются представителями обобщений кодов Грея”. Поэтому возникло желание раскрыть тему — коротенько, простым языком.
В результате под катом — «скандалы, интриги, расследования».
Читать полностью »

******************* Ну и кто из нас читал «Начала» Ньютона? *****************

Беру в руки журнал “Наука и жизнь” №1 2020. На обложке бросается в глаза вопрос “Почему Эйнштейн самый великий физик?”. Действительно, почему? Открываю статью Евгения Берковича “Трагедия Эйнштейна, или счастливый Сизиф”. Начинается она так: “Кто самый великий физик? Спросите об этом кого угодно, любой вам скажет: Альберт Эйнштейн. Не зря строгий академик Лев Ландау поставил его первым в иерархии физиков”.

Но, господин Беркович, ведь Ландау классифицировал, как мне кажется, только действующих на тот момент физиков. По крайней мере, где бы шкала Ландау не упоминалась, Ньютон там не упоминался. При всей «скромности» Ландау я не могу вообразить, что где-то есть список, составленный им и в котором был бы и Ньютон и сам Ландау.

“Спросите об этом кого угодно…”. Господин Беркович берет на себя смелость отвечать за всех. Ну, кого угодно, так кого угодно — мне угодно взять себя. Беру себя. И отвечаю: самый великий физик это Исаак Ньютон.
Читать полностью »

Доказательство на стыке чистой математики и теории алгоритмов возвышает «квантовую запутанность» на совершенно новый уровень.
Насколько запутанна квантовая система? Ответ может быть невычислим - 1
Квантовая запутанность находится в сердце нового математического доказательства.Credit: Victor De Schwanberg/Science Photo Library

Читать полностью »

Исследователи столетиями искали примеры ситуаций, в которых уравнения Эйлера для гидродинамики идеальной жидкости окажутся неверными. И вот, наконец, такой пример нашли математики.

При сближении колец жидкости в определённых упрощённых случаях описывающие их движения уравнения Эйлера не работают

Математики уже много лет подозревали, что при определённых условиях уравнения Эйлера откажутся работать. Однако они не могли описать конкретный сценарий, в котором это происходит. До сегодняшнего дня.

Эти уравнения представляют собой идеализированное математическое описание движения жидкости. В границах определённых предположений они моделируют распространение волн на пруду или просачивание патоки из банки. Они должны уметь описывать движение любой жидкости в любых условиях – и более двух столетий всё так и было.
Читать полностью »

Эта статья является моим вольным пересказом работы Learnability can be undecidable, Shai Ben-David, et al.

Недавно на Хабре вышла статья Машинное обучение столкнулось с нерешенной математической проблемой, которая является переводом одноименного обзора в Nature News статьи Шай Бен-Давида. Однако, из-за особенностей тематики и краткости оригинального обзора мне осталось совершенно непонятно, что же было в статье. Зная Шай Бен-Давида, как автора прекрасной книги "Understanding Machine Learning: From Theory to Algorithms", я заинтересовался этой темой, ознакомился с этой работой и постарался тут изложить основные моменты.

Сразу скажу, что статья довольно сложная и, возможно, я упустил некоторые важные моменты, но мой обзор будет более полным, чем тот, который уже есть на Хабре.

Читать полностью »

Салют! В преддверии запуска новых потоков по продвинутому и базовому курсам «Математика для Data Science» хотим поделиться с вами достаточно интересным переводом. В этой статье не будет практики, но материал интересен для общего развития и обсуждения.


Группа исследователей столкнулась с открытой математической проблемой, связанной с рядом логических парадоксов, которые были открыты знаменитым австрийским математиком Куртом Гёделем еще в 1930-х годах.

Математики, работавшие над проблемами машинного обучения, доказали, что возможность «обучаемости», то есть то, может ли алгоритм извлечь паттерн из ограниченных данных, тесно связана с парадоксом, известным как гипотеза континуума. Гедель говорил о том, что с помощью стандартных возможностей математического языка гипотезу нельзя ни подтвердить, ни опровергнуть. Последние результаты исследований на эту тему были опубликованы в Nature Machine Intelligence от 7 января.Читать полностью »

image

Основным объектом которым манипулируют в Tensorflow, является тензор. О том, что такое тензор, какие бывают тензоры, какие у них есть свойства и как ими манипулировать читайте в переводном руководстве с сайта tensorflow.org.

Читать полностью »

Созерцание великого фрактального подобия - 1
(с) «Галактика галактик»

Фракталы — не просто красивое природное явление. Согласно проведенным исследованиям, рассматривание фрактальных структур на 60 % повышает стрессоустойчивость, измеряемую на основе физиологических показателей. При созерцании фракталов в лобной коре головного мозга всего за одну минуту увеличивается активность альфа-волн — как во время медитации или при ощущении легкой сонливости.

Неудивительно, что фрактальный биодизайн оказывает на человека умиротворяющее воздействие. Нам нравится смотреть на облака, на языки пламени в камине, на листву в парке… Как это работает? Ученые предполагают, что естественный ход поисковых движений наших глаз — фрактальный. При совпадении размерности траектории движения глаз и фрактального объекта мы впадаем в состояние физиологического резонанса, за счет чего активизируется деятельность определенных участков мозга.

Но не все фракталы одинаково полезны. В данной статье расскажем о фрактальной размерности и о её влиянии на здоровье.
Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js