Данная статья посвящена детальному разбору числового типа данных float.
Тип данных это метод хранения блока битов в определённом порядке и по определённым алгоритмам (правилам), чтобы при декодировании битов можно было получить достоверные данные.
Существует две группы типов данных:
Примитивные
Структурированные
Примитивные типы данных делятся на целочисленные, вещественные, символьный, строковый, логический.
Как следует отображать на экране результат деления 3.0 на 10.0 ? Сколько цифр следует вывести, если пользователь не указал точность?
Скорее всего, вы даже не знали, что вывод на экран чисел с плавающей запятой — это сложная проблема, настолько сложная, что по ней написаны десятки научных статей, причём последний прорыв был относительно недавно, в 2016 году. На самом деле, это одна из самых сложных частей поддержки чисел с плавающей запятой в среде выполнения языка.
Давайте продолжим разговор о самой неоптимизированной в мире библиотеке эмуляции плавающей точки при помощи целочисленной арифметики.
*Все примеры здесь рассматриваются для 64 битных чисел(все примеры аналогичны и для других значений), если не указано иное.
Ещё одна причуда Python, исследование её подноготной и попытка понять, почему так случается.
Недавно в сети X был популярен этот твит (см. скриншот), и я обратил внимание. Это очередной сюрприз в Python, связанный с характерными для него уникальными деталями реализации.
Читать полностью »
На недавней встрече комитет C++ активно взялся за C++26. Уже есть первые новинки, которые нас будут ждать в готовящемся стандарте C++:
static_assert,_,std::to_string,native_handle(),*function*,constexpr,std::submdspan,Казалось бы, совершенно непонятно, зачем живым людям в 2021 году решать задачу под названием «печатаем обычное вещественное число». Вроде бы это должно быть уже решено — причём примерно в тот момент, когда эти вещественные числа изобрели. Но оказывается, что нет.
Привет, меня зовут Андрей, я занимаюсь инфраструктурой поиска в Авито и сегодня расскажу, зачем это вообще нужно — печатать вещественные числа. Какие есть методы (один) решения этой боевой задачи и как это получилось у нас в проекте, в рамках наших очень странных требований. А также, зачем таки подобное, хм, умеренно эзотерическое знание, можетЧитать полностью »
Недавно я вернулся к анализу погрешностей чисел с плавающей запятой, чтобы усовершенствовать некоторые детали в следующей редакции книги Physically Based Rendering. Числа с плавающей запятой — интересная область вычислений, полная сюрпризов (хороших и плохих), а также хитрых трюков, позволяющих избавиться от неприятных неожиданностей.
В процессе работы я наткнулся на этот пост на StackOverflow, из которого узнал об изящном алгоритме точного вычисления 
.
Но прежде чем приступать к алгоритму, нужно понять, что же такого хитрого в выражении 
? Возьмём 
, 
, 
и 
. (Это реальные значения, которые получились у меня во время запуска pbrt.) При 32-битных значениях float получаем: 
и 
. Выполняем вычитание, и получаем 
. Но если выполнить вычисления с двойной точностью, а в конце преобразовать их во float, то получится 
. Что произошло?
Проблема в том, что значение каждого произведения может сильно выйти за нижнюю границу 
, где расстояние между представимыми значениями с плавающей запятой очень велико — 64. То есть при округлении 
и 
по отдельности до ближайшего представимого float, они превращаются в числа, кратные 64. В свою очередь, их разность будет кратной 64, и не останется никакой надежды, что она станет к 
ближе, чем 
. В нашем случае результат оказался ещё дальше из-за того, как два произведения были округлены в 
. Мы напрямую столкнёмся со старым добрым катастрофическим сокращением1.
Читать полностью »