Войти
ПрограммированиеФорумОбщее

Детали плавающей точки (комментарии) (2 стр)

Страницы: 1 2
#15
4:25, 16 сен. 2017

0r@ngE
Какое-то оно странное.
Т. е. вот несчастная (-1)S * 1.T * 2E-127 чем страшна?

Вот, даже коммент там запостил:
http://fabiensanglard.net/floating_point_visually_explained/index… nt-3519675121


Прошло более 9 месяцев
#16
19:00, 20 июня 2018

Немного ссылок:
https://web.ti.bfh.ch/~frc1/www/iseminar/cern-slides.pdf - местами неплохие слайды.
https://doc.lagout.org/science/0_Computer%20Science/3_Theory/Hand… rithmetic.pdf - подробный учебник, полезен если есть желание плотно работать с плавучкой.

#17
19:12, 17 окт. 2018

Нашёл прикольную статью о прогрессе correctly-rounded функций:
http://www.acsel-lab.com/arithmetic/arith17/papers/ARITH17_Dinechin.pdf
Она короткая и во многом обзорная.

#18
2:20, 30 окт. 2018

Нашёл ещё годный учебник про плавучку: Nicholas J. Higham "Accuracy and stability of numerical algorithms". Кэхэн рекомендует.

Я использую тему, как склад инфы по плавучке, но вроде оно не проблема, что отдельную создавать?
#19
4:40, 30 окт. 2018

FordPerfect
добавь в саму статью ссылки

#20
22:18, 31 окт. 2018

Suslik
Подобавлял.

Одно другому не мешает.

#21
18:31, 13 ноя. 2018

Сохраню здесь.
Чтобы легче искать. Подборка ссылок по float<->string:
https://gamedev.ru/flame/forum/?id=233556&page=2#m19

#22
23:46, 9 дек. 2018

https://stackoverflow.com/questions/2060486/why-is-math-sqrtii-fl… 60705#2060705 :

It turns out that (with a similar analysis), for any exactly representable floating point number x, sqrt(x*x) is exactly x (assuming that the intermediate computation of x*x doesn't over- or underflow)

Страницы: 1 2
ПрограммированиеФорумОбщее