Войти
ПрограммированиеФорумОбщее

Трюки с float: быстрое вычисление логарифмов. (комментарии) (3 стр)

Страницы: 1 2 3
#30
18:50, 10 окт. 2011

Если экспонента 5, то число должно быть от 1*2^(5-15) до 1.99(9)*2^(5-15), а в случае 22 это не так.


#31
21:50, 10 окт. 2011

Опытным путём удалось обнаружить, что при value == 22.0 :
exp (without bias) == 19
exp (with bias) == 5
mantissa (normalized) == 0.6875

Осталось понять как мантисса такой получилась.

поправка: mantissa == 0.6875

#32
0:45, 11 окт. 2011

Если exp = 5, а мантисса 0.6875, то как раз будет
0.6875*(2^5) = 22

#33
8:21, 11 окт. 2011

kipar
Да не, всё так, формула подходит как к флоат так и халф, но с одним маленьким ньюансом, хер поймёшь когда 0 когда 1 перед мантисой,
если взять флоат например то там мантиса равна 1.375,  например 1.375*(2^4) = 22

Прошло более 7 месяцев
#34
20:11, 16 мая 2012
можно найти добиться

Отредактируйте пожалуйста.Предпоследний абзац.

Страницы: 1 2 3
ПрограммированиеФорумОбщее

Тема в архиве.