Russian Qt Forum

Всем привет !
Столкнулся с банальной, но неприятной и неразрешимой (пока) ситуацией при простой операции деления с вещественными числами.
Суть проблемы: при делении меньшего числа на большее число (по величине отличаются в 10 раз) результат получается: "0.10000000000000001" (и при отладке и при при прогоне программы). Причем результат не зависит от типа вещественных данных (пробовал qreal, double, long double).
Вот фрагмент кода:

Кроме того, при принудительном присваивании переменной значения "vX=0.1;", результат получается "vX=0.10000000000000001".  :o  ???


Пробовал округлять, но при нем вываливается тот же косяк....
У меня нет больше вариантов как с этим бороться .....

Использую Qt Creator (Qt 4.7.0 (32-битн.)) от Nokia Corp.
Пожалуйста, помогите ! :'(

Для вещественных чисел это обычная погрешность.

для сравнения используй

С чем бороться?
То, что Вы получаете - так и должно быть!
Это происходит при переводе из двоичной системы в десятичню. Можете проверить ручками!

Я допускаю такое при делении, но при присваивании ????

при выполнении этого фрагмента получается "vX=0.10000000000000001".
Может у кого по другому? Отпишитесь .....

Боюсь что нет :) Это нормально вроде как  :) а какие трудности в вязи с этим?

Да, проблемы есть.
Разрабатываю класс, и в одном (именно этом) случае, он лагает. :(
Имеется 4 числа: начальное,  конечное значения, шаг и количество: vFirstValue, vLastValue, vStep, vCount.
Изменяя одно из значений, пересчитываются остальные (или одно из них). При следующих данных:
vLastValue=10, vFirstValue=0
задаем: vCount=101
и пересчитываем vStep и vFirstValue
Получаю
vStep=0.10000000000000001
vFirstValue=-5.55112e-16

Хотя, по идее должно быть:
vStep=0.1
vFirstValue=0

Как этого добиться ?

"-5.55112e-16" можно сказать, что 0. Какая проблема?

вам поможет. Прочтите в документации.
И обратите внимание на

Проблема в том, что именно так он выдает и при преобразовании числа в стоку (без форматирования), хотя хотелось бы "0".

Сравнение чисел в данном алгоритме не подходит

Пробовал принудительно так:
но при попытке присвоить "vStep=1.0e-1;", значение оказывается "vStep=0.10000000000000001", но почему ???? Это же простое присваивание?

Программисты Qt, пожалуйста отпишитесь, у всех при отладке после банального присвоения "vStep=1.0e-1;" получается "vStep=0.10000000000000001"? Протестировал в BDS и MSVS2008, там все работает без всяких проблем. Не знаю что и думать, версия Qt у меня такая глючная, или я уже ничего не понимаю...

QString QString::number ( double n, char format = 'g', int precision = 6 )   [static]

Не вижу проблемы..

P.S. так вспомнилось:
Российским учёным первыми в мире
удалось раздуть из мухи слона  ;D

В дополнение к сказанному

- др. отладчики также показывают подобным образом

- для чисел с конечным числом знаков после запятой равенство срабатывает, напр

- пример c 1.0e-200 специфичен, насколько я помню: диапазон от 1.0e-38  до 1.0e+38 (для всех float, double и др., разница между ними в точности). Меньшие значения INF - не ноль, но и значение неизвестно

Edit: см. также недавнее обсуждение http://www.prog.org.ru/topic_14154_0.html (http://www.prog.org.ru/topic_14154_0.html)  

Шутку оценил ! Но мне искренне не понятно: почему в BDS и MSVS код "1.0/10.0=0.1" работает без проблем, а в Qt банальное "x=1.0e-1;", приводит к "х=0.10000000000000001"? (получается риторический вопрос) ;D

Как я понял от этого косяка не избавиться, единственное, что можно - воспользоваться округлением. Поэтому вопрос такой: есть ли какие стандартные функции округления, или придется извращаться через преобразование в строку и обратно "QString QString::number ( double n, char format = 'g', int precision = 6 )" ?

Вы там что, поправку к сверхтонкой структуре считаете, чтоль?

Сейчас Вам кто-нить расскажет, что дело здесь вовсе не в кутэ.. Так что не надо крошить на Qt))

Ответ кроется в том, как представляются числа с плавающей точкой.. Спросите у гугла, как устроен double, например) 

Я знаком со структурой double и float, и на Qt никто не "крошит". Просто неясно: если в BDS, MSVS и Qt структуры типов данных одинаковые, то почему результаты BDS, MSVS и Qt - разные ? Может это быть из-за того, что установленная у меня версия Qt Creator "кривая" ? Поэтому я и просил протестировать на др. компах небольшие фрагменты кода.

Результаты - одинаковые и здесь и там. Просто "здесь" отладчик показывает с большей точностью - вот и все

Никаких стандартных функций округления я не нашел. Таким образом придется извращаться через преобразование в строку и обратно "QString QString::number". Правильно я понимаю ?

Я всё еще понять не могу, чем вас не устраивает точность числа порядка e16?

Точность устраивает, просто для моего примера:
вместе с изменением vStep=0.10000000000000001 изменяется и vFirstValue=-5.55112e-16. И бороться с этим можно только округлением, но для этого придется всякий раз определять количество значащих разрядов vStep, которых больше, чем должно быть ... и опять замкнутый круг...

"То ли лыжи не едут, то ли я неординарный."

Если точность вас устраивает, как вы заметили выше, то в чем проблема, если vFirstValue == 0 с точностью, которая вас устраивает?

P.S. vFirstValue = vLast - vStep *(vCount-1.0); Если подставить vStep и раскрыть скобки, то получим vFirstValue = vFirst;

Вам не с чем бороться - Вы имеете точно те же числа что и в MSVC и др. (там где все устраивает). Это просто "трусы линяют" как в старом анекдоте  :)

Логично, только вот компьютер раскрывать скобки и упрощать выражения не умеет. При изменении vCount=101 (вместо vCount=11) в алгоритме изменяются значения vStep и vFirstValue по приведенным выше формулам. И погрешность закравшаяся в vStep приводит к изменению vFirstValue, хотя по идее она не должна меняться.

Ссылочку на анекдот не дадите ? Просто интересно стало. :)
(извиняюсь, что не по теме)

http://prikol.i.ua/user/1920258/?p=3 (http://prikol.i.ua/user/1920258/?p=3)