Неожиданный результат при делении (1.0/10.0=0.10000000000000001 ?????????)

[Dimon-st]

Никаких стандартных функций округления я не нашел. Таким образом придется извращаться через преобразование в строку и обратно "QString QString::number". Правильно я понимаю ?

[SimpleSunny]

Я всё еще понять не могу, чем вас не устраивает точность числа порядка e16?

[Dimon-st]

Я всё еще понять не могу, чем вас не устраивает точность числа порядка e16?

Точность устраивает, просто для моего примера:

vLastValue=10, vFirstValue=0
задаем: vCount=101
и пересчитываем vStep и vFirstValue

vStep = (vLast - vFirst)/(vCount-1.0);
vFirstValue = vLast - vStep *(vCount-1.0);


Получаю
vStep=0.10000000000000001
vFirstValue=-5.55112e-16

Хотя, по идее должно быть:
vStep=0.1
vFirstValue=0

вместе с изменением vStep=0.10000000000000001 изменяется и vFirstValue=-5.55112e-16. И бороться с этим можно только округлением, но для этого придется всякий раз определять количество значащих разрядов vStep, которых больше, чем должно быть ... и опять замкнутый круг...

[SimpleSunny]

"То ли лыжи не едут, то ли я неординарный."

Если точность вас устраивает, как вы заметили выше, то в чем проблема, если vFirstValue == 0 с точностью, которая вас устраивает?

P.S. vFirstValue = vLast - vStep *(vCount-1.0); Если подставить vStep и раскрыть скобки, то получим vFirstValue = vFirst;

[Igors]

вместе с изменением vStep=0.10000000000000001 изменяется и vFirstValue=-5.55112e-16. И бороться с этим можно только округлением, но для этого придется всякий раз определять количество значащих разрядов vStep, которых больше, чем должно быть ... и опять замкнутый круг...

Вам не с чем бороться - Вы имеете точно те же числа что и в MSVC и др. (там где все устраивает). Это просто "трусы линяют" как в старом анекдоте 

[Dimon-st]

Если подставить vStep и раскрыть скобки, то получим vFirstValue = vFirst;

Логично, только вот компьютер раскрывать скобки и упрощать выражения не умеет. При изменении vCount=101 (вместо vCount=11) в алгоритме изменяются значения vStep и vFirstValue по приведенным выше формулам. И погрешность закравшаяся в vStep приводит к изменению vFirstValue, хотя по идее она не должна меняться.

[Dimon-st]

Это просто "трусы линяют" как в старом анекдоте

Ссылочку на анекдот не дадите ? Просто интересно стало.
(извиняюсь, что не по теме)

[Igors]

Ссылочку на анекдот не дадите ? Просто интересно стало.

http://prikol.i.ua/user/1920258/?p=3