Название: Какь сравнить 2 числа Float, если Отправлено: Сергей85 от Апрель 19, 2017, 19:31 в нем постоянно присутствует погрешность на 8-10 знаке после запятой? Стринг 0.55 превращается в 0.550000003 - в результате равенство флоатов 0.55_с_погрешностью=0.55 не выполняется. Никакие округления, перетипирования, умножения и деления на миллионы не помогают.
Название: Re: Какь сравнить 2 числа Float, если Отправлено: Old от Апрель 19, 2017, 19:51 Почитайте как устроены числа с плавающей запятой, хотя бы на википедии, и вы сразу найдете ответы на свои вопросы.
Название: Re: Какь сравнить 2 числа Float, если Отправлено: Day от Апрель 19, 2017, 20:12 Новичкам часто советуют забыть о существовании такого типа - float. И всегда использовать double. Хотя бы для того, чтобы не болела голова от такого рода вопросов.
Название: Re: Какь сравнить 2 числа Float, если Отправлено: Old от Апрель 19, 2017, 20:16 Новичкам часто советуют забыть о существовании такого типа - float. И всегда использовать double. Хотя бы для того, чтобы не болела голова от такого рода вопросов. По устройству double ничем не отличается от float, кроме объема. Так что все ограничения остаются в силе.Название: Re: Какь сравнить 2 числа Float, если Отправлено: Day от Апрель 19, 2017, 20:26 По устройству double ничем не отличается от float, кроме объема. Так что все ограничения остаются в силе. Ну чтож, давайте использовать char вместо int. По устройству-то они ничем, кроме объема, не отличаются. А потом будем вздыхать, чего это результаты какие-то дурацкие. И циклы то кончаются, то никак не хотят...:)Название: Re: Какь сравнить 2 числа Float, если Отправлено: Old от Апрель 19, 2017, 20:38 Ну чтож, давайте использовать char вместо int. По устройству-то они ничем, кроме объема, не отличаются. А потом будем вздыхать, чего это результаты какие-то дурацкие. И циклы то кончаются, то никак не хотят...:) Топикстартер уперся не в объем числа, а в ограничения формата. Не все числа могут быть представлены числом с плавающей запятой, будь то float или double.Название: Re: Какь сравнить 2 числа Float, если Отправлено: Apktyc от Апрель 19, 2017, 20:43 Сравнивать на равенство два вещественных числа - это первый шаг к головняку.
Qt предлагает нам qFuzzyCompare (http://doc.qt.io/qt-5/qtglobal.html#qFuzzyCompare-1). Или юзай любой свой эпсилон. И да, поиск рулит (http://www.prog.org.ru/topic_20517_0.html) Название: Re: Какь сравнить 2 числа Float, если Отправлено: __Heaven__ от Апрель 20, 2017, 09:22 qFuzzyCompare (http://doc.qt.io/qt-5/qtglobal.html#qFuzzyCompare-1). Господа, а что значит предупреждение, выдаваемое анализатором clang напротив использования этого выражения? Цитировать 'qFuzzyCompare' was marked unused but was used Также хочу отметить, что если мы сравниваем float, полученный в результате каких-то операций, то погрешность его может выйти за пределы допуска qFuzzyCompare. ИМХО, лучше самостоятельно определять этот допуск. Название: Re: Какь сравнить 2 числа Float, если Отправлено: Igors от Апрель 20, 2017, 11:34 в нем постоянно присутствует погрешность на 8-10 знаке после запятой? Стринг 0.55 превращается в 0.550000003 - в результате равенство флоатов 0.55_с_погрешностью=0.55 не выполняется. Никакие округления, перетипирования, умножения и деления на миллионы не помогают. Просто такКод Вероятно Вас смущает последняя тройка - откуда она взялась? :) Это погрешность флота, точно представляются только числа выражающиеся степенью двойки (напр 4 = 2 ^ 2 или 0.25 = 2 ^ -2) для остальных хранится набор этих степеней в сумме дающий ближайшее. |