Russian Qt Forum
Ноябрь 23, 2024, 23:38 *
Добро пожаловать, Гость. Пожалуйста, войдите или зарегистрируйтесь.
Вам не пришло письмо с кодом активации?

Войти
 
  Начало   Форум  WIKI (Вики)FAQ Помощь Поиск Войти Регистрация  

Страниц: [1]   Вниз
  Печать  
Автор Тема: QString to double конвертировать с заданной точностью  (Прочитано 10233 раз)
Vladimir
Крякер
****
Offline Offline

Сообщений: 305



Просмотр профиля
« : Апрель 29, 2013, 10:06 »

Доброго дня! Как добиться преобразования QString в double с заданной точностью.

Код:
QString str("53.8016666667");
qDebug() << str.toDouble();
Выводит: 53.8017

Так выводит только с точностью 4 знака (atiof() тоже 4 знака). Как преобразовать "53.8016666667" все числа после "." ?
Записан
m_ax
Джедай : наставник для всех
*******
Offline Offline

Сообщений: 2095



Просмотр профиля
« Ответ #1 : Апрель 29, 2013, 11:07 »

Доброго дня! Как добиться преобразования QString в double с заданной точностью.

Код:
QString str("53.8016666667");
qDebug() << str.toDouble();
Выводит: 53.8017

Так выводит только с точностью 4 знака (atiof() тоже 4 знака). Как преобразовать "53.8016666667" все числа после "." ?

Из того что qDebug показывает только 4 значащих цифры, ещё не следует, что преобразование не работает..
Код
C++ (Qt)
QString str("53.8016666667");
    double d = str.toDouble();
    if (d == 53.8016666667) qDebug() << "ok";
 
Записан

Над водой луна двурога. Сяду выпью за Ван Гога. Хорошо, что кот не пьет, Он и так меня поймет..

Arch Linux Plasma 5
Vladimir
Крякер
****
Offline Offline

Сообщений: 305



Просмотр профиля
« Ответ #2 : Апрель 29, 2013, 11:40 »

Мг.. возможно и так! Просто полученные double я потом использую в формулах и там результат отличается от эталонного, не сильно но все же:
Нужно         5964119.24
Получается  5964119.23
Я решил, что из-за этого.. Наверное косяк в формулах и там, что-то не так округляется!
Записан
m_ax
Джедай : наставник для всех
*******
Offline Offline

Сообщений: 2095



Просмотр профиля
« Ответ #3 : Апрель 29, 2013, 11:47 »

Я решил, что из-за этого.. Наверное косяк в формулах и там, что-то не так округляется!

Ну (ковыряясь в зубах)
Записан

Над водой луна двурога. Сяду выпью за Ван Гога. Хорошо, что кот не пьет, Он и так меня поймет..

Arch Linux Plasma 5
Vladimir
Крякер
****
Offline Offline

Сообщений: 305



Просмотр профиля
« Ответ #4 : Апрель 29, 2013, 11:48 »

Я решил, что из-за этого.. Наверное косяк в формулах и там, что-то не так округляется!

Ну (ковыряясь в зубах)


Улыбающийся
Записан
Страниц: [1]   Вверх
  Печать  
 
Перейти в:  


Страница сгенерирована за 0.148 секунд. Запросов: 23.