pastor, спасибо, покопал в эту сторону. Если задать флаг
qApp->setAttribute(Qt::AA_UseHighDpiPixmaps);
изменения действительно есть.
1. Иконка в трее почему то, становится чуть больше.
2. Изображение отрисовывается по размерам окна, но тоже было плохого качества.
Проблему победить удалось.
Я в качестве окна для рисования использую QDeclarativeView, у него использую функцию drawBackground. В этой функции естественно и рисовал background.
При этом заметил если я в qml создаю Image, растягиваю на весь экран и задаю туда картинку, она отображается хорошо, но при рисовании в drawBackground она получается замыленая. Решил стянуть функцию рисования из QDeclrativeImage, стянул, не помогло. В итоге у QDeclarativeView убрал флаг setCacheMode(QDeclarativeView::CacheBackground) и все стало рисоваться хорошо.
Как то так. Всем спасибо