Вместо exec используй show.
Тогда при появлении нового модального окна будет блокироваться доступ к моему окну.
Можно еще попробовать установить у окна setWindowModality(Qt::WindowModal);
тогда мое окно будет блокироватаь доступ к окнам остального приложения...
В общем пока я так понимю - так никак...
Пока сделал обходной вариант - перехватываю комбинацию клавиш и по ней делаю QDialog::exec() у моего окна. Тогда оно появляется поверх всех осталных модальных окон на то вемя пока оно мне нужно. потом я его просто скрываю и работа приложения продолжается . Пока меня это устраивает...
всем спасибо.