Это только на винапи. Что-то типа:
C++ (Qt)
ShellExecute(0,
(wchar_t*)QString("open").utf16(),
(wchar_t*)QString("rundll32.exe").utf16(),
(wchar_t*)QString("shell32.dll,OpenAs_RunDLL "+fpath).utf16(),
0,
SW_SHOWNORMAL);
Где fpath путь к нужному файлу.