Как можно перекодировать строку UTF8, в 866, что бы подсунуть в QProcess ?
QProcess ждет именно QString, в котором уже юникод.
Нужно правильно этот QString получать. Если исходники в utf-8, то самое простое использовать trUtf8:
C++ (Qt)
QString filename = QObject::trUtf8( "путь/до/файла/файл.exe" );
или то же через QTextCodec:
C++ (Qt)
QTextCodec *codec = QTextCodec::codecForName( "UTF-8" );
QString filename = codec->toUnicode( "путь/до/файла/файл.exe" );