Пробовал, но при вставке qmainwindow в qdockwindow (чтобы не переделывать исходники форм и прочее) возникала проблемма ресайза, те при изменении размеров док-винд часть qmainwindow становилась невидимой, переопределять метод ресайз неохота, может есть другой способ, св-ва например к-н.б выставить?
делал так
QVBox* vb = new QVBox(this);
vb->setFrameStyle( QFrame::StyledPanel | QFrame::Sunken );
ws = new QWorkspace( vb);
dw=new QDockWindow(QDockWindow::OutsideDock,ws,0,WDestructiveClose);
dw->setResizeEnabled(true);
win= new Win(dw);
...