1. А оно у вас правильно установлено (имею ввиду Qt + компиляторы и т.п.) ?
2. Как вариант, попробуйте закоментировать в
qserialdeviceenumerator.pri или
qserialdevice.priэто:
#HEADERS += $$PWD/../qserialdevice/ttylocker.h
#SOURCES += $$PWD/../qserialdevice/ttylocker.cpp
Если ничего не поможет - значит у Вас что-то не так, проверяйте.