Возможно проблема в Linux Kernel:
https://bugreports.qt.io/browse/QTBUG-48304 Попробовать пересобрать BSP с другой версией ядра.
Да и непонятно, какая версия QSP используется. В любом случае можно всегда пересобрать QSP и втыкнуть трейс в то место где генерится ошибка QSerialPort::UnknownError и вывести реальный errno.