Не не.. Начиная с Qt5.5 будет две ветки:
* одна для Qt4 - это qt4-dev:
https://qt.gitorious.org/qt/qtserialport/source/8088ad9a3b3801e4c39fbf7e6fd100ab64c8151b:
* другая для Qt5 (это обычные ветки 5.4, 5.5 и прочие).
Ветки stable вообще нет (от нее уже как сто-пиццот лет тому назад отказались).
* Если нужно использовать для Qt5 - то нужно брать любую желаемую из 5.4.х (сейчас это 5.4.1). Если же хочется попробовать
плюшки из еще не вышедшей следующей версии - то нужно брать из 5.5.
* Если нужно использовать для Qt4 - то берем из qt4-dev. Здесь всегда будет только одна эта ветка (по аналогии как с Qt4).
По поводу сообщения:
qtserialport.pro:1: Unknown test function: lessThan
- это вообще непонятное что-то.. Возможно используется какое-то неправильное Qt4.8 (или не-доустановленное).
В любом случае, в qt4-dev такого "lessThan" уже нет и оно должно собраться без проблем.
Собирать лучше всего используя QtCreator - для новичков - это самое то, т.к. там трудно ошибиться с
установкой и выбором нужных переменных окружения, компиляторов и пр. (в Вики об этом сказано на англицкой странице).