Спасибо!
Разрешите выложить настройки проекта:
######################################################################
# QextSerialPort Test Application (QESPTA)
######################################################################
PROJECT = QESPTA
TEMPLATE = app
DEPENDPATH += .
INCLUDEPATH += ../..
QMAKE_LIBDIR += ../../build
OBJECTS_DIR = obj
MOC_DIR = moc
UI_DIR = uic
CONFIG += qt thread warn_on
HEADERS += MainWindow.h \
MessageWindow.h \
QespTest.h
SOURCES += main.cpp \
MainWindow.cpp \
MessageWindow.cpp \
QespTest.cpp
CONFIG(debug, debug|release):LIBS += -lqextserialportd
else:LIBS += -lqextserialport
unix:DEFINES = _TTY_POSIX_
win32:DEFINES = _TTY_WIN_
OTHER_FILES +=
Насколько я понимаю
QMAKE_LIBDIR += ../../build
показывает на папку с библиотекой, я проверил, так и есть, там находятся и .dll и .a
CONFIG(debug, debug|release):LIBS += -lqextserialportd
else:LIBS += -lqextserialport
говорит о том, что нужно брать файл для дибага, если в настройках выбран пункт debug. Всё верно.
Да, компайлер g++, ос Windows.
P.S. вопрос снимается. После того как я стёр всю папку с библиотекой и перелинковал всё заново, всё заработало как и должно было. Видимо я где то что то в первый раз напутал.