Здесь имеется несоответствие входящих параметров метода write, который принимает const char * или QByteArray, и результата метода text, который возвращает QString.
Нужно явное преобразование QString в QByteArray (сериализация), например в байты формата utf8.
C++ (Qt)
serialPort.write(this->ui->txtInput->text().toUtf8() );
При приеме байт необходимо делать обратное преобразование из байт в текст (десериализацию) с помощью метода QString::fromUtf8.