Всем спасибо,с горем пополам все решилось,но сам процесс не радует)))
Вот как получается:
Из lineEdit получаем строку "2a 2a 2a 2a"
из нее делаем QString str, значение которой равно "\x2a\x2a\x2a\x2a" и получаем число элементов size,которое равно соответственно 4.
и простите "идиотское" преобразование:
char* temp = new char[size];
QString tempStr = QByteArray::fromHex(str.toAScii());
strcpy(temp,tempStr.toStdString().c_str());
(BYTE*)temp;
вот собственно так,если кто то может подсказать аналогичный,но более простой путь,буду признателен))
QString str = "\x2a\x2a\x2a\x2a";
QByteArray hex = QByteArray::fromHex(str.toAScii());
BYTE *bytes = reinterpret_cast<BYTE *>(hex.data());
bytes будет жив, пока живёт батарей.