Для данного случая нужно перечислить несколько состояний, но ключевым является - "border: none":
C++ (Qt)
ui->mainToolBar->setStyleSheet(
"QToolBar {"
"background-color: qlineargradient(spread:pad, x1:1, y1:0.455686, x2:1, y2:1, stop:0 rgba(127, 127, 127, 255), stop:1 rgba(96, 96, 96, 255));"
"color:rgb(255, 255, 255);"
"}"
"QToolButton { "
"border: none;"
"padding: 5;"
"}"
"QToolButton:hover { "
"background-color: white;"
"}"
"QToolButton:checked:pressed { "
"background-color: white;"
"}"
"QToolButton:pressed { "
"background-color: red;"
"}"
"QToolButton:checked { "
"background-color: red;"
"}"
);