можно например через фильтр событий: https://doc.qt.io/qt-5/eventsandfilters.html#event-filters

по-моему тебе стиль надо применять (в смысле вызывать метод setStyleSheet) не к g, а к его родителю — mainWindow

  С фильтром событий все решилось, спс kambala за наводку.
  Странно что нельзя реализовать hover, pressed и тп
стилями(или сигналами) для таких виджетов как QGroupBox, QFrame...

  Вот черновик, все в класс окна влепил тестово, может кому пригодится
(обр. внимание-стили, которые вы не изменяете при обработке событий, все равно прописываем, иначе они скинутся к дефолтным)

#ifndef MAINWINDOW_H
#define MAINWINDOW_H

#include <QMainWindow>
#include <QEvent>
#include <QGroupBox>

class MainWindow : public QMainWindow
{
    Q_OBJECT
public:
    MainWindow(QWidget *parent = 0){
        g->setParent(this);
        g->setObjectName("g");
        g->setFixedSize(200,200);
        g->setStyleSheet("QGroupBox#g{"
                         "border: 2px solid gray;"
                         "background: green;"
                         "}");
        g->installEventFilter(this);
    }
    ~MainWindow();

    QGroupBox *g=new QGroupBox;

protected:
    bool eventFilter(QObject *obj, QEvent *event)
    {
        if (obj ==  g) {
              QEvent::Type type = event->type();
              if  (type == QEvent::HoverLeave) {
                  g->setStyleSheet("QGroupBox#g{"
                                   "border: 2px solid gray;"
                                   "background: green;"
                                   "}");

              } else if (type == QEvent::HoverEnter) {
                  g->setStyleSheet("QGroupBox#g{"
                                   "border: 2px solid yellow;"
                                   "background: green;"
                                   "}");

              }else if (type == QEvent::MouseButtonPress) {
                 g->setStyleSheet("QGroupBox#g{"
                                   "border: 2px solid yellow;"
                                   "background: red;"
              }
          }
          return QWidget::eventFilter(obj, event);
    }
};
#endif // MAINWINDOW_H