А что за псевдоэкшены? Посмотрел вроде QListWidgetItem нет метода addAction...
Правильно, такого нету. Но вы можете использовать setData с указанием id экшена, который создадите в вашем контроллере меню. А этот экшин уже посадите в группу. Когда соответствующий элемент листа будет выделен - активируйте связанный с ним экшин, тогда ваша группа отреагирует на изменение. И наоборот, если группа поменялась "от кнопки" - вы это увидите по id экшена. Если это экшин листа - очистите выделение.
Либо же создайте свой List Item как наследник от QListWidgetItem и QAction.