В so файлах было q:\qt5_workdir\w\s, но с первого раза не отлаживалось.
Не до конца понял, почему с первого раза с q:\qt5_workdir\w\s не заработало, но после пересборки работает. До этого собирал с ключом -debug-and-release, возмоно из-за этого.
Рецепт на всякий случай:
1. Качаем и собираем Qt из исходников. Все нормально расписано тут:
http://doc.qt.io/qt-5/build-sources.html, единственное для конфигуратора, я использовал следующие настройки:
./configure
-debug
-no-framework
-opensource
-confirm-license
-prefix ~/Qt/5.6
-nomake examples
-nomake tests
-skip qtactiveqt
-skip qtandroidextras
-skip qtcanvas3d
-skip qtconnectivity
-skip qtdeclarative
-skip qtenginio
-skip qtgraphicaleffects
-skip qtlocation
-skip qtmacextras
-skip qtquick1
-skip qtquickcontrols
-skip qtscript
-skip qtsensors
-skip qttranslations
-skip qtwayland
-skip qtwebchannel
-skip qtwebengine
-skip qtwebkit
-skip qtwebkit-examples
-skip qtwebsockets
-skip qtwinextras
-skip qtx11extras
-skip qtxmlpatterns
Я отключил практически все, кроме того, что мне было нужно: qtbase, qtserial, qtsvg, qtmultimedia, без отключения всего ненужного, скорость сборки возрастет существенно.
2. Добавляем версию Qt в Build & Run -> Qt Verisions:
3. Создаем кит(? не знаю как по-русски правильно) в Build & Run -> Kits:
4. В настройках Debugger ставим в соответствие q:\qt5_workdir\w\s ->/Users/kamil/Downloads/qt-everywhere-opensource-src-5.5.1
Где /Users/kamil/Downloads/qt-everywhere-opensource-src-5.5.1 это место, где у вас лежат исходники, из которых вы собирали Qt.
Что за sourse path - q:\qt5_workdir\w\s понятия не имею, было бы интересно узнать, что это за путь в виртуальной машине (?), нужно ли это знать, и, елси нужно, где про это можно прочитать.
5. В принципе все, можно ставить брекпойнт, и делать step into. Должно сработать.
Если нужно чтобы qtcreator видел символы qt, и мог по ним проходить по нажатию на f2 - нужно чтобы соответствующие файлы были в дереве проектов. Для этого можно, например, открыть qtbase.pro, что в исходниках (или любой другой нужный вам модуль). Открывать весь qt.pro не советовал бы - долговато.