Если еще интересно. Тоже потребовалось вывести координаты из QCustomPlot.
Сделал так в инициализации:
connect(ui->customPlot, SIGNAL(mouseMove(QMouseEvent*)), this, SLOT(mouseMove(QMouseEvent*)));
Обработчик SLOTа:
void MainWindow::mouseMove(QMouseEvent *mouseEvent)
{
qDebug() << ui->customPlot->xAxis->pixelToCoord(mouseEvent->pos().x())
<< ui->customPlot->yAxis->pixelToCoord(mouseEvent->pos().y());
QToolTip::showText(mouseEvent->globalPos(),
"xAxis=" + QString::number(ui->customPlot->xAxis->pixelToCoord(mouseEvent->pos().x()), 'f', 2) + "\n" +
"yAxis=" + QString::number(ui->customPlot->yAxis->pixelToCoord(mouseEvent->pos().y()), 'f', 2) + "\n" +
"xAxis2=" + QString::number(ui->customPlot->xAxis2->pixelToCoord(mouseEvent->pos().x()), 'f', 2) + "\n" +
"yAxis2=" + QString::number(ui->customPlot->yAxis2->pixelToCoord(mouseEvent->pos().y()), 'f', 2) + "\n",
this, rect());
}