Теоретически можно (искать по VAD - voice activity detector). Но, как всегда, много вопросов. Соизмерима ли громкость голоса человека с громкостью музыки и т.п.
Если делать совсем правильно, то нужно постоянно перехватывать вывод музыки (если плеер чужой) "вычитать" её из того, что получаешь через микорофон и только потом "кормить" получившуюся разницу на VAD.
Проблем для новичка (особенно в случае, если решение нужно универсальное) - море.
1. Различные sound API на разных ОС (даже в рамках линейки Windows). С учётом необходимости перехвата выводимой музыки, управления микшером и т.п. тонких моментов будет много.
2. Нормальная реализация всех DSP алгоритмов: академических статей много, доступных программных реализаций - мало.
В общем, если "just for fun" я бы не брался. Если за деньги - запросил бы достаточно много.