Различайте компиляцию и сборку. Компиляция - всего один из нескольких шагов на этапе сборки. По теме - всё у вас собралось, только вы ещё дополнительно нажали отладить (F5?), вот он и спрашивает с помощью какой программы.
Ctrl+F5
не важно f5 или ctrl+f5 и в том и другом случае происходит запуск собранного приложения.... учитывая что у вас dll то и запускать нечего.... вот у вас и спрашивают что запустить....