Сам такое не писал,но часто работал с мультимедийными программами (типа рипперов, кодеков и т.п.). Там часта ситуация, когда SSE и MMX дают существенное (а то и многократное) ускорение. Для таких программ вполне нормальное явление - несколько библиотек, закомпиленных под разные наборы инструкций (MMX, SSE, 3DNow, SSE3, SSE4 и т.п). Программа при запуске получает флаги поддерживаемых инструкций и выбирает нужную библиотеку. Некоторые позволяют выбирать либы вручную (например, EncWAVtoAC3). А кодек h.264, насколько я понял, тащит внутри себя несколько вариантов функций с разными наборами инструкций и определив тип процессора, заполняет таблицу их адресов.

Зачем статик?
Лучше шаред сделать для каждого из SSE и загружать нужную. Символы будут одинаковые, загрузил, разрезолвил и пользуйся.

А для чего?

Для чего держать в памяти функции, которые никогда не будут выполняться на данной машине?

Печально, вы автоматическую сборку еще не освоили?
Тогда да, лучшее решение в одно приложение.

CMake & make
И вы сможете не то что разные файлы собирать с разными параметрами, а целые сборки получать всего одной командой: сказали make all и получили - демо версию, лайт версию, дебаг версию, личную версию, версию для друга Сени и т.д. Все будет красиво разложено по своим деревьям, архитектурам и чему надо.

Повседневного редактирования чего?
И тогда непонятна эта "проблема":