В MathGL можно отказаться от всех внешних зависимостей на этапе компиляции библиотеки. Тем не менее я бы рекомендовал оставить поддержку GSL и PNG. JPEG и/или GIF могут понадобиться для создания анимации. HDF4,5 нужен довольно редко (по умолчанию отключен в Linux или прилинкован статически в Win32). А больше вроде зависимостей нет.

По умолчанию используется отрисовка в памяти (без OpenGL и любой другой граф./оконной библиотеки). При необходимости можно рисовать и с помощью OpenGL, но последний имеет ряд ограничений, особенно с полупрозрачными поверхностями.