Есть 4 пути.
Простой - стырить исходники dds себе (я сначала обкатываю фичи тут
https://github.com/ABBAPOH/imageformats) и написать сохранение самому. Работы там на полдня, имхо.
Сложный - написать сохранение самому и замержить в Qt.
Ещё более сложный - допинать меня, чтобы я это сделал:)
Либо одно из трёх:)
В идеальном мире ты бы писал что-то типа
int main()
{
QImage image("path/to/file.png");
QImageWriter writer("path/to/file.dds", "dds");
if (!writer.canWrite())
qFatal() << writer.errorString());
writer.setSubType("DXT5");
if (!writer.write(image))
qFatal() << writer.errorString());
return 0;
}
Но повторюсь, там только 1 вариант сохранения реализован.