"открыть" штатными средствами файл *.cer появится окно с представлением свойст сертификата.
Вопрос: каким образом rundll32 вызывает это окно. (существует ли единственная функция которую надо позвать, или дело обстоит сложнее)
где в доках можно искать эту функцию самостоятельно?
Это действие прописано в реестре. Используется ключ [HKEY_CLASSES_ROOT\.cer], но по-умолчанию он ссылается на ключ [HKEY_CLASSES_ROOT\CERFile].
Собственно команда располагается в ключе
[HKEY_CLASSES_ROOT\CERFile\shell\open\command], в Win98 команда выглядит так:
rundll32.exe cryptext.dll,CryptExtOpenCER %1