Не кроссплатформенно: FUSE. Написать всё придётся самому, то есть весь промежуточный интерфейс БД <-> файлы
Алекс, вот это уже что-то близкое, но винда (никуда от неё не денешься) на первом месте.
Я как-то сталкивался с Компас 3D, ломаным, он был сделан кем-то и как-то на основе VMWare - запускается один единственный екзкшник, из запущенного открываешь нужные файлы.
НО
интересно, что из этого Компаса файловая система выглядит иначе (в диалогах "Открыть/сохранить"), в ней ещё какой-то диск видно, в котором папка "Program Files", а в ней "Компас", хотя на деле этого диска в системе нет.
Это воспоминание меня и натолкнуло на мысль, что можно каким-то образом обмануть программу, чтобы она думала, что работает с файлом.