Если планируется сжимать x264 - а по командной строке это именно он - то вариант для продвинутых пользователей, не готовых полностью отдаться прелестям командной строки и программированию AviSynth'a в notepad'е - но, вместе с тем, не готовых работать с программами "для тупых", ровно один: это
MeGUI. Я делаю собственные DVD- и BD-рипы уже больше двух лет, так что если будут вопросы - могу (относительно) квалифицированно на них ответить, особенно по связке ffdshow + Haali Media Splitter + AviSynth + MeGUI + x264 + mkvtoolnix.