Поиск по форуму, увы, не работает, но вот что мне вспоминается:
Небольшое сравнение простых програм для перекодирования DVD9 в DVD5, после которого я решил этим грязным делом не заниматься -- потери качества меня лично не устроили, да и времени жалко (и процессорного тоже).
Что же касается Nero Recode 2 (а именно он в пакете NVE использовался для перекодирования DVD9 в DVD5), то по результатам того сравнения можно сказать, что использовался движок DVD Shrink (но без более тонких настроек и платно, хм), как сейчас дело обстоит -- не знаю, по причине упоминаемой выше :)
ps/ Небольшое пояснение к приведённому сравнению. Кадры сравнивались с помощью наложения оригинала и пережатки в режиме разницы слоёв, с последующим поднятием значения гаммы, для более заметной передачи разницы, таким образом, чем ярче пиксел, тем больше он отличается от оригинала. Данный способ хорошо подходит для статической картинки, в динамике всё по другому и там требуется другая методика...