Кодеки они такие - чем больше накруток качества, тем умнее, самостоятельнее и непредсказуемее :) Битрейт результата будет отличаться от назначенного при применении некоторых оптимизирующих настроек. В частности, из того, что помню, - trellis quantization и, наверняка, некоторых других. Полезных.
Вот
одна из самых толковых статей про XviD из всего, что я читал. Там в разделе базовых советов сказано:
only use target size, not target bitrate or quantizers. Мне ни разу не удавалось получить файл с точно заданным битрейтом, а вот с точно заданным размером - практически всегда.
Разумеется, я предполагаю, что мы говорим о двухпроходном кодировании.