Кодировал Xmpeg 4.5 DivX4.12 фрагмент фильма 5 минут. С битрейтом 500 Кбайт/с и 1000 Кбайт/с.
Что в RGB, что в YUY2, что в YV12 - разнице в качестве изображения не заметил, как не вглядывался..
По времени у меня в YUY2 кодируется быстрее, чем в RGB примерно в 1,3-1,4 раза, а в YV12 быстрее, чем RGB примерно в 1,4-1,5 раза.

Как собственно кодировать?
Вроде выгоднее всего в YV12, но я еще не видел ни одного фильма, у которого в свойствах было бы 12 бит. Если лучше всего кодировать в YV12, то почему все кодируют в RGB?