Yo, por lo que he podido comprobar, si juegas con esa opción que te digo puedes hacer las capturas en el formato que quieras independientemente del que tenga el DVD original. Puede que fuese problema de esa versión de VLC, intenta descargarte una cercana a la que tenías, no tiene necesariamente que ser mucho más anterior. A ver si así consigues no perder calidad de visionado.