Despues de leerte todavia no tengo muy claro cual es tu problema. Si has conectado el audio a las clavijas roja/blanca, nunca tendras 5.1 ya que esa salida es estereo. Lo escuchas si seleccionas la pista 5.1 del BD porque el reproductor por defecto te lo manda en estereo.
Para escuchar el 5.1 debe ser a traves del HDMI o la salida de audio coaxial (naranja) y debes de configurarlo en reproductor.