El problema que tienes con el blusens puede ser en que no sea compatible con el codec de audio de TVE HD (creo que emite el audio en Dolby Digital Plus) o necesite alguna actualización o configuración.
Si tienes la ps3 conectada con HDMI al Yamaha no es necesario que le conectes el óptico.