Ahora estás usando un servidor DLNA en el PC, pero con "transcoding" ya que la PS3 no es compatible con casi nada y requiere de ello.
Puedes seguir usando el servidor DLNA del PC, pero quitando el transcoding y usar para reproducir cualquier lector BD con cliente DLNA, están por 100/120€ y te aseguras la potencia del estándar BD (MKV BDRemux) y audios HD.
Para mejorar el rendimiento del PC, usaría una tarjeta de servidor y un switch con control de DLNA que garantice la red gigabit. Tambien ten en cuenta la limitación de lectura de un HDD que no suele pasar de 70MB/s...