Mi placa no es la misma pero tiene el chip Realtek, y también me costó configurar la salida SPDIF.

Al principio con AC3, Ffdshow, etc. y nada de nada.

El problema lo tenía en que al configurar el audio desde la misma placa, elegía la salida digital pero.......... no desactivaba la salida analógica.......

Ahora sin Ac3filter, ni Ffdshow ni nada de nada, desde la placa activo la salida digital y desactivo la analógica y perfecto.