Te adelanto que yo tengo un Synology y he instalado unos cuantos ya (familiares y amigos, nada profesional).
- Sistema de archivos: si no me equivoco Btrfs es muy nuevo en Synology y es un avance más, peroque nadie te obliga a usar. Puedes usar Ext4 en ambas marcas. Mi Nas está en Ext4.
- En cuanto al Raid, si lo anterior es cierto, ya no habría diferencias entre ambas marcas.
- Transcoding: si vas a usar tu Nas como reproductor multimedia, efectivamente Qnap tiene ventaja con sus salidas HDMI, pero en mi opinión es algo poco práctico habiendo tantos reproductores buenos en el mercado. ¿Vas a colocarlo cerca del televisor? En fin, que yo a eso no le daría ninguna importancia (pero cada uno tiene sus preferencias, claro). Y siguiendo con el transcoding (ya sea Synology o Qnap), ¿no has pensado en usar Kodi? La ventaja frente a otros sistemas es que no necesitas ninguna potencia en el NAS ya que es el propio reproductor multimedia el que lee el archivo sin transcodificar nada.
Si pretendes instalar el servidor Plex en el NAS o tirar de aplicaciones nativas que sí transcodifican, ya sí necesitas potencia.

Creo que elijas lo que elijas acertarás. Por lo que he leído (y ha sido mucho), Qnap puede estar un puntito por delante de Synology en cuanto a hardware, y Synology un poco por delante en cuanto a software.
En cualquier caso, creo que tus requisitos no valen para decidir entre una marca u otra, ya que ambos te ofrecen los mismo (salvo que Synology tiene un sistema adicional de archivos y Qnap una salida HDMI (que yo nunca usaría)).
Conclusión: el que más te guste o se ajusta a tu bolsillo. Estarás encantado con él. Yo no sé como vivía antes sin NAS