Hola, a ver si te sirve de ayuda, por partes.
Si las cajas están configuradas como "small" ya las estás cortando para enviar las bajas frecuencias al sub, luego sobra la opción en el canal LFE el añadir los principales (opción "LFE + main") ya que en cualquier caso reproducirá las bajas frecuencias destinadas a los altavoces principales, déjalo en "LFE" a secas.
Corte de frecuencia, como te han apuntado, con cortar cada canal a una frecuencia algo superior al límite bajo de respuesta plana será suficiente, es decir, frontales (que bajan a 48 Hz según especificaciones) bien puedes cortar a 60 Hz, el central (que baja a 60 Hz según especificaciones) algo adecuado pueden ser 80 Hz, al igual que los traseros (que bajan a 62 Hz según especificaciones).
El corte superior del canal LFE, sobre 120 Hz, o a lo sumo 140 Hz es suficiente (ten en cuenta que según sus especificaciones, su respuesta plana comienza en 125 Hz, para qué enviar señal de más alta frecuencia si no será capaz de reproducir plano).
Respecto al sub, sin conocer cómo funciona el selector de corte de frecuencia (asumimos que generalmente cualquier señal baja de entrada, irá cortada por el propio DSP del subwoofer, salvo algunos modelos con entrada específica LFE) por precaución mejor dejarlo siempre el selector de corte al máximo, generalmente entre 120 y 150 Hz la mayoría de marcas/modelos. La ganancia, el propio AVR al calibrar te hará una medida (al menos el Audyssey XT32) para indicarte si la ganancia está centrada en una presión de referencia, una vez ahí, no toques que al calibrar se encargará de ajustar la ganancia correcta. Solo si la ganancia del canal LFE se queda en los límites (+12 dB o -12 dB) deberás modificar la ganancia en el sub (si el AVR te marca ganancia en negativo, bajar volumen en el sub. Si es en positivo, subir volumen en el sub. El caso general es que quede en negativo, un sub suele tener mayor potencia que el propio AVR). Y tal como te indica el compañero, si el valor queda negativo muy distante de cero o del resto de ganancias de los demás canales (por ejemplo el sub a -10 dB y el resto de canales ganancias más próximas a cero) bien puedes bajar el volumen del sub, y aumentar la ganancia en la misma proporción, el caso es que quede igualmente equilibrada la presión sonora en el punto de escucha, entre sub y resto de canales.
Saludos.