casi no uso avisynth y no recuerdo si era masktools el que tenía 2 versiones o era otro .dll.

en cualquier caso, aquí tienes la última versión de masktools, al parecer compatible con avisynth 3.0 (que saldrá dentro de poco).
http://manao4.free.fr/masktools-v2.0a10.zip