Déjà, tu peux mettre à jour Virtualdub en version 1.5.4 + cvs du 09/08/2003, ca peut grandement aider... :
http://sourceforge.net/projects/virtualdubmod
Ensuite, je vois pas quelle verison de xvid dont tu parles... Les vrai "versions" d'xvid sont identifiées par un nom de "distributeur" (Umaniac, Nic ou Koepi) et une date. Essaie par exemple de mettre la version de Koepi du 24/06/2003 :
http://koepi.roeder.goe.net/
(désinstalle bien l'ancienne avant)
Essaie déjà cela et dis moi si tu as toujours le même problème...