Bonjour,
Vegas a du mal à exporter avec certains codecs et dans ces cas là l'image déconne totalement et devient moche. J'ai pu en faire l'expérience en voulant exporter en xvid par exemple, je ne savais aps que le non compressé avait le même problème.
Pour en venir à ton problème de réencodage... FFDshow est plutôt déconseillé pour l'encodage multi-passes, autant prendre les vrais codecs, plus à jour, moins de bugs, plus performants.
Je te conseille de prendre l'encodeur x264 officiel et d'utiliser un logiciel de réencodage comme Megui (c'est celui que j'utilise), c'est un peu plus long à configurer (il faut avisynth, .net) mais au moins il est à jour et tu peux faire un bon encodage en 2 passes avec toutes les options possibles.
Et sinon pour tes codecs intermédiaires : fraps n'enregistre pas du non compressé : tu aurais 4 images par secondes en 1600x1200 ton disque dur t'empêcherait d'enregistrer plus vite.
Puisque tu as FFDshow d'installé je te recomande le Mjpeg de ffdshow, tu peux jouer sur la rapport de compression/qualité et tu peux avoir une très très bonne qualité d'image sans avoir des tailles de fichier démesurées.