A moins bien sur d'un bug logiciel (mais j'en doute), il y a de forte chance que la distortion de l'image vienne d'un parasitage du signal vidéo entre la sortie de ta console et ta carte d'acquisition : c'est à dire dans tes cables.
Puisqu'avant c'était OK, c'est surement le changement de disposition des appareils qui est en cause.
Par exemple, il y a peut être, à côté de la où passe ton cable vidéo, des appareils sources de parasites électromagnétique qui vienne pourrir ton signal.
Tes écrans, ils sont tous LCD où y'a des cathodiques ? Un petit cable vidéo qui passe à côté d'un CRT en marche il se fait pourrir.
Idem pour les enceintes, évite de faire passer le câble juste à côté.
Encore pire : les blocs d'alimentation (transformateur...) qui peuvent trainer par terre et ton cable passer à côté.
Mais même le fais de passer à côté d'un cable / ralonge / multiprise electrique peut pourrir le signal.
Essaye donc de le faire par un chemin le moins "polué' possible. Même si forcément en arrivant vers ton PC il va commencer à rencontrer du monde...
Enfin, si t'as carte d'aquisition est externe (USB ou Firewire), positionne là éloignée de ton unité centrale, comme ça ton cable vidéo n'aura pas besoin de s'aventurer dans cette zone hyper parasitée.
Aussi, essaye d'éteindre (en les débranchant carrément) les équipement électronique environnant dont tu n'as pas besoin au moment de l'enregistrement de ta vidéo, et regarde si ça change quelque chose.
A priori il devrait y avoir du changement (positif) !
Ensuite rebranche progressivement chaque truc et essaye d'identifier de cette manière ce qui provoque la bordel : tu sauras ce qu'il faut déplacer / éteindre pour bien capturer.
Dernière astuce : plus les connexions sont courte, moins le signal à de chance de se faire parasiter, vue que le cable ne passe pas par 36 endroits inutiles et source potentielle de distorsion. Si tes cables sont plus long que nécessaire, essaye avec des plus court.
Un autre facteur de la qualité d'un cable (enfin je vulgarise beaucoup là) : son épaisseur. Il y a des cable vidéo qui sont bien épais et blindé (coaxial type RG-59 voire RG-6), on voit dessuite la différence par rapport aux cable tout cheap offert avec les cartes d'acquisition.
Voilà ! Bon courage !