Personnellement, j'ai vu des choses comme cela lorsque j'ai tenté d'overclocker mes barrettes mémoire...
Il est possible que ta mémoire soit mal cadencée et qu'elle renvoie des informations erronées... Tu pourrais essayer Memtest, si tu arrives à lancer le test.