C'est compatible, mais ça n'a vraiment aucun intérêt.
Une HD7870 te sortira les mêmes perfs sinon mieux et le prix sera globalement le même si tu te sépares de la 7770, que tu pourrais aussi bien garder en carte de secours.
Dans tous les cas, si elle ne te semble pas largement insuffisante, mieux vaut attendre un peu car ça devrait pas trop tarder à bouger.