la scheda è piuttosto recente quindi, in teoria, perfettamente in grado di mandare compiz e compagnia bella.

non ho ubuntu sotto mano e la mia radeon usa i driver open di xorg, immagino che per risolvere il problema sia sufficiente installare i driver proprietari di ati che puoi trovare qui

visto che l'argomento è stato trattato diverse volte su questo forum e in generale online ti consiglio anche di fare una ricerca.

p.s.: tra l'altro il sistema stesso dovrebbe proporti di poter installare i driver proprietari mediante un comodo pop-up ma aspetta la conferma di un ubuntista per questo