Se vuoi farlo con i CSS, l'immagine deve essere uno sfondo.

Quindi:
a:link { background-image: url(librochiuso.gif); }
a:visited { background-image: url(librosciupato.gif); }
a:hover { background-image: url(libroaperto.gif); }
a:active { background-image: url(librogrande.gif); }
(in quest'ordine!!)

Non ho analizzato gli altri attributi.
Nel tuo sito devono esserci le 4 immagini, naturalmente; meglio ancora se sono precaricate nel browser.

Dovrai anche fare modifiche al codice HTML. Come minimo ci devi mettere un'immagine trasparente al posto del libro.