per l'XHTML ci sono alcuni errori:
La versione corretta e`:

<a href="bigimmagine.jpg" onclick="zooma(this,'titolo','alt','non mi ricordo');return(false);">
[img]smallimage[/img]</a>

Tieni presente che alt="img" e` una assurdita` (nel senso della accessibilita`): chiunque sa che quella e` un'immagine: devi specificare cosa contiene quella immagine.


Tornando al tuo JS.
document.embeds e` un oggetto non standard ( http://www.w3schools.com/htmldom/dom_obj_document.asp ), solo che non ho capito con che cosa va sostituito.

Questa riga contiene alcuni errori: un duepunti che dev ediventare un ; , una maiuscola e un javascript di troppo.
"</head><body style='margin:0px;padding:0px;' onload='autoSize();'>" );

Mi viene in mente solo ora ...
Pero` al posto di document.embeds potresti usare
document.getElementById('ID_OGGETTO')
dove devi chiaramente definire l'attributo id all'oggetto in questione.