In realtà è IE che interpreta in modo errato l'alt. Questo serve infatti solamente ad inserire un testo alternativo - come dice il nome - ai fini dell'accessibilità.

FF, pertanto, comportandosi correttamente non lo visualizza. Per fa apparire "il rettangolino giallo con il testo" devi usare l'attributo title.

P.S. Se fai una ricerca nel forum trovi tante discussioni analoghe.