firefox non supporta l'autenticazione integrata di windows.
quindi, o metti username e password dell'utente windows nella finestrella che ti appare, oppure fai girare IIS con accesso anonimo (devi disabilitare l'autenticazione integrata nella console di IIS alla voce protezione)