Esatto, l'elemento dovrebbe risultare totalmente assente dal rendering della pagina, come se non esistesse.Da quel che so, un <div> con questo attributo di non-visualizzazione, dovrebbe essere sostanzialmente invisibile, "come se non ci fosse".
Pertanto il suo "ingombro" viene totalmente azzerato?
Non mi risulta che restino attivi i margini o qualche altra proprietà relativa all'ingombro dell'elemento con display:none.Noto che browser diversi (ma recenti) reagiscono in modo diverso... possibile che alcuni mantengano spazi bianchi (come se i margin del div fossero ancora considerati)?
Sono più propenso a pensare che il problema sia da cercare altrove, magari qualche proprietà degli elementi adiacenti a quello "nascosto", o qualche elemento stesso che crea in qualche modo quello spazio che vedi.
A quel punto è possibile che il comportamento sia differente su diversi browser.
Senza vedere la pagina in esecuzione e/o il CSS esatto (dell'elemento in questione e di tutti gli altri nell'intero scenario) è difficile capire da cosa possa dipendere.
Puoi postare un link all'eventuale pagina pubblica?