Dipende da cosa c'e` fuori.

In linea di massima (per browser conformi) puoi mettere uno dei seguenti:
max-height: 80%;
max-height: 30em;
max-height: 400px; /* non valido per pagine accesibili */

Oppure puoi limitare l'altezza tramite un blocco che contiene la tabella, oppure la tabella stessa.

Nota peraltro che il browser IE non supporta il max-height, per cui occorre lavorare con gli hack (vedi "link utili")