Su una tabella e sulle celle meglio specificare sempre la larghezza, riguardo all'altezza se deve essere fissata, allora occorrerà specificare anche quella. Nel tuo secondo esempio è inutile specificare l'altezza sulle ultime due celle (che si adatteranno all'altezza della prima), è errato specificarla sul tag table che non ha fra i suoi attributi height.
Se il tuo problema è che la tabella non assume un'altezza in percentuale è perché sbagli qualcosa, esempio:

codice:
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1" />
<title>titolo</title>

<style type="text/css">
html, body {
    height: 100%;
    margin:0;
}
#tabella{
width:980px;
height:100%;
border:0;
border-collapse:collapse;
margin:0 auto;
background:green /* per visualizzare la tabella */
}
#tabella td{
padding:0;
height:100%;
}
</style> 
</head>

<body>
<table id="tabella">
  <tr>
    <td width="10"> </td>
    <td width="960"> </td>
    <td width="10"> </td>
  </tr>
</table>
</body>
</html>
Per quanto riguarda la costruzione di layout senza tabelle, quello che posso consigliarti è lo studio della guida css. Puoi anche cercare e scaricare dei layout semplici già pronti e esercitarti su quelli modificandoli