Ciao simone, innanzitutto benvenuto.

un popup, un frame, una tabella... troppa roba? a che pro?
vabbè...

le tabelle e le celle contenute non supportano le scrollbar:
devi inserive un div con proprietà overflow all'interno di una cella.

ES:

codice:
 
<table border="1" width="200px" height="200px" id="table1">
	<tr>
		<td width="100px" height="100px"><div id="testo" style="width: 100px; height: 100px;overflow-y:scroll">

tanto testo inutile tanto testo inutile tanto testo inutile tanto testo inutile tanto testo inutile tanto testo inutile tanto testo inutile tanto testo inutile </p></div></td>
		<td width="100px" height="100px"></td>
	</tr>
	<tr>
		<td width="100px" height="100px"></td>
		<td width="100px" height="100px"></td>
	</tr>
</table>